МПП-ARM (18.02.2010 05:08, просмотров: 230) ответил Evgeny_CD на Да хрен с ним, девайсом этим. Пока хачу чиста тыоретыцски узреть, есть ли где алгоритмы, которым эти 256 бит в большом количестве нужны?
Итерационные решалки линейных систем с сильно разрешенными матрицами, которые еще в добавок плохо обусловленны, например, из вычислительной газодинамики. При числе неизвестных от 100 миллионов, двойной точности обычно не хватает, приходится переходить на четверную точность. У нас под это даже специальные софты-алгоритмы есть как из двух даблов малой кровью сделать что-то очень похожее на четверную точность (мантисса удваивается, но теряются биты в экспоненте).