caxapa.ru :: Что вы там за велосипеды на ассемблере изобретаете? Гцц с флоат128 даёт честные 112разрядов мантиссы. И вся математика под этот тип есть.

quadmath (04.06.2012 23:21, просмотров: 1) ответил Ксения на Не в компиляторе дело, тем более что я на ассемблере скалярные произведения считаю. Ошибка нарастает при длинных векторах. До какой-то величины сумма накапливается, а после новые слагаемые игнорит. По идее хорошо было бы не всё в одном сумматоре

Что вы там за велосипеды на ассемблере изобретаете? Гцц с флоат128 даёт честные 112разрядов мантиссы. И вся математика под этот тип есть.

Средства и методы разработки