caxapa.ru :: Методу Гаусса до балды, каким из трёх способов выбрать множитель. Речь о том, что реализация по п.3 способна выдавать кривой результат независимо от разрядности. В этом принципиальное отличие п.3 от п.1 и п.2, которые такой проблемы не вызывают.

Д.ARMоед (05.07.2012 07:31 - 07:46, просмотров: 195) ответил Ксения на Адгоритм Гаусса работает, как дятел (п. 3). И здесь имеет место не ошибка переполнения, а нехватка поля для представления мантиссы. Точность порядка e-13/e-14 обычна для вычислений в разрядной сетке double-64.

Методу Гаусса до балды, каким из трёх способов выбрать множитель. Речь о том, что реализация по п.3 способна выдавать кривой результат независимо от разрядности. В этом принципиальное отличие п.3 от п.1 и п.2, которые такой проблемы не вызывают.

Ответить

Технологии