caxapa.ru :: Адгоритм Гаусса работает, как дятел (п. 3). И здесь имеет место не ошибка переполнения, а нехватка поля для представления мантиссы. Точность порядка e-13/e-14 обычна для вычислений в разрядной сетке double-64.

Ксения (04.07.2012 21:13, просмотров: 210) ответил Д.ARMоед на Нет, я циник. Как выбираем произвольное число?

Адгоритм Гаусса работает, как дятел (п. 3). И здесь имеет место не ошибка переполнения, а нехватка поля для представления мантиссы. Точность порядка e-13/e-14 обычна для вычислений в разрядной сетке double-64.

Ответить

- Методу Гаусса до балды, каким из трёх способов выбрать множитель. Речь о том, что реализация по п.3 способна выдавать кривой результат независимо от разрядности. В этом принципиальное отличие п.3 от п.1 и п.2, которые такой проблемы не вызывают. - Д.ARMоед(05.07.2012 07:31 - 07:46)

Технологии