ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Воскресенье
30 июня
338790 Топик полностью
Ксения (04.07.2012 21:13, просмотров: 198) ответил Д.ARMоед на Нет, я циник. Как выбираем произвольное число?
Адгоритм Гаусса работает, как дятел (п. 3). И здесь имеет место не ошибка переполнения, а нехватка поля для представления мантиссы. Точность порядка e-13/e-14 обычна для вычислений в разрядной сетке double-64.