ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Среда
26 июня
338790 Топик полностью
Ксения (04.07.2012 21:13, просмотров: 197) ответил Д.ARMоед на Нет, я циник. Как выбираем произвольное число?
Адгоритм Гаусса работает, как дятел (п. 3). И здесь имеет место не ошибка переполнения, а нехватка поля для представления мантиссы. Точность порядка e-13/e-14 обычна для вычислений в разрядной сетке double-64.