LordN, философ (Вчера, 12:18, просмотров: 63) ответил Anvar на Не так важна величина, как значащие цифры, у флоат это ~ 7-8
знаков. Например мне для вычисления температуры по полиному 3-4
порядка флоата еле-еле хватает. Или по другому: для простых САУ
флоат дает разрешение по управлению не хуже 10-7ЛН
-
- Мне линейной не хватает - Anvar(Вчера, 12:28)
- Я тоже сталкивался. Если полином 4-й степени, там флоат может уже
сглючить. Проблема потери точности при сложении, вычитании или
что-то типа того. - SciFi(Вчера, 12:21)
- эт называется вычислительный шум LordN(280 знак., Вчера, 14:04)
- Товарищ Горнер смотрит на Вас с ленинским прищуром. - Kpoк(Вчера, 13:02)