Make_Pic (Вчера, 10:34, просмотров: 27) ответил Nikolay_Po на Всегда всё считал в условных единицах, удобных для вычислений, чаще
всего целочисленных.-
- Не так важна величина, как значащие цифры, у флоат это ~ 7-8
знаков. Например мне для вычисления температуры по полиному 3-4
порядка флоата еле-еле хватает. Или по другому: для простых САУ
флоат дает разрешение по управлению не хуже 10-7 - Anvar(Вчера, 12:05)
- где требуется такая точность вычисления температуры? LordN(148 знак., Вчера, 12:18)
- Мне линейной не хватает - Anvar(Вчера, 12:28)
- Я тоже сталкивался. Если полином 4-й степени, там флоат может уже
сглючить. Проблема потери точности при сложении, вычитании или
что-то типа того. - SciFi(Вчера, 12:21)
- эт называется вычислительный шум LordN(280 знак., Вчера, 14:04)
- Товарищ Горнер смотрит на Вас с ленинским прищуром. - Kpoк(Вчера, 13:02)
- где требуется такая точность вычисления температуры? LordN(148 знак., Вчера, 12:18)
- Не так важна величина, как значащие цифры, у флоат это ~ 7-8
знаков. Например мне для вычисления температуры по полиному 3-4
порядка флоата еле-еле хватает. Или по другому: для простых САУ
флоат дает разрешение по управлению не хуже 10-7 - Anvar(Вчера, 12:05)