caxapa.ru :: Не так важна величина, как значащие цифры, у флоат это ~ 7-8 знаков. Например мне для вычисления температуры по полиному 3-4 порядка флоата еле-еле хватает. Или по другому: для простых САУ флоат дает разрешение по управлению не хуже 10-7

Anvar (Вчера, 12:05, просмотров: 27) ответил Make_Pic на Все значения во float, тобишь использовать как есть, без приведения к 100% максимального рабочего диапазона параметра к 100% ? Параметры очень сильно отличаются по величине значений.

Не так важна величина, как значащие цифры, у флоат это ~ 7-8 знаков. Например мне для вычисления температуры по полиному 3-4 порядка флоата еле-еле хватает. Или по другому: для простых САУ флоат дает разрешение по управлению не хуже 10^-7

Ответить

- где требуется такая точность вычисления температуры? LordN(148 знак., Вчера, 12:18)
  - Мне линейной не хватает - Anvar(Вчера, 12:28)
  - Я тоже сталкивался. Если полином 4-й степени, там флоат может уже сглючить. Проблема потери точности при сложении, вычитании или что-то типа того. - SciFi(Вчера, 12:21)
    - эт называется вычислительный шум LordN(280 знак., Вчера, 14:04)
    - Товарищ Горнер смотрит на Вас с ленинским прищуром. - Kpoк(Вчера, 13:02)

Кибернетика, автоматика, протоколы