caxapa.ru :: Например при журналировании/статистике накапливаемых данных плавучка - зло. Сталкивались уже с таким, когда при большом накопленном расходе и малом текущем расходе накопленный расход просто перестает увеличиваться: 1E+9 + 1E-9=1E+9 :)

rezident (26.10.2010 00:16 - 00:20, просмотров: 92) ответил de3 на Вам бы наши задачи :) при 150дБ динамического диапазона у Вас бы 4 байтового инта для самой минимальной статистики бы не хватило бы :)

Например при журналировании/статистике накапливаемых данных плавучка - зло. Сталкивались уже с таким, когда при большом накопленном расходе и малом текущем расходе накопленный расход просто перестает увеличиваться: 1E+9 + 1E-9=1E+9 :)

Ответить

- а нех пренебрегать основами вычислительной математики! - de3(26.10.2010 01:00)
- то же самое и с бухгалтерией - koyodza(26.10.2010 00:20)
  - Угу. Слышал, что "умельцы" на ошибках округления капитальчик себе сколачивали :) - rezident(26.10.2010 00:24)

Микроконтроллеры