Вход Наше всё Теги codebook 无线电组件 Поиск Опросы Закон Среда
10 июля

О смысле всего сущего 0xFF Средства и методы разработки Мобильная и беспроводная связь Блошиный рынок Объявления

Микроконтроллеры PLD, FPGA, DSP AVR PIC ARM, RISC-V Технологии Кибернетика, автоматика, протоколы Схемы, платы, компоненты

Средства и методы разработки

339613 Топик полностью

rezident (08.07.2012 16:49, просмотров: 141) ответил Mahagam на ну так везде свой подход. мой пример (см. ссылку) удобнее считать в целых. газ - даблами. удавов - попугаями. лишь бы обоснованно было ))

Резюмируя. Чтобы не терять точность, локальные вычисления нужно производить в целых числах. Но! Обмениваться данными приходится во float.

Ответить

- я бы сказал иначе: там где требуется накопление малых величин разрядность вычислений должна обеспечивать заданную точность при сложении максимально допустимой суммы с минимальным исходным малым. где накопление не требуется обычно достаточно Mahagam(109 знак., 08.07.2012 16:57)
  - Целочисленная математика дает минимизацию абсолютной погрешности вычислений, вычисления же с применением "плавающих" чисел сохраняют лишь относительную погрешность. Нужно помнить об этих ограничениях. - rezident(08.07.2012 17:06)