caxapa.ru :: Вопрос немного другой: Мк. Математика с фиксированной точкой.

+++ (11.02.2009 09:45, просмотров: 75) ответил LordN на или (dA/A + dB/B)*(A*B) < 0.1

Вопрос немного другой: Мк. Математика с фиксированной точкой. умножаются 2 16-битных числа. результат- 32 бит число, из них 16 дробная часть Самый младший разряд дробной части после округления всегда должен получаться правильный. Какова должна бять для этого битность дробных частей множителей?

Ответить

- Вопрос тот же. Пусть нам нужно получить результат с точностью ±1. Пусть для простоты у нас A=100 задано точно, тогда B может быть задано с точностью не хуже ±0,01. Если у нас A=10000, то B уже должно быть задано с точностью ±0,0001. ReAl(309 знак., 11.02.2009 10:52)
  - Спасибо. А в каком букваре эта формула приводится? - +++(11.02.2009 12:39)
    - Она элементарно выводится для общего случая. Например, для многокаскадных усилителей Dir(674 знак., 11.02.2009 17:02)
    - Кажется, в учебнике мат-ки за 5-й класс :) - Алексей Мусин(11.02.2009 12:56)

Микроконтроллеры