caxapa.ru :: Ошибка - деление будет в целых числах.

ASDFS, USB-гуру (26.01.2006 12:44, просмотров: 110) ответил РДимка на Неужели я единственный, у кого возникают вопросы? У остальных только ответы? Про деление.

Ошибка - деление будет в целых числах. Правильно float temp = (float)SUM/N; Но! Мантисса у флоата - 24 бита, а у лонга диапазон 32 бита. Возможна потеря точности. Если что - переходите на double 64 бита и не забыть опцию (в некоторых версиях ИАРа делает дабл флоатом).

Ответить

- точно, в моем варианте получается в целых! БОльшое спасибо! РДимка(1 знак., 26.01.2006 12:51, )
  - Обычно мы еще перед делением на N к сумме добавляем N/2, чтобы результат был "с округлением". - Алексей Мусин(27.01.2006 07:34, )

Микроконтроллеры