caxapa.ru :: Keil погрешность при работе с float

Dany (10.06.2009 09:52, просмотров: 3865)

Keil погрешность при работе с float float fl, fractional; WORD integer; fl = 20.9; integer = (WORD) fl; fractional = fl - integer; // 0.8999996 fl = 20.7; integer = (WORD) fl; fractional = fl - integer; // 0.7000008 Как видно в первом примере погрешность в "-", а во втором в "+". Как добиться однообразной погрешности в "+" без дополнительного округления?

Ответить

- Так погрешность у кейла или у Вас в голове? У флоат точность, извините, 7 цифр, что наглядно видно из Вашего примера. Непонятна цель Вашей работы. - VAI(10.06.2009 20:49, ссылка, ссылка)
  - Вопрос возник в связи с выделением дробной части float, хотелось удостовериться, что нельзя сделать погрешность 7 знака всегда в "+". Например, чтобы десятые доли оставались неизменными(20.9 -> дробная 0.9XXXXXX). Хочется заметить, интересуют Dany(254 знак., 11.06.2009 10:07)
    - Добавьте единицу к мантиссе. - Сергей Борщ(11.06.2009 11:03)
      - Спасибо, помогло. - Dany(11.06.2009 12:56)

ARM, RISC-V контроллеры