caxapa.ru :: Это ошибка округления, связанная с представлнием числа в формате с плавающий точкой (стандарт IEEE-754). Только похоже что у вас переменная x как float отображается, а не как double . В дабле должно быть 2.0000000000000001E-1, а во флоат 2.00000003E-1.

rezident (23.11.2008 19:28, просмотров: 83) ответил emule на Всем привет!

Это ошибка округления, связанная с представлнием числа в формате с плавающий точкой (стандарт IEEE-754). Только похоже что у вас переменная x как float отображается, а не как double . В дабле должно быть 2.0000000000000001E-1, а во флоат 2.00000003E-1.

Ответить

- По ссылке он-лайн калькулятор для перевода hexadecimal->double/float/decimal - rezident(23.11.2008 19:36, ссылка)

Микроконтроллеры