emule (23.11.2008 19:02, просмотров: 2438)-
- Это ошибка округления, связанная с представлнием числа в формате с плавающий точкой (стандарт IEEE-754). Только похоже что у вас переменная x как float отображается, а не как double . В дабле должно быть 2.0000000000000001E-1, а во флоат 2.00000003E-1. - rezident(23.11.2008 19:28)
- По ссылке он-лайн калькулятор для перевода hexadecimal->double/float/decimal - rezident(23.11.2008 19:36, ссылка)
- Это ошибка округления, связанная с представлнием числа в формате с плавающий точкой (стандарт IEEE-754). Только похоже что у вас переменная x как float отображается, а не как double . В дабле должно быть 2.0000000000000001E-1, а во флоат 2.00000003E-1. - rezident(23.11.2008 19:28)