rezident (23.11.2008 19:36, просмотров: 107) ответил rezident на Это ошибка округления, связанная с представлнием числа в формате с плавающий точкой (стандарт IEEE-754). Только похоже что у вас переменная x как float отображается, а не как double . В дабле должно быть 2.0000000000000001E-1, а во флоат 2.00000003E-1.
rezident (23.11.2008 19:36, просмотров: 107) ответил rezident на Это ошибка округления, связанная с представлнием числа в формате с плавающий точкой (стандарт IEEE-754). Только похоже что у вас переменная x как float отображается, а не как double . В дабле должно быть 2.0000000000000001E-1, а во флоат 2.00000003E-1.