caxapa.ru :: Может быть, там 444.999[9] получается. И принтфом толком не увидишь (он округлит до нужного числа разрядов, а не хватает самого младшего) -- в watch view или отладчике то же самое. Рекомендую посмотреть в hex-виде и сравнить с 445.0, сразу станет

fk0, легенда (28.09.2011 13:49, просмотров: 103) ответил Dany на Мне осмысленно не нужно вообще округление, вот чего хочется 9.99 * 100 = 999 и 4.45 * 100 = 445. В текущий момент приходится врукопашную отслеживать такие ситуации. Вот и подумалось, что так не должно быть, поэтому и вопрошаю.

Может быть, там 444.999[9] получается. И принтфом толком не увидишь (он округлит до нужного числа разрядов, а не хватает самого младшего) -- в watch view или отладчике то же самое. Рекомендую посмотреть в hex-виде и сравнить с 445.0, сразу станет ясно. Почему 444.99[9] -- потому, что в двоичной системе точно такое число не представить (4.45 после умножения на 100).

[ZX]

Ответить

- Так и есть, Dany(149 знак., 28.09.2011 14:33)

Средства и методы разработки