bialix (16.01.2007 18:49, просмотров: 1) ответил NSerg на PSoC
ошибка округления в 4м знаке при умножении -- это глюк, скорее всего в библиотеке мат.операций http://www.onembedding.com/info/float/
Float имеет точность не более 7 десятичных знаков после запятой. При умножении мантиссы перемножаются, а экспоненты складываются. Ошибка по идее может вылезать только в 6-7 десятичном знаке после запятой.
Опять же, повторю вопрос Билла: как Вы это обнаруживаете? Какие тесты делаете? Пробовали прогонять тесты на обычном PC с тем же float?
Краткое введение в формат чисел с плавающей запятой -- по ссылке.
)
)