ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Понедельник
22 июля
78234 Топик полностью
VAI (17.01.2007 07:29, просмотров: 1) ответил bialix на ошибка округления в 4м знаке при умножении -- это глюк, скорее всего в библиотеке мат.операций
я про математику PSoC ничего не знаю, но у ПИКа есть такой 24-бит флоат, у него точность 4..5 знаков. У PSoC какой флоат применяется? И еще, при проверке на компе нам понадобилось явно переводить переменные к типу float в выражениях, хотя они и определены были как float, иначе компилятор Borland C++ Builder v3 приводил все в double, расчитывал результат, затем приводил его во float.