caxapa.ru :: Предполагается IEEE 754-2008, binary32. От МК зависеть не должно. Сложно определить, сам датчик выдаёт nan или же формируется такое сочетание, что результат расчётов в ИАР = nan/inf.

Intekufa (16.04.2010 18:46, просмотров: 102) ответил Ксения на Это не от компилятора зависит, а от МК. Способен ли он вырабатывать прерывания (исключения) при операциях с плавающей точкой, и какие именно.

Предполагается IEEE 754-2008, binary32. От МК зависеть не должно. Сложно определить, сам датчик выдаёт nan или же формируется такое сочетание, что результат расчётов в ИАР = nan/inf. http://en.wikipedia.org/wiki/Single_precision_floating-point_format
Примеры по ссылке: 7f80 0000 = infinity ff80 0000 = -infinity Что, достаточно старший байт проверять на 7F / FF? А что тогда соответствует nan?

Ответить

- Ответ rezident(16.04.2010 18:56)
- if (x==FP_NAN) longjmp(...) - fk0(16.04.2010 18:55)

Микроконтроллеры