caxapa.ru :: stm32. Преобразую 32bit переменную в формате fixpoint16х16 во float. Как с точки зрения точности результата правильнее собрать дробную часть: весь int32 преобразовать во float, сразу разделить его на 65536.0 и всё, или собирать дробную часть float из младших 16 бит int32 потетрадно (тогда делиться будет постепенно: на 16.0, на 256.0, на 4096.0, и только самую мл.тетраду придется делить на 65536.0)?

Boпpocик (26.12.2023 17:07, просмотров: 506)

stm32. Преобразую 32bit переменную в формате fixpoint16х16 во float. Как с точки зрения точности результата правильнее собрать дробную часть: весь int32 преобразовать во float, сразу разделить его на 65536.0 и всё, или собирать дробную часть float из младших 16 бит int32 потетрадно (тогда делиться будет постепенно: на 16.0, на 256.0, на 4096.0, и только самую мл.тетраду придется делить на 65536.0)?

- Оно? VladislavS.(1 знак., 27.12.2023 14:55, картинка)
- Преобразовать в положытельное и запомнить знак. Найти позиццыю старшей значащей "1" и отнять от неё 16. Это буит экспонента. И на позицыю-1 сдвинуть вправо. Вместо старшей единицы поставить знак. Проверить на NAN и прочее. Посчитать , не ушибся я на +\-1 где-нить. - mse homjak(26.12.2023 19:17)
  - Все это сделает компилятор сам, не надо париться. А как это реализовать - SciFi ниже написал. - il-2(27.12.2023 07:49)
    - Ну это, вобщем-то очебачно. Думал ему закат солнца вручную. - mse homjak(28.12.2023 20:28)
- int->float, и не делить, а умножать на 1.0f/(1<<16). - SciFi(26.12.2023 17:12)

Микроконтроллеры