caxapa.ru :: Я вот прошу прощения за ламерский вопрос, а как правильно перейти от int16 к float и обратно? Ну так что бы точность не потерялась и все прочее?

Alt@ir (07.04.2015 15:31, просмотров: 7040)

Я вот прошу прощения за ламерский вопрос, а как правильно перейти от int16 к float и обратно? Ну так что бы точность не потерялась и все прочее?

Ответить

- none - picarmer(11.04.2015 13:21)
- Как-то так: SciFi(160 знак., 07.04.2015 15:45)
  - Не забыть про NaN, +0, -0, inf - VVB(07.04.2015 18:55)
    - А что про них не забыть? - Alt@ir(07.04.2015 19:12)
      - Если int16_t-->float-->int16_t, то там ничего такого быть не может. - SciFi(07.04.2015 19:23)
        
        Спасибо! Я чего такими вопросами то задался, был у меня отличный целочисленный КИХ фильтр. После того как сделал его float прямым приведением, он фильтровать перестал. Понимаю, что косяк должен быть прост и очевиден, но пока блуждаю в трех соснах Alt@ir(4 знак., 08.04.2015 05:58)
        
        1. Мож от целочисленного фильтра остались сдвиги? 2. Мож она уже была не цел.... ммм..., не целочисленная арифметика а с фикс. точкой? - Олдфаг(11.04.2015 15:19, )
        
        Все проще и жестче :-) В процессе форматирования коэффициентов, они проходили через Excel, а он потихоньку их округлил. - Alt@ir(12.04.2015 09:04)
        
        может быть дело в сложении чисел широкого диапазона. picarmer(94 знак., 11.04.2015 12:54)
        
        Кстати, да. Мантиса у 4-х байтного float 23 бита, а у такого же целого 31 бит. - mr-x(11.04.2015 15:02)
        
        Ага, особенно при исходных данных, поступающих от 10-битного АЦП :)) - MBedder(11.04.2015 13:05)
        
        к чему это ваше сообщение? picarmer(94 знак., 11.04.2015 13:23)
        
        Так точно :-) АЦП - аудиокодек. Использую только старшие 16 бит. Float потому что f4 умеет его быстро считать, и надоело уже подгонять разрядность на каждом шаге. Да и удобнее. Не нужно каждый раз изгаляться что бы умножить на 0.01 или типа того. Alt@ir(39 знак., 12.04.2015 06:14)
        
        Насчет артефактов округления - спорно. У тебя аккумулятор давеча был какой разрядности? А теперича? - mr-x(13.04.2015 09:04)
        
        Просто если коэффициенты с 13 десятичных знаков после запятой пригладить до двух - оно и фильтровать будет так же никак. - Alt@ir(13.04.2015 15:01)
        
        Не не. С аккумулятором все хорошо. Я следил внимательно. А сейчас просто забил на него и все. Реально удобно. Чего я раньше flоat не пользовал? :-) - Alt@ir(13.04.2015 15:00)

Микроконтроллеры