caxapa.ru :: Не забыть про NaN, +0, -0, inf

VVB (07.04.2015 18:55, просмотров: 122) ответил SciFi на Как-то так:

Не забыть про NaN, +0, -0, inf

Ответить

- А что про них не забыть? - Alt@ir(07.04.2015 19:12)
  - Если int16_t-->float-->int16_t, то там ничего такого быть не может. - SciFi(07.04.2015 19:23)
    - Спасибо! Я чего такими вопросами то задался, был у меня отличный целочисленный КИХ фильтр. После того как сделал его float прямым приведением, он фильтровать перестал. Понимаю, что косяк должен быть прост и очевиден, но пока блуждаю в трех соснах Alt@ir(4 знак., 08.04.2015 05:58)
      - 1. Мож от целочисленного фильтра остались сдвиги? 2. Мож она уже была не цел.... ммм..., не целочисленная арифметика а с фикс. точкой? - Олдфаг(11.04.2015 15:19, )
        
        Все проще и жестче :-) В процессе форматирования коэффициентов, они проходили через Excel, а он потихоньку их округлил. - Alt@ir(12.04.2015 09:04)
      - может быть дело в сложении чисел широкого диапазона. picarmer(94 знак., 11.04.2015 12:54)
        
        Кстати, да. Мантиса у 4-х байтного float 23 бита, а у такого же целого 31 бит. - mr-x(11.04.2015 15:02)
        
        Ага, особенно при исходных данных, поступающих от 10-битного АЦП :)) - MBedder(11.04.2015 13:05)
        
        к чему это ваше сообщение? picarmer(94 знак., 11.04.2015 13:23)
        
        Так точно :-) АЦП - аудиокодек. Использую только старшие 16 бит. Float потому что f4 умеет его быстро считать, и надоело уже подгонять разрядность на каждом шаге. Да и удобнее. Не нужно каждый раз изгаляться что бы умножить на 0.01 или типа того. Alt@ir(39 знак., 12.04.2015 06:14)
        
        Насчет артефактов округления - спорно. У тебя аккумулятор давеча был какой разрядности? А теперича? - mr-x(13.04.2015 09:04)
        
        Просто если коэффициенты с 13 десятичных знаков после запятой пригладить до двух - оно и фильтровать будет так же никак. - Alt@ir(13.04.2015 15:01)
        
        Не не. С аккумулятором все хорошо. Я следил внимательно. А сейчас просто забил на него и все. Реально удобно. Чего я раньше flоat не пользовал? :-) - Alt@ir(13.04.2015 15:00)

Микроконтроллеры