caxapa.ru :: PSoC

NSerg (15.01.2007 13:47, просмотров: 8761)

PSoC При работе с переменными типа double после умножения вещественного числа на любое другое, результат получается с ошибкой в 4-м знаке после запятой. Всебы ничего (такая точность меня устраивает), но при дальнейших расчетах эта лшибка увеличивается и результат отличается от истинного в разы. Интересно ктонибудь сталкивался с таким глюком?

- Если ничего не поможет и точность не улучшится, попробуй промасштабировать входные данные - tictoc(17.01.2007 14:45, )
  - и вообще, для контроллеров лучше использовать числа с фиксированной точкой - tictoc(17.01.2007 14:46, )
    - Чего это вдруг? ;О) Помножить 2 24-битных числа и сложить експоненты полюбому быстрее, чем помножить 32 или 48-64 разрядные. - =mse=(17.01.2007 14:52, )
      - 1) Вообще-то, выполнение даже простейшей операции с числами с плавающей точкой занимает несколько сотен тактов. tictoc(170 знак., 17.01.2007 15:08, )
        
        Ви, таки, будете мне рассказывать про плаваюсчую арифметику? ;О) Молодой человек, расскажите неграмотному, чем отличается умножение плывучее от целочисленного? В процессе ответа перед вами откроецца смысл есть ли жизни на Марсе. ;О) Может быть... - =mse=(17.01.2007 15:15, )
        
        Подозреваю, что нарвался на "гуру" в "плаваюсчуей" арифметике - tictoc(17.01.2007 15:24, )
        
        Очень правильные подозрения. Жаль только, что они не возникли ДО пердыша в воду про 128-битное умножение. Дык, что, я, таки, не дождусь откровения про разниццу плывучки и целкочисленности? Кроме как "сотни тактов"...Очень жаль... - =mse=(17.01.2007 15:31, )
        
        Ну так объясните Вы мне, раз такой гуру - tictoc(17.01.2007 15:44, )
        
        объяснение выше. Стоило бы хоть раз написать умножение 24Х24 и 32Х32, чтобы увидеть разницу. Не говоря уже о 128Х128. - =mse=(17.01.2007 15:48, , ссылка)
    - Во-во, и я сказал то же самое, но не смог подобрать политкорректных выражений :) --> - AVR(17.01.2007 14:51, , ссылка)
      - ИМХО Я думаю, NSerg задал вопрос, что бы ответ получить, а не Ваши "выражения" - tictoc(17.01.2007 15:14, )
        
        Индюк тоже думал. Он получил от меня именно ОТВЕТ на вопрос, и к тому же в форме, сберегающей его время и усилия - AVR(17.01.2007 21:51, )
        
        +1 - maik-vs(17.01.2007 15:41, )
- ошибка округления в 4м знаке при умножении -- это глюк, скорее всего в библиотеке мат.операций bialix(411 знак., 16.01.2007 18:49, , ссылка)
  - я про математику PSoC ничего не знаю, но у ПИКа есть такой 24-бит флоат, у него точность 4..5 знаков. У PSoC какой флоат применяется? VAI(258 знак., 17.01.2007 07:29, )
    - есть float и double, оба 4-х байтные - NSerg(17.01.2007 08:42, )
      - это уже понятно, что double у вас -- это тот же самый float bialix(172 знак., 17.01.2007 09:07, )
- А как Вы это обнаруживаете? - Bill(16.01.2007 16:35, )
  - с помощью отладчика. сравниваю результаты микроконтроллера с моделью на компе - NSerg(17.01.2007 06:01, )
    - а вы случайно библиотек экзотических никаких не применяете? -=Max=-(105 знак., 17.01.2007 16:38, )

Микроконтроллеры