caxapa.ru :: Предлагаю костыль, что неудивительно, ибо лежу в травме :)

VLLV (01.08.2020 10:32, просмотров: 812) ответил =AK= на Хочу то ли страшилку рассказать, то ли в жилетку поплакаться. Пока сам не знаю.

Предлагаю костыль, что неудивительно, ибо лежу в травме :)

Похерить умножение, а чуточку подправить расчет со сдвигом, чтобы убрать эти 2,4%. Навскидку : если из результата вычесть 1/64+1/128 , то 2,4 практически все компенсируются. А это банальные сдвиги.

Ответить

- Тоже раздумывал над этим. Возможно, тогда проблема исчезнет, но загадка-то останется. - =AK=(01.08.2020 16:13)
  - Т.е. нам шашечки а не ехать? ;) Может какая-то аппаратная причина, питание осциллографом смотрели? Биения частот записи и опроса. - VLLV(01.08.2020 16:37)
    - Длля справки, устройство очень медленное и маломощное: =AK=(267 знак., 01.08.2020 16:50)
      - Вот прямо сейчас делаю логгер. Страшно, похожий алгоритм :) - VLLV(01.08.2020 17:18)
- У него ошибка из-за сдвига вместо деления на 65535 равна числу с которым относятся 2¹⁶ к 2¹⁶ - 1 RxTx(371 знак., 01.08.2020 11:36)
  - Имелось ввиду вычитание не константы, а 1/64 и 1/128 от полученного значения. Тогда ошибка не 2.4%, а 0.0375%. - Nikolay_Po(01.08.2020 11:54)
    - 1. Я наверное что-то пропустил, не прочитал. Откуда взялись 2.4% ? RxTx(165 знак., 01.08.2020 12:11)
      - Первый тестовый вариант прошивки из заглавного сообщения: "Единственно где схалтурил: вместо умножения на 1000 деления на 0xFFFF просто сдвигал считанный с результат на 6 разрядов вправо". Вместо 1000 получалось 1024. Ясно? Ошибку 2^-16 никто не рассматривал, так как имеются другие ошибки, 2.4% без умножения или колебания 0.8% при наличии кода умножения. Nikolay_Po(146 знак., 01.08.2020 12:24)
        
        Я пропустил что ТС даже не умножал на 1000, а сразу сдвинул результат. Тогда ошибка равна (1024/65536) / (1000/65535) = 1.023984375 ~ 1.024 - RxTx(01.08.2020 12:40)
- У буржуев это называется "strength reduction". Отнять силу, практицки та же травма :-| - SciFi(01.08.2020 11:27)
  - "Все придумано до нас" :( - VLLV(01.08.2020 11:46)

Микроконтроллеры PIC