caxapa.ru :: У него ошибка из-за сдвига вместо деления на 65535 равна числу с которым относятся 216 к 216

RxTx (01.08.2020 11:36, просмотров: 783) ответил VLLV на Предлагаю костыль, что неудивительно, ибо лежу в травме :)

У него ошибка из-за сдвига вместо деления на 65535 равна числу с которым относятся 2¹⁶ к 2¹⁶ - 1

65535 / 65536 = 0.999984741

65536 / 65535 = 1.000015259

Шкала датчика из-за деления на чуть большее чем надо число чуть-чуть сжалась. Прибавление/вычитание сдвигает шкалу вверх-вниз, (но не сжимает-разжимает). Ошибки деления/умножения размазываются по всем битам результата, на всю шкалу. Складывая-вычитая вносим другую ошибку, смещение шкалы, не исправляя kоэфф сжатия.

Спасибо, князь. Вы настоящий дворянин. И программист.

Ответить

- Имелось ввиду вычитание не константы, а 1/64 и 1/128 от полученного значения. Тогда ошибка не 2.4%, а 0.0375%. - Nikolay_Po(01.08.2020 11:54)
  - 1. Я наверное что-то пропустил, не прочитал. Откуда взялись 2.4% ? RxTx(165 знак., 01.08.2020 12:11)
    - Первый тестовый вариант прошивки из заглавного сообщения: "Единственно где схалтурил: вместо умножения на 1000 деления на 0xFFFF просто сдвигал считанный с результат на 6 разрядов вправо". Вместо 1000 получалось 1024. Ясно? Ошибку 2^-16 никто не рассматривал, так как имеются другие ошибки, 2.4% без умножения или колебания 0.8% при наличии кода умножения. Nikolay_Po(146 знак., 01.08.2020 12:24)
      - Я пропустил что ТС даже не умножал на 1000, а сразу сдвинул результат. Тогда ошибка равна (1024/65536) / (1000/65535) = 1.023984375 ~ 1.024 - RxTx(01.08.2020 12:40)

Микроконтроллеры PIC