ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Пятница
29 марта
1023212 Топик полностью
RxTx (01.08.2020 11:36, просмотров: 738) ответил VLLV на Предлагаю костыль, что неудивительно, ибо лежу в травме :)
У него ошибка из-за сдвига вместо деления на 65535 равна числу с которым относятся 216 к 216 - 1 

65535 / 65536 = 0.999984741

65536 / 65535 = 1.000015259

Шкала датчика из-за деления на чуть большее чем надо число чуть-чуть сжалась. Прибавление/вычитание сдвигает шкалу вверх-вниз, (но не сжимает-разжимает). Ошибки деления/умножения размазываются по всем битам результата, на всю шкалу. Складывая-вычитая вносим другую ошибку, смещение шкалы, не исправляя kоэфф сжатия.