ВходНаше всё Теги codebook PARTS Поиск Опросы Закон Среда
12 августа
/1023212
Топик полностью
RxTx (01.08.2020 11:36, просмотров: 101) в ответ на Предлагаю костыль, что неудивительно, ибо лежу в травме :) - автор: VLLV
У него ошибка из-за сдвига вместо деления на 65535 равна числу с которым относятся 216 к 216 - 1 

65535 / 65536 = 0.999984741

65536 / 65535 = 1.000015259

Шкала датчика из-за деления на чуть большее чем надо число чуть-чуть сжалась. Прибавление/вычитание сдвигает шкалу вверх-вниз, (но не сжимает-разжимает). Ошибки деления/умножения размазываются по всем битам результата, на всю шкалу. Складывая-вычитая вносим другую ошибку, смещение шкалы, не исправляя kоэфф сжатия.

Кварцевание и карантин
Ответить
Ответы