Первый тестовый вариант прошивки из заглавного сообщения:
"Единственно где схалтурил: вместо умножения на 1000 деления на
0xFFFF просто сдвигал считанный с результат на 6 разрядов вправо".
Вместо 1000 получалось 1024. Ясно? Ошибку 2^-16 никто не
рассматривал, так как имеются другие ошибки, 2.4% без умножения или
колебания 0.8% при наличии кода умножения. В качестве костыля, перед сдвигом, травмированный участник предложил вычесть 1/64-ю и 1/128-ю от значения перед финальным сдвигом вправо на 6 бит.
Nikolay_Po (01.08.2020 12:24, просмотров: 685) ответил RxTx на 1. Я наверное что-то пропустил, не прочитал. Откуда взялись 2.4% ?