ВходНаше всё Теги codebook PARTS Поиск Опросы Закон Воскресенье
9 августа
/1023221
Топик полностью
Nikolay_Po (01.08.2020 12:24, просмотров: 85) в ответ на 1. Я наверное что-то пропустил, не прочитал. Откуда взялись 2.4% ? - автор: RxTx
Первый тестовый вариант прошивки из заглавного сообщения: "Единственно где схалтурил: вместо умножения на 1000 деления на 0xFFFF просто сдвигал считанный с результат на 6 разрядов вправо". Вместо 1000 получалось 1024. Ясно? Ошибку 2^-16 никто не рассматривал, так как имеются другие ошибки, 2.4% без умножения или колебания 0.8% при наличии кода умножения. 

В качестве костыля, перед сдвигом, травмированный участник предложил вычесть 1/64-ю и 1/128-ю от значения перед финальным сдвигом вправо на 6 бит.

Ответить
Ответы