ВходНаше всё Теги codebook PARTS Поиск Опросы Закон Пятница
7 августа
/1023226
Топик полностью
RxTx (01.08.2020 12:40, просмотров: 18) в ответ на Первый тестовый вариант прошивки из заглавного сообщения: "Единственно где схалтурил: вместо умножения на 1000 деления на 0xFFFF просто сдвигал считанный с результат на 6 разрядов вправо". Вместо 1000 получалось 1024. Ясно? Ошибку 2^-16 никто не рассматривал, так как имеются другие ошибки, 2.4% без умножения или колебания 0.8% при наличии кода умножения. - автор: Nikolay_Po
Я пропустил что ТС даже не умножал на 1000, а сразу сдвинул результат. Тогда ошибка равна (1024/65536) / (1000/65535) = 1.023984375 ~ 1.024 
Кварцевание и карантин
Ответить