RxTx (01.08.2020 12:11, просмотров: 754) ответил Nikolay_Po на Имелось ввиду вычитание не константы, а 1/64 и 1/128 от полученного
значения. Тогда ошибка не 2.4%, а 0.0375%.Спасибо, князь. Вы настоящий дворянин. И программист.
-
- Первый тестовый вариант прошивки из заглавного сообщения: "Единственно где схалтурил: вместо умножения на 1000 деления на 0xFFFF просто сдвигал считанный с результат на 6 разрядов вправо". Вместо 1000 получалось 1024. Ясно? Ошибку 2^-16 никто не рассматривал, так как имеются другие ошибки, 2.4% без умножения или колебания 0.8% при наличии кода умножения. Nikolay_Po(146 знак., 01.08.2020 12:24)