ВходНаше всё Теги codebook PARTS Поиск Опросы Закон Среда
12 августа
/1023219
Топик полностью
RxTx (01.08.2020 12:11, просмотров: 89) в ответ на Имелось ввиду вычитание не константы, а 1/64 и 1/128 от полученного значения. Тогда ошибка не 2.4%, а 0.0375%. - автор: Nikolay_Po
1. Я наверное что-то пропустил, не прочитал. Откуда взялись 2.4% ? 

2. Значения 1/64 и 1/128 не константы?

3. Я правильно понял? Речь здесь идет о компенсации 1/65536 (сдвиг на 16 бит или взятие 2х старших байтов) вместо 1/65535 ?

Кварцевание и карантин
Ответить
Ответы