Vit (25.01.2017 14:15, просмотров: 146) ответил 3m на нужна ошибка 2/4096 от входных 30mV, т.е 14мкВ. На фикспойнтах посчитать можно но гимор - надо постоянно двигать туда-сюда и вручную следить за диапазоном значений на каждом этапе вычислений. тот же корень из uint16_t уже ведет к потере точности.
Vit (25.01.2017 14:15, просмотров: 146) ответил 3m на нужна ошибка 2/4096 от входных 30mV, т.е 14мкВ. На фикспойнтах посчитать можно но гимор - надо постоянно двигать туда-сюда и вручную следить за диапазоном значений на каждом этапе вычислений. тот же корень из uint16_t уже ведет к потере точности.