caxapa.ru :: Во флоатах есть неприятная нелинейность разрешения. Можно легко получить точность ниже, чем у фикспойнта с такой же разрядностью. если надо извлекать корень из uint16, нужно его растянуть на uint32. Будет фикспойнт 16.16

my504 (25.01.2017 15:48, просмотров: 94) ответил 3m на нужна ошибка 2/4096 от входных 30mV, т.е 14мкВ. На фикспойнтах посчитать можно но гимор - надо постоянно двигать туда-сюда и вручную следить за диапазоном значений на каждом этапе вычислений. тот же корень из uint16_t уже ведет к потере точности.

Во флоатах есть неприятная нелинейность разрешения. Можно легко получить точность ниже, чем у фикспойнта с такой же разрядностью. если надо извлекать корень из uint16, нужно его растянуть на uint32. Будет фикспойнт 16.16

Ответить

Микроконтроллеры