caxapa.ru :: Теоретически можно попробовать, практически

Eddy_Em (14.11.2023 13:34, просмотров: 152) ответил Dingo на ]:-> ~~На что спорим?~~ С уточнением: используя целочисленные операции. UPD: погорячился. 1/(2^32) ~= 232.83e-12, а там ещё 9 порядков.

Теоретически можно попробовать, практически - лень.

Есть более простой способ, которым я пользуюсь: кусочно-линейная интерполяция в пределах заданной точности. Но в данном случае, т.к. у каждого датчика свои константы, такой финт не проходит. Разве что вообще не считать ничего на МК, отдавая сырые данные компу.

eddy-em.livejournal.com github.com/eddyem

Ответить

- Можно попробовать оценить, чему равна 0.01℃ при заданном сомножителе, и огрубить вычисления разрядов точнее этой величины. Не считанном коэффициенте, а 4, (-2),... Ну и вряд ли на полиноме с е-21 даже х^4 все разряды будут задействованы. Однако к синхронизации это уже никаким боком не относится. - Dingo(14.11.2023 13:44)

Микроконтроллеры