VLLV (25.10.2021 16:10, просмотров: 131) ответил Aleksey_75 на не в тему конечно! чем так привлекательно использование чисел с
плавающей точкой ?? я обычно привожу к *10К.... 10М, все удобно и с
минимальными затратами на вычисление-
- точность какая нужна ? откуда получаете ?? - Aleksey_75(25.10.2021 16:16)
- В том то и дело, точность разная, от измерения батарейки 1%, света
0,5% до измерения температуры с разрешением 0.01 градуса через
сигма-дельта 24, а механизм одинаковый. Имеется команда чтения
результатов без обработки (фактически значений АЦП) и записи
калибровочных коэффициентов, все во float. Не нужно думать о
диапазонах, вычитал при одних условиях, вычитал при других,
посчитал коэффициенты, записал - и все готово. - VLLV(25.10.2021 17:06)
- бррр... ну вот представим... ацп вам дает результат в int? по факту
в микровольтах? не ? ну и считайте как есть - Aleksey_75(25.10.2021 17:12)
- По факту в попугаях, чтобы перевести в микровольты, нужен целочисленный коэффициент + дополнительная константа, тобы вогнать в целочисленный диапазон без ухудшения разрешения, и эта константа своя для каждой величины. Так вот с float этой константы нет. - VLLV(25.10.2021 17:15)
- Что может посоветовать человек, не поставивший прививку? :-) - SciFi(25.10.2021 17:13)
- фашизм??? доставайте свой циркуль, будем мою голову измерять))) - Aleksey_75(25.10.2021 17:25)
- Зачем её измерять? Ты и так все данные выдаёшь, не утаивая :-) - SciFi(25.10.2021 17:33)
- прикинь! вот такой я честный! не забудь записать ))) - Aleksey_75(25.10.2021 17:38)
- Зачем её измерять? Ты и так все данные выдаёшь, не утаивая :-) - SciFi(25.10.2021 17:33)
- т.е. не понимающий очевидных вещей? :) - VLLV(25.10.2021 17:15)
- да куда мне до вас, ведь если число с точкой умножить на 10м точка
сохранится - Aleksey_75(25.10.2021 17:27)
- Тут уже я не догоняю. Я же не только привился, я еще и переболел. - VLLV(25.10.2021 17:45)
- да куда мне до вас, ведь если число с точкой умножить на 10м точка
сохранится - Aleksey_75(25.10.2021 17:27)
- фашизм??? доставайте свой циркуль, будем мою голову измерять))) - Aleksey_75(25.10.2021 17:25)
- бррр... ну вот представим... ацп вам дает результат в int? по факту
в микровольтах? не ? ну и считайте как есть - Aleksey_75(25.10.2021 17:12)
- В том то и дело, точность разная, от измерения батарейки 1%, света
0,5% до измерения температуры с разрешением 0.01 градуса через
сигма-дельта 24, а механизм одинаковый. Имеется команда чтения
результатов без обработки (фактически значений АЦП) и записи
калибровочных коэффициентов, все во float. Не нужно думать о
диапазонах, вычитал при одних условиях, вычитал при других,
посчитал коэффициенты, записал - и все готово. - VLLV(25.10.2021 17:06)
- точность какая нужна ? откуда получаете ?? - Aleksey_75(25.10.2021 16:16)