Aleksey_75 (25.10.2021 14:24, просмотров: 128) ответил VLLV на В калькуляторе программиста не хватает конверсии hex[4]
<> float. Есть средство разработки с такой фичей?-
- Я тоже, но сейчас попробовал калибровку измериловки через плавающую
точку по методике заказчика и то, что правильно описано, работает.
А что неправильно - не будет работать и с целыми. - VLLV(25.10.2021 16:10)
- точность какая нужна ? откуда получаете ?? - Aleksey_75(25.10.2021 16:16)
- В том то и дело, точность разная, от измерения батарейки 1%, света
0,5% до измерения температуры с разрешением 0.01 градуса через
сигма-дельта 24, а механизм одинаковый. Имеется команда чтения
результатов без обработки (фактически значений АЦП) и записи
калибровочных коэффициентов, все во float. Не нужно думать о
диапазонах, вычитал при одних условиях, вычитал при других,
посчитал коэффициенты, записал - и все готово. - VLLV(25.10.2021 17:06)
- бррр... ну вот представим... ацп вам дает результат в int? по факту
в микровольтах? не ? ну и считайте как есть - Aleksey_75(25.10.2021 17:12)
- По факту в попугаях, чтобы перевести в микровольты, нужен целочисленный коэффициент + дополнительная константа, тобы вогнать в целочисленный диапазон без ухудшения разрешения, и эта константа своя для каждой величины. Так вот с float этой константы нет. - VLLV(25.10.2021 17:15)
- Что может посоветовать человек, не поставивший прививку? :-) - SciFi(25.10.2021 17:13)
- фашизм??? доставайте свой циркуль, будем мою голову измерять))) - Aleksey_75(25.10.2021 17:25)
- Зачем её измерять? Ты и так все данные выдаёшь, не утаивая :-) - SciFi(25.10.2021 17:33)
- прикинь! вот такой я честный! не забудь записать ))) - Aleksey_75(25.10.2021 17:38)
- Зачем её измерять? Ты и так все данные выдаёшь, не утаивая :-) - SciFi(25.10.2021 17:33)
- т.е. не понимающий очевидных вещей? :) - VLLV(25.10.2021 17:15)
- да куда мне до вас, ведь если число с точкой умножить на 10м точка
сохранится - Aleksey_75(25.10.2021 17:27)
- Тут уже я не догоняю. Я же не только привился, я еще и переболел. - VLLV(25.10.2021 17:45)
- да куда мне до вас, ведь если число с точкой умножить на 10м точка
сохранится - Aleksey_75(25.10.2021 17:27)
- фашизм??? доставайте свой циркуль, будем мою голову измерять))) - Aleksey_75(25.10.2021 17:25)
- бррр... ну вот представим... ацп вам дает результат в int? по факту
в микровольтах? не ? ну и считайте как есть - Aleksey_75(25.10.2021 17:12)
- В том то и дело, точность разная, от измерения батарейки 1%, света
0,5% до измерения температуры с разрешением 0.01 градуса через
сигма-дельта 24, а механизм одинаковый. Имеется команда чтения
результатов без обработки (фактически значений АЦП) и записи
калибровочных коэффициентов, все во float. Не нужно думать о
диапазонах, вычитал при одних условиях, вычитал при других,
посчитал коэффициенты, записал - и все готово. - VLLV(25.10.2021 17:06)
- точность какая нужна ? откуда получаете ?? - Aleksey_75(25.10.2021 16:16)
- Квадратный корень тоже с фиксированной точкой? - Cкpипaч(25.10.2021 14:56)
- скока точности нужно ?? - Aleksey_75(25.10.2021 16:17)
- Я тоже, но сейчас попробовал калибровку измериловки через плавающую
точку по методике заказчика и то, что правильно описано, работает.
А что неправильно - не будет работать и с целыми. - VLLV(25.10.2021 16:10)