caxapa.ru :: На плавучку принято жаловаться, что она неточно. Любой умножитель в 16-разрядных машинах даёт 32-разпядный результат. Плавучка хранит только 24 из них.

Kpoк (28.08.2020 09:26, просмотров: 639) ответил SciFi на Про плавучку принято жаловаться, что медленно. Приятно встретить человека, который не торопится без надобности. Рукопожимаю, коллега.

На плавучку принято жаловаться, что она неточно. Любой умножитель в 16-разрядных машинах даёт 32-разпядный результат. Плавучка хранит только 24 из них.

Ответить

- если исходные данные имеют три значащих разряда, а остальное шумы - то и 24-х разрядная плавучка будет иметь 3 значащих разряда, а не 24. - Mahagam(28.08.2020 10:37)
  - Проблема только в том, что это три МЛАДШИХ разряда. И они могут оказаться НИЖЕ 24 разрядов. И в этом все дело, а не в разрядности как таковой. У 24 разрядов минимальным значащим будут условно 200 нВ, а у 32-х уже 256 раз меньше... - my504(28.08.2020 14:25)
    - и то и другое может не иметь никакого физического смысла. нановольты, фемтовольты... меряем же с погрешностью на порядки большей - Mahagam(28.08.2020 15:07)

Микроконтроллеры