Eddy_Em (14.11.2023 12:36, просмотров: 79) ответил Dingo на Хых.. там всё через плавучку, про умножение двоичных нет ничего.
71:eddy-em.livejournal.com github.com/eddyem
-
- ]:->
На что спорим?С уточнением: используя целочисленные операции. UPD: погорячился. 1/(2^32) ~= 232.83e-12, а там ещё 9 порядков. - Dingo(14.11.2023 12:58)- Теоретически можно попробовать, практически - лень. Eddy_Em(260 знак., 14.11.2023 13:34)
- Можно попробовать оценить, чему равна 0.01℃ при заданном сомножителе, и огрубить вычисления разрядов точнее этой величины. Не считанном коэффициенте, а 4, (-2),... Ну и вряд ли на полиноме с е-21 даже х^4 все разряды будут задействованы. Однако к синхронизации это уже никаким боком не относится. - Dingo(14.11.2023 13:44)
- Теоретически можно попробовать, практически - лень. Eddy_Em(260 знак., 14.11.2023 13:34)
- ]:->