caxapa.ru :: Ссылка отчасти верная (неверная). AMX использует не числа с половинной точностью. Он использует формат bfloat16, SIGN:1 EXPONENT:8, FRACTION:7 По сравнению со стандартным сишным IEEE 754 single, полная экспонента, урезанная мантисса.

RxTx (07.01.2022 19:10, просмотров: 175) ответил Kceния на Но численных методов ей не заменить, т.к. точность в 3 десятичных знака слишком мала даже для инженерных расчетов.

Ссылка отчасти верная (неверная). AMX использует не числа с половинной точностью. Он использует формат bfloat16, SIGN:1 EXPONENT:8, FRACTION:7 По сравнению со стандартным сишным IEEE 754 single, полная экспонента, урезанная мантисса.

Спасибо, князь. Вы настоящий дворянин. И программист.

Ответить

- Так это же еще хуже - тогда мантисса и вовсе только 2 знака. - Kceния(07.01.2022 20:33)
  - Ну да. Вот здесь подробности RxTx(1 знак., 07.01.2022 20:43, ссылка)

Средства и методы разработки