Mahagam (26.09.2021 02:55, просмотров: 134) ответил Evgeny_CD на Интересные подробности про 64 бита * 64 бита -> 128 бит.-
- Представление физических величин - согласен. Но вот внутренее
представление в процессе преобразования может потребоваться весьма
точным и с большим диапазоном. Это очень распространённая ошибка -
потеря точности при обработке. Evgeny_CD(71 знак., 26.09.2021 02:59)
- угу, была у меня недавно задача, считать cosine similarity для
вектора в 16 тыщ четырнадцатибитных сэмплов. там если корни
квадратные не брать (чего в плисине сделать сложновато) то
получаются 80-ти разрядные целые. покумекав, обошёлся максимум 48-и
разрядными числами. а в одном месте промежуточный результат и
вообще до 18 значащих бит ужимался. и ничего, заказчик доволен. - Mahagam(26.09.2021 03:15)
- Две задачи. Когда идёт рисеч, думать надо над целью, а не над
мелочами. 1024 битный int решает задачу - берём и пользуем. А когда
делаем боевую систему, там "ядро технологии" рисечить поздно, самое
время битики экономить. - Evgeny_CD(26.09.2021 03:18)
- ога, так вот взяли и резко стали использовать 1024 битный инт. Mahagam(557 знак., 26.09.2021 03:36)
- Две задачи. Когда идёт рисеч, думать надо над целью, а не над
мелочами. 1024 битный int решает задачу - берём и пользуем. А когда
делаем боевую систему, там "ядро технологии" рисечить поздно, самое
время битики экономить. - Evgeny_CD(26.09.2021 03:18)
- угу, была у меня недавно задача, считать cosine similarity для
вектора в 16 тыщ четырнадцатибитных сэмплов. там если корни
квадратные не брать (чего в плисине сделать сложновато) то
получаются 80-ти разрядные целые. покумекав, обошёлся максимум 48-и
разрядными числами. а в одном месте промежуточный результат и
вообще до 18 значащих бит ужимался. и ничего, заказчик доволен. - Mahagam(26.09.2021 03:15)
- Представление физических величин - согласен. Но вот внутренее
представление в процессе преобразования может потребоваться весьма
точным и с большим диапазоном. Это очень распространённая ошибка -
потеря точности при обработке. Evgeny_CD(71 знак., 26.09.2021 02:59)