Evgeny_CD, Архитектор (26.09.2021 02:09, просмотров: 2143)-
- Интересные подробности про 64 бита * 64 бита -> 128 бит. - Evgeny_CD(26.09.2021 02:33, ссылка)
- ынжынер почти всегда оперирует с физическими величинами, а они
приходят ему через измерительные приборы/датчики. а там точность
редко когда за short int переваливает, так что чаще всего и float`а
обычного за глаза хватает. double - это уж совсем по-царски. а
четверная точность - это разве что американский внутренний долг
считать, да и то, там особый финансовый целочисленный тип нужен. - Mahagam(26.09.2021 02:55)
- Представление физических величин - согласен. Но вот внутренее
представление в процессе преобразования может потребоваться весьма
точным и с большим диапазоном. Это очень распространённая ошибка -
потеря точности при обработке. Evgeny_CD(71 знак., 26.09.2021 02:59)
- угу, была у меня недавно задача, считать cosine similarity для
вектора в 16 тыщ четырнадцатибитных сэмплов. там если корни
квадратные не брать (чего в плисине сделать сложновато) то
получаются 80-ти разрядные целые. покумекав, обошёлся максимум 48-и
разрядными числами. а в одном месте промежуточный результат и
вообще до 18 значащих бит ужимался. и ничего, заказчик доволен. - Mahagam(26.09.2021 03:15)
- Две задачи. Когда идёт рисеч, думать надо над целью, а не над
мелочами. 1024 битный int решает задачу - берём и пользуем. А когда
делаем боевую систему, там "ядро технологии" рисечить поздно, самое
время битики экономить. - Evgeny_CD(26.09.2021 03:18)
- ога, так вот взяли и резко стали использовать 1024 битный инт. Mahagam(557 знак., 26.09.2021 03:36)
- Две задачи. Когда идёт рисеч, думать надо над целью, а не над
мелочами. 1024 битный int решает задачу - берём и пользуем. А когда
делаем боевую систему, там "ядро технологии" рисечить поздно, самое
время битики экономить. - Evgeny_CD(26.09.2021 03:18)
- угу, была у меня недавно задача, считать cosine similarity для
вектора в 16 тыщ четырнадцатибитных сэмплов. там если корни
квадратные не брать (чего в плисине сделать сложновато) то
получаются 80-ти разрядные целые. покумекав, обошёлся максимум 48-и
разрядными числами. а в одном месте промежуточный результат и
вообще до 18 значащих бит ужимался. и ничего, заказчик доволен. - Mahagam(26.09.2021 03:15)
- Представление физических величин - согласен. Но вот внутренее
представление в процессе преобразования может потребоваться весьма
точным и с большим диапазоном. Это очень распространённая ошибка -
потеря точности при обработке. Evgeny_CD(71 знак., 26.09.2021 02:59)
- Ага. Есть способ получить "почти четверную точность" через технику
"сумма двух даблов" Evgeny_CD(26.09.2021 02:41, ссылка, ссылка)
- Вот ещё супер статья, Хаос её уже приводил, но я тогда не понял. Evgeny_CD(26.09.2021 02:55, ссылка)
- ынжынер почти всегда оперирует с физическими величинами, а они
приходят ему через измерительные приборы/датчики. а там точность
редко когда за short int переваливает, так что чаще всего и float`а
обычного за глаза хватает. double - это уж совсем по-царски. а
четверная точность - это разве что американский внутренний долг
считать, да и то, там особый финансовый целочисленный тип нужен. - Mahagam(26.09.2021 02:55)
- Ещё Evgeny_CD(26.09.2021 02:12, ссылка)
- Интересные подробности про 64 бита * 64 бита -> 128 бит. - Evgeny_CD(26.09.2021 02:33, ссылка)