caxapa.ru :: угу, была у меня недавно задача, считать cosine similarity для вектора в 16 тыщ четырнадцатибитных сэмплов. там если корни квадратные не брать (чего в плисине сделать сложновато) то получаются 80-ти разрядные целые. покумекав, обошёлся максимум 48-и разрядными числами. а в одном месте промежуточный результат и вообще до 18 значащих бит ужимался. и ничего, заказчик доволен.

Mahagam (26.09.2021 03:15, просмотров: 169) ответил Evgeny_CD на Представление физических величин - согласен. Но вот внутренее представление в процессе преобразования может потребоваться весьма точным и с большим диапазоном. Это очень распространённая ошибка - потеря точности при обработке.

угу, была у меня недавно задача, считать cosine similarity для вектора в 16 тыщ четырнадцатибитных сэмплов. там если корни квадратные не брать (чего в плисине сделать сложновато) то получаются 80-ти разрядные целые. покумекав, обошёлся максимум 48-и разрядными числами. а в одном месте промежуточный результат и вообще до 18 значащих бит ужимался. и ничего, заказчик доволен.

Ответить

- Две задачи. Когда идёт рисеч, думать надо над целью, а не над мелочами. 1024 битный int решает задачу - берём и пользуем. А когда делаем боевую систему, там "ядро технологии" рисечить поздно, самое время битики экономить. - Evgeny_CD(26.09.2021 03:18)
  - ога, так вот взяли и резко стали использовать 1024 битный инт. Mahagam(557 знак., 26.09.2021 03:36)
    - Написал на верилоге триггер, секомпилировал - ура, на спартане 350 МГц. Сделал 16 битный счетчик - хорошо если ниже 100 МГц не упал. - BlackMorda(26.09.2021 09:28)
      - ща. я тоже так думал. для простых сумматоров да счётчиков и схем сравнения - цепи ускоренного переноса творят чудеса. частота считай нихрена не падает. я сам был в шоке - Mahagam(26.09.2021 11:12)

Средства и методы разработки