ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Четверг
25 апреля
886225 Топик полностью
Ксения (04.12.2018 04:10 - 04:19, просмотров: 168) ответил LordN на заглядываю в любую черную коробку и вижу херову гору битов, байтов и гигагерц. и все это за ссущие капейки, вопрос - какой смысл существования флоата 16 и даже 32 бита?
Смысл тот, что для ИИ высокая точность не нужна - достаточно float16, а в наборе инструкций "AVX-512 Vector Neural Network Instructions (VNNI) - vector instructions for deep learning" в векторный регистр длиной 512 бит поместится таких флоатов аж https://www.anandtech.com/show/13194/intel-shows-xeon-2018-2019-roadmap-cooper-lakesp-and-ice-lakesp-confirmed
512/16=32 штуки! Это очень выгодно, т.к. тактовая частота CPU растет очень медленно, а тут ускорение сразу в десятки раз!