mse homjak (Сегодня, 16:25, просмотров: 10) ответил Nikolay_Po на Короче, без ускорителя, чисто на ЦП - полностью гиблое дело. ОЗУ на
материнке позволяет запускать большие модели ценой потери скорости
на пересылке данных. Но принципиально - на голом ЦП
производительность будет неприемлемо низкая, поэтому ПО для запуска
нейронок отказывает в запуске, не находя приличного ускорителя с
хотя бы 8ГБ набортной памяти.
Кароч. СМП50, приблуда, моё почтение. На 4 линиях ПСИЕ отстаёт от
5060ТИ16Г, процентов на 30. Т.е. на "простеньких" моделях(80Г
параметров, 40+Гб размера), даёт 20т/с, вместо 30. Щас, правда,
цена до 13тыр выросла. А на голом проце, 36 потоков(Е5-2696-v3),
6-7т/с.