Evgeny_CD, Архитектор (13.01.2020 21:26, просмотров: 238) ответил Скрипач на "Ядро модели" выполняется на видекарте. Или спец.тензор-процессоре. Это скорее ассемблер чем С++
И я прав! Творец нейросети описывает ее, тулза делает граф, из графа синтезирует С|C++|BrainFuck код под целевую платформу.
Конечный пользователь оценивает дешевизну и скорость работы "боевой" версии нейросети на целевом железе. "Бантики" разработчика его не интересуют.
Для универсальных вычислителей а ля ПК оно таки генерит С++ код, и компилит его в целевой бинарник. Пока это самое массовое применение.
Для специализированных вещей - да, там код зависит от платформы, может и сразу макроассемблер генерит.
Но разумеется, среди творцов обсуждение "бантиков" будет самое горячее :)