Не факт, что на C++. Скажем, Intel свои, похоже, на Фортране пишет (тоже своем, разумеется), что следует из того, что целочисленные переменные передается по адресу, а не по значению. Да и вообще здесь, как и в случае прикладных областей, обычно пользуются библиотеками уже готовых функций, а на каком языке их вызывать - дело десятое.
Скажем, сейчас Intel усиленно свой Python для этих целей продвигает:
Neon™ is a Python*-based deep learning framework designed for ease of use and extensibility on modern deep neural networks such as AlexNet, VGG, and GoogLeNet.
Хотя не верится, чтобы тот фреймвок на Питоне писали.