Один из методов оптимизации моделей ИИ = обрезка (pruning),
удаление малозначимых весов или целых нейронов, которые почти не
влияют на результат. Но такие методы имеют побочные эффекты.
Например, номер машины распознается мозгами видеокамеры, но только
номер, соответствующий стандарту страны. Побочный эффект - номера
других стран не распознаются. Если задаться целью распознавать
вообще все возможные номера, то для каждой камеры потребуется GPU,
или строить ГигаЦОД, который будет обрабатывать поток видеоданных, поступающих по гигабитным каналам. Как побочный эффект будут распознаваться вообще все надписи на машинах и майках водителей
https://habr.com/ru/articles/811221/
https://blog.deepschool.ru/category/speedup/