ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Среда
1 мая
1272680 Топик полностью
Cкpипaч, пророк (01.01.2023 23:57, просмотров: 229) ответил _volkanaft_ на "Человеческая логика" формировалась тысячилетиями и программируется лет десять после рождения.
Дело не в этом. Принципиально невозможно при тренировке нейросети задать условие. Тольно набор из дохерища пар карточка - ответ. И добиваются чтобы нейросеть "подстроилась" и давала такие же (максимально близкие) ответы по предложенным для тренировки карточкам. 

Не хотите вы чтобы срабатывал датчик касания - пожалуйста, откуда нейросети знать что это неправильно?


Второя возможная проблема - "перетренировка", когда нейросеть просто запоминает все пары ситуация-ответ и просто отдает их из "внутренней памяти".

Тогда любая ситуация вне тренировочного набора может вылететь куда угодно, в любую сторону (типа, выдать минус единицу).


Причем "любая" означает что миллион ситуаций - норм, а одна - "минус единица".

И нет формальных способов верификации. Только тестовые прогоны и вера что "все будет хорошо".

... но не любой ценой.