caxapa.ru :: уже сейчас есть проблема качества обучения ИИ. По аналогии с человеческим обществом, чему ребёнка научили, таким он и будет. На текущий момент не существует эталонного ИИ, правильно обученного и по техническим, и, тем более по моральным аспектам, следовательно любое взаимообучение систем ИИ друг друга породит нежизнеспособного уродца или монстра, которого можно будет только уничтожить, но не "перевоспитать". Для начала, я считаю, необходимо создать эталонный ИИ,

Adept (13.10.2023 16:50, просмотров: 370) ответил Evgeny_CD на Character.AI представила групповые чаты, где пользователи и несколько ИИ могут общаться друг с другом. Каменты шикарные

уже сейчас есть проблема качества обучения ИИ. По аналогии с человеческим обществом, чему ребёнка научили, таким он и будет. На текущий момент не существует эталонного ИИ, правильно обученного и по техническим, и, тем более по моральным аспектам, следовательно любое взаимообучение систем ИИ друг друга породит нежизнеспособного уродца или монстра, которого можно будет только уничтожить, но не "перевоспитать". Для начала, я считаю, необходимо создать эталонный ИИ,

соответствующий и моральным критериям (которые, кстати и не выработаны еще), и необходимыми для дальнейшего качественного роста, техническими и гуманитарными знаниями. Без этого ИИ не боле, чем искусная имитация, не способная к самостоятельному <b>гармоничному существованию в человеческом обществе</b>.

...делать нужно так, как нужно. А как ненужно - делать не нужно (С) Винни-Пух :)

Ответить

- С этой мысли топик и начался. Однако спасибо, корневая мысль сформулирована более четко, чем у меня. - Evgeny_CD(14.10.2023 01:41)
  - Правильно воспитанный ИИ никому не нужен, т.к. его невозможно будет использовать для деструктивной деятельности. - =AlexD=(09.11.2023 09:28)
    - правильный "испортить" сильно проще, чем выправить неправильный :)) А вообще нужно несколько "загружаемых профилей" под разные задачи, ну там насозидать чё-нить, сочинить/сотворить из искусства :), соорудить Т800 :) и пр :)) - Adept(09.11.2023 14:04)
      - Это только кажется простым. А люди просто скармливают ИИ огромные массивы данных и смотрят что получится. Не всегда болезнь(отклонения) можно распознать в лабораторных условиях. - =AlexD=(09.11.2023 15:28)
        
        возможно просто рано перешли к сомообучению ИИ. Нужно намного бОльшая выборка данных что "правильно" и что "неправильно" (в обучении нужно не только показывать правильные, но и явно указывать на неверные, что в общем и делается на больших датасетах) Но вот не рановато ли "отпустили" ИИ в "свободное плавание"?? Ситуация по-моему сильно напоминает то, как если бы пятилетнего ребёнка запустили в большую библиотеку (чему он там сможет научиться - неясно, т.к. в него заложены лишь Adept(43 знак., 09.11.2023 15:37)
        
        В отрасль вбухиваются просто огромные деньги. И если перешли к самообучению, очевидно другие методы исчерпаны. А чему дитё научится в интырнэте, да без отцовского ремня - малость предсказуемо. - =AlexD=(09.11.2023 15:41)

Средства и методы разработки