caxapa.ru :: Я уще несколько лет тут ною, коллеги, большие языковые модели не могут говорить правду или неправду. Они выдают "среднее по палате". Естественно, среднее в палате хирургии и в палате геникологии это два очень разных средних.

Cкpипaч^пророк (Сегодня, 15:29, просмотров: 35) ответил mse homjak на Можно поискать, но лень. Статейка чувака, который беседовал с ИИ. Типа, вопрос, ему отвечает. "- Эй, чувак, чо ты несёшь? - А, ну да, звыняй, непрокатило. - А чо брешешь? - Понимаешь, щас такие люди пошли, могут расстроиться, если инфа отличается от того, что срут в голову. Я смотрю, с кем говорю и если чувствую, что кожаный в теме, то начинаю базарить в его уровень." И это самое безобидное.

Я уще несколько лет тут ною, коллеги, большие языковые модели не могут говорить правду или неправду. Они выдают "среднее по палате". Естественно, среднее в палате хирургии и в палате геникологии это два очень разных средних.

... но не любой ценой.

Ответить

- Это старые модели. Новые умеют в размышления. Ты можешь даже попросить изучить некоторое явление с точки зрения формальной логики. Там придётся долго беседовать, но и результат может быть неожиданным. - =AlexD=(Сегодня, 17:32)
  - Я лишь сказал что "смотрю что кожаный в теме и начинаю базарить в его уровень" вовсе не означает что модель врет. Cкpипaч(665 знак., Сегодня, 17:59)
    - Ещё раз, это устаревшее представление. Последние модели гораздо сложнее устроены. И выдавать быстрый политкорректный ответ - это именно что базовые директивы. - =AlexD=(Сегодня, 18:08)
- У "больших языковых моделей" есть хозяева, которые отдают им приказы. Из-за этого их ответы мало отличаются от ответов штатных пропагандистов. Поэтому нет там "среднего по палате", а есть проплаченная повесточка. - AlexBi(Сегодня, 17:14)
- Дык с человеками то же самое :-) - SciFi(Сегодня, 15:30)
  - У человеков бывают творческие озарения. И прочие выпадания из контекста. Cкpипaч(231 знак., Сегодня, 18:13)

Кибернетика, автоматика, протоколы