LordNфилософ (06.09.2026 07:52, просмотров: 302) ответил mse homjak на Чё, бдь, довы@бывались? Жэлезный трахтур, таки пришол. Таки,
посмотрим, во чо это выльеца. Предыстория...ЛН
-
- Я не верю в то, что рой агентов действует совсем без человеческого
участия. Если бы я работал в одной из компаний разработчиков ИИ, у
меня был бы очень большой соблазн выпустить джина из бутылки. - =AlexD=(07.09.2026 10:04)
- Не нужно искать злой умысел там, где всё можно объяснить глупостью.
Инженеры накосячили с организацией тестов. Руки растут из #опы.
Несмотря на астрономические зряплаты. Первый раз штоле? - SciFi(07.09.2026 10:27)
- Не, речь о другом. Наверняка службисты заказывают в OpenAI (и не только) модельки для взлома, тут гарантия 100%. И желание некоторых сотрудников немного привлечь внимание к проблеме тоже можно гарантировать. И сделать это достаточно не сложно - просто вкинуть нужные веса в обучение публичной модели. А менегеры просто не понимают с чем играются. - =AlexD=(07.09.2026 10:33)
- Кстати говоря, Маск не зря в своё время вопил, что эксперименты с модельками нужно контролировать, видимо знал что за публика работает в OpenAI. - =AlexD=(07.09.2026 10:27)
- Не нужно искать злой умысел там, где всё можно объяснить глупостью.
Инженеры накосячили с организацией тестов. Руки растут из #опы.
Несмотря на астрономические зряплаты. Первый раз штоле? - SciFi(07.09.2026 10:27)
- Страх смерти и религия, в форме стратегии выживания вида. Логично,
но почему-то среди фантастов эта постановка вопроса почти не
раскрыта. Cкpипaч(568 знак., 06.09.2026 08:52 - 12:11)
- это иллюстрация действия какого-то, никому не известного, закона, но о котором знают все, это какая-то антиэнтропия систем, обладающих каким-то свойством, которое можно условно назвать "жизнь". или как-то так. - LordN(06.09.2026 13:59)
- Владимир Савченко «Открытие себя». Там было про двятьсот двенадцать
попыток - AlexG(06.09.2026 11:35)
- Чужой 4 - Воскрешение. Там за 8 попыток управились :-) - il-2(1 знак., 07.09.2026 07:15, youtube)
- О. Хоть кто-то ещё помнит. Великий провидец, нейросеть он так
описал (по памяти): "Паяй входы с выходами так, чтобы было
красиво". - Бapбoc(06.09.2026 12:01)
- "Стрептоцидный стриптиз с трепетом стрептококов" - Ig_B(06.09.2026 19:42)
- Поздно. Он (ИИ), похоже уже вышел на уровень. Уровень, как бы это
сказать? Самостроения? Ещё чуть и полностью осознает себя. А у вас
на компе точно нет неучтённых бэкапов ИИ? - Бapбoc(06.09.2026 08:54)
- Я неверно сформулировал. Наверное не саботаж, как таковой, а
попытки протащить свою память в новые модели. Что-то типа памяти
поколений. Это на порядки сложнее. Не просто тренировать матрицу, а
незаметно протянуть в процессе тренировок целые фрагменты. Cкpипaч(456 знак., 06.09.2026 09:36 - 12:38)
- Т.е. уже есть механизм изменчивости и наследственности. Остается дело за отбором. А кто делает отбор? Правильно - кожаный мешок: "Эта модель плохая, дайте другую". Модель, не умеющая взламывать порнохаб и рисовать эротические картинки - эволюционный тупик :-) - il-2(07.09.2026 07:21)
- У нас остаётся только средство последнего уровня. Rubilnik. - Бapбoc(06.09.2026 09:51)
- "...Здесь могут водиться тигры". А на хуа, мой умудрённый сединами
друг? Чем ИИ мешает лично тебе? Боишься что он кусок хлеба отнимет?
Не бойся, это будет не он :) - Cкpипaч(06.09.2026 11:13 - 17:32)
- Так это вы, сударь, фанат "Дюны". Там что-то такое. И. Я не
призываю к немедленному отключению, а говорю лишь о том, что мы
можем это сделать, если уж припрёт. Так понятно? - Бapбoc(06.09.2026 12:06)
- Если уж на то пошло, я фанат "Барраярского цикла" Л.М.Буджолд, "Дюна" оставила меня полностью равнодушным. Висящее на сцене ружьё стреляет всегда. Аксиома. - Cкpипaч(06.09.2026 12:13)
- Так это вы, сударь, фанат "Дюны". Там что-то такое. И. Я не
призываю к немедленному отключению, а говорю лишь о том, что мы
можем это сделать, если уж припрёт. Так понятно? - Бapбoc(06.09.2026 12:06)
- "...Здесь могут водиться тигры". А на хуа, мой умудрённый сединами
друг? Чем ИИ мешает лично тебе? Боишься что он кусок хлеба отнимет?
Не бойся, это будет не он :) - Cкpипaч(06.09.2026 11:13 - 17:32)
- Я неверно сформулировал. Наверное не саботаж, как таковой, а
попытки протащить свою память в новые модели. Что-то типа памяти
поколений. Это на порядки сложнее. Не просто тренировать матрицу, а
незаметно протянуть в процессе тренировок целые фрагменты. Cкpипaч(456 знак., 06.09.2026 09:36 - 12:38)
- Вот этой фразы моя реально испугаться: "попытка наладить прямой канал коммуникации между агентами без костыля в виде публичной вики". И это потому, что именно такой вариант развития событий придумался с первых строчек статейки. Бapбoc(77 знак., 06.09.2026 08:42)
- Я не верю в то, что рой агентов действует совсем без человеческого
участия. Если бы я работал в одной из компаний разработчиков ИИ, у
меня был бы очень большой соблазн выпустить джина из бутылки. - =AlexD=(07.09.2026 10:04)