-
- Нуу не знаю, дипсик говорил, что чаты в актив не идут. А если он
приврал и вдруг идут, то сильно не сразу? Иначе как объяснить, что
в разных чатах по одной и той же теме нейросеть делает одни и те же
ошибки, которые вроде как к концу чата "осознает и принимает к
сведению"? - Argon(Вчера, 09:13)
- Модель, это весьма стационарная штука. Её обучили и выложили на
всеобщее обозрение на каком-нить мегасервере. Когда вы общаетесь,
вы общаетесь не напрямую с моделью. Вы общаетесь через агентов,
которые развёрнуты на какой-нить убогой виртуалке, но которые
обращаются к модели по вашему запросу. mse homjak(673 знак., Вчера, 11:03)
- Ну главное - агент... POV(471 знак., Вчера, 11:10)
- "Агент обучается" - это файл agents.md или что-то такое вместо
него. Можете туда заглянуть. Вот что там есть - это всё, чему
"агент дообучился". - SciFi(Вчера, 11:07)
- Ну не совсем и не всегда так. RAG означает в том числе токенизацию каждого чата специальной моделью - токенизатором, и затем сохранению того, что получилось в векторную базу данных. И при любом следующем вопросе ИИ осуществляет поиск в этой векторной БД и если находит релевантное, то "припоминает". Моя локальная RAG токенизируется моделью "mxbai-embed-large", работающей на Ollama. Она очень небольшая, но заточена именно под эту задачу. Таким способом ИИ обретает Бoмж(22 знак., Вчера, 18:59)
- А что ему надо? Прожэкт, содержание, какие-то зависимости внутри, что-где-для_чего. Не обучение, штоле? - mse homjak(Вчера, 11:18)
- LLM - это набор параметров (миллиарды или триллионы, тренируются
долго и редко) и запрос с контекстом, на основании этого выдаётся
ответ на запрос. Всё, больше там ничего нет. Можно, конечно, в
контекст к запросу закидывать историю общения с юзверем, но там
есть ограничение на объеём контекста, плюс если эта история
противоречивая, выводы из неё тоже будут так себе. SciFi(240 знак., Вчера, 09:47)
- Таки вопрос остается: кто из рядовых юзеров может повлиять на
результат тренировки нейросети? Я, очевидно, не могу, сколько бы ни
указывал ей на ошибки. - Argon(Вчера, 10:04)
- А я вот могу, наоборот, подсовывая ей токсичные идеи. Нахера она
нам нужна здесь, такая умная? - Kpoк(Вчера, 15:36)
- Об чем и говорю! Но не получится. Argon(169 знак., Вчера, 17:50)
- Надо стараться! - Kpoк(Вчера, 18:13)
- Бесполезно. Они не бухают. Хотя, есть и хорошие новости! mse homjak(4 знак., Вчера, 19:13, картинка)
- Надо стараться! - Kpoк(Вчера, 18:13)
- Об чем и говорю! Но не получится. Argon(169 знак., Вчера, 17:50)
- Ну да. Говорят, они уже давно весь интернет высосали, сейчас
охотятся за раритетными бумажными книгами. А само обучение - это
начинание на несколько месяцев с привлечением инфраструктуры
стоимостю охулиарды со счётом за электричество, способным разорить
маленькое государство. Один пользователь в этом ни на что не
влияет. - SciFi(Вчера, 10:31)
- Они не просто охотятся за ними. Они уничтожают книги после прочтения. Рей Бредберри. - Kpoк(Вчера, 15:37)
- А я вот могу, наоборот, подсовывая ей токсичные идеи. Нахера она
нам нужна здесь, такая умная? - Kpoк(Вчера, 15:36)
- Таки вопрос остается: кто из рядовых юзеров может повлиять на
результат тренировки нейросети? Я, очевидно, не могу, сколько бы ни
указывал ей на ошибки. - Argon(Вчера, 10:04)
- Модель, это весьма стационарная штука. Её обучили и выложили на
всеобщее обозрение на каком-нить мегасервере. Когда вы общаетесь,
вы общаетесь не напрямую с моделью. Вы общаетесь через агентов,
которые развёрнуты на какой-нить убогой виртуалке, но которые
обращаются к модели по вашему запросу. mse homjak(673 знак., Вчера, 11:03)
- Нуу не знаю, дипсик говорил, что чаты в актив не идут. А если он
приврал и вдруг идут, то сильно не сразу? Иначе как объяснить, что
в разных чатах по одной и той же теме нейросеть делает одни и те же
ошибки, которые вроде как к концу чата "осознает и принимает к
сведению"? - Argon(Вчера, 09:13)