SciFi (Сегодня, 11:44, просмотров: 35) ответил POV на LLM типа болталка. Человечкую речь формализует так что бы робот мог
какбы размышлять. Но решение (нарисовать схему, написать прогармму)
делает не LLM.ส็็็็็็็็็็็็็็็็็็็็็็็็็༼ ຈل͜ຈ༽ส้้้้้้้้้้้้้้้้้้้้้้้
-
- Как я прочитал, и я примерно так и размышлял, нейросетка не
фиксированная - ей подгоняют параметры (условно - веса нейронов)
согласно тому как понята задача. LLM что-то поняла, вытянула набор
подходящих параметров на каждом этапе решения задачи - далее сетка
уже выдает эти частные решения... POV(221 знак., Сегодня, 11:49)
- Говорят, веса (те самые миллиарды параметров) фиксированы. И есть
"контекст" порядка 100 тыс. токенов (плюс-минус, в зависимости от
модели). Вот что в контексте поместилось, на основании этого оно и
думает. Там и исходники, и история чата, и запросы, что мы от него
хотим. Новый чат - пустой контекст. - SciFi(Сегодня, 11:53)
- Ключевое в обмене мнениями "говорят" )) "Роботы делают роботов, а
люди не понимают как работы фукнционируют" (с) Азимов - POV(Сегодня, 12:20)
- С прикладной точки зрения важно понимать, как управлять контекстом, чтобы машина не теряла нить в самый неподходящий момент. Там бывает автоматическое сжатие контекста: когда он близок к исчерпанию, ИИ делает немногословный пересказ из более старой порции контекста. Это не секрет, всё это легко гуглится. - SciFi(Сегодня, 12:39)
- Ключевое в обмене мнениями "говорят" )) "Роботы делают роботов, а
люди не понимают как работы фукнционируют" (с) Азимов - POV(Сегодня, 12:20)
- Говорят, веса (те самые миллиарды параметров) фиксированы. И есть
"контекст" порядка 100 тыс. токенов (плюс-минус, в зависимости от
модели). Вот что в контексте поместилось, на основании этого оно и
думает. Там и исходники, и история чата, и запросы, что мы от него
хотим. Новый чат - пустой контекст. - SciFi(Сегодня, 11:53)
- Как я прочитал, и я примерно так и размышлял, нейросетка не
фиксированная - ей подгоняют параметры (условно - веса нейронов)
согласно тому как понята задача. LLM что-то поняла, вытянула набор
подходящих параметров на каждом этапе решения задачи - далее сетка
уже выдает эти частные решения... POV(221 знак., Сегодня, 11:49)