0xFF

https://rikiyat.github.io/blog/weight-space-programming/

Мы обнаружили, что передовые большие языковые модели (LLM) удивительно эффективно работают с весами нейронных сетей: они способны «читать» их и вносить в них изменения — как с помощью современных инструментов и алгоритмов, так и путем прямого редактирования. Эти результаты демонстрируют зачатки «программирования в пространстве весов» (Weight-Space Programming) — подхода, возможности которого могут превосходить то, чего можно ожидать от людей или традиционных алгоритмов. Это может иметь огромное значение как для оптимизации нейросетей, так и для их интерпретируемости. Анализируя «сырые» веса, модель GPT-6 Astra способна определить, для какой задачи была обучена нейросеть. Более того, не получая никакой обратной связи от внешней среды, она может с нуля создать небольшие нейросети для игр, которые превосходят по качеству игры модели, обученные с помощью алгоритма PPO (за 100 миллионов шагов). Аналогичным образом, когда перед Astra поставили задачу улучшить математические способности модели Qwen3.5-0.8B без использования градиентов, она обнаружила в весах проблему, вызывающую «циклы рассуждений» (о которых, кстати, упоминается в документации к самой Qwen). Astra устранила этот дефект, изменив всего 0,016% весов. При тех же настройках генерации такая корректировка весов повысила результат модели на бенчмарке MATH-500 с 7,9% до 48,1%. Кроме того, это улучшение оказалось универсальным: качество выполнения инструкций (оцениваемое по тесту IFEval) выросло в три раза. Все это достигается без предоставления Astra возможности самостоятельно писать циклы обучения. Модель использует свои способности к рассуждению, чтобы понять, что именно вычисляет (или должно вычислять) каждый компонент нейросети, и соответствующим образом корректирует веса. Мы называем это «программированием в пространстве весов». На протяжении всей истории глубокого обучения мы закладывали наши упрощенные индуктивные смещения в небольшие символьные оптимизаторы, такие как Adam или Muon. Теперь ситуация меняется: вскоре веса нейронных сетей будут оптимизироваться непосредственно большими языковыми моделями, которые осознанно анализируют эти веса и принимают решения об их изменении.