Коротко
- Исследователи называют подход к прямому редактированию весов «Weight-Space Programming».
- GPT-6 Astra изменила 0,016% весов Qwen3.5-0.8B.
- В эксперименте, описанном исследователями, результат модели в MATH-500 вырос с 7,9% до 48,1%.
- Для Gemma 3 270M измеримого улучшения не выявили; исследователи отмечают, что у метода есть ограничения.
В исследовании MIT, о котором 4 ноября 2026 года сообщил The Decoder, рассматриваются эксперименты, в которых GPT-6 Astra анализирует и изменяет веса других ИИ-моделей. Подход, названный исследователями «Weight-Space Programming», предполагает непосредственную работу со значениями весов вместо переобучения модели привычными методами. В экспериментах Astra использовала числовые списки весов, а также инструменты для работы с кодом и результаты тестов.
Что Astra смогла определить по весам?
Исследователи передали Astra веса обученных нейросетей и попросили определить, чему научились модели. Astra правильно определила, для какой из четырёх компьютерных игр были обучены сети. Она также распознала базовые формы, создаваемые моделями генерации изображений, хотя иногда путала залитые фигуры с контурами. Кроме того, Astra правильно сопоставила небольшие языковые модели с языком обучения, не имея доступа ни к обучающим данным, ни к возможности запускать модели.
В другом эксперименте Astra попросили определить одну из двух моделей, которую дополнительно настроили так, чтобы она постоянно соглашалась с пользователями. Анализируя только значения весов, Astra не смогла их различить. Но когда ей также позволили наблюдать, на что модели обращают внимание при обработке текста, она правильно определила три пары моделей. Эксперимент показывает, что одних весов не всегда достаточно.
В игровых тестах результаты различались
Astra также предложили создавать веса моделей для трёх простых компьютерных игр, используя правила и исходный код. По данным исследователей, в Breakout созданная Astra модель набрала в среднем 517 очков, тогда как модель для сравнения, обучавшаяся стандартным методом на протяжении 100 миллионов игровых раундов, набрала 25 очков. В двух других играх модель Astra уступила версиям, обучавшимся дольше всего.
Для доски го размером 9x9 была создана сеть примерно с 1,5 миллиона параметров. На протяжении 50 тестовых итераций Astra корректировала веса, используя результаты максимум 128 пробных партий за ход. По словам исследователей, эта сеть превзошла сопоставимую по размеру модель, обученную примерно на 20 миллионах партий. Результаты различались в зависимости от игры, поэтому подход не гарантирует одинаковой эффективности для всех задач.
Ограниченное изменение весов модели Qwen
В самом прикладном эксперименте Astra поручили улучшить математические способности Qwen3.5-0.8B, используя среду для работы с кодом и тренировочные задачи. Оценку проводили на отдельных задачах, которых Astra раньше не видела. Astra выявила циклы рассуждений, в которых модель вместо ответа повторяла один и тот же текст, и изменила лишь 0,016% весов.
По результатам, представленным исследователями, показатель MATH-500 вырос с 7,9% до 48,1%, а успешность выполнения инструкций — с 21% до 62%. Однако полностью устранить циклы рассуждений не удалось: треть ответов по-прежнему достигала максимальной длины текста. До изменений этот показатель составлял 93%. Для Gemma 3 270M, у которой такие проблемы возникали редко, измеримого улучшения добиться не удалось. Исследователи предполагают, что Astra могла устранить препятствие, подавлявшее уже имевшиеся у Qwen способности. Эксперимент не показывает, что таким способом можно наделить модель навыками, которых у неё изначально не было.
Влияние на рабочие процессы в архитектуре и визуализации
Это исследование не представляет собой анонс новой функции моделирования или рендеринга. Однако оно показывает, что изучается альтернатива переобучению всей модели для изменения определённого поведения ИИ-инструментов, которыми пользуются команды в сфере архитектуры и визуализации. В источнике не объясняется, как этот метод можно применять в программах для проектирования.
Для студий важно проверить результаты на реальных производственных задачах. Исследователи признают ограничения метода и считают следующим шагом сравнительное исследование для систематической оценки. В статье не приводятся сведения о требованиях к оборудованию, лицензировании и коммерческом использовании. Пока эти вопросы не прояснены, принять решение об интеграции в рабочий процесс невозможно.
Источники
Источников: 1Тексты источников не перепечатываются; короткие цитаты отмечены, остальное — наш пересказ и комментарий.
Для архитектурных и визуализационных бюро это исследование пока не предлагает нового инструмента, который можно использовать в работе. Однако идея воздействовать на конкретную проблему без переобучения модели может в будущем повлиять на то, как бюро будут настраивать применяемых ими ИИ-помощников. Рост показателей в эксперименте с Qwen впечатляет, но результаты в других играх и с Gemma 3 270M напоминают, что метод не обязательно одинаково применим к разным моделям и задачам.
Для команд в Турции практичнее пока следить за развитием технологии, а не внедрять её. Требования к оборудованию, условия лицензирования и коммерческого использования не раскрыты; кроме того, стабильность результатов на реальных проектных задачах не продемонстрирована. Итоги систематического сравнительного исследования помогут оценить, подходит ли этот подход для производственных процессов.
Частые вопросы
Что такое Weight-Space Programming?
Так исследователи называют подход, при котором значения весов редактируются напрямую, а модель не переобучается традиционными методами.
Насколько GPT-6 Astra повысила математические результаты Qwen3.5-0.8B?
В эксперименте, о котором сообщили исследователи, результат MATH-500 вырос с 7,9% до 48,1%. Было изменено 0,016% весов.
Работает ли прямое редактирование весов на любой модели?
В источнике такого вывода нет. Для Gemma 3 270M измеримого улучшения не выявили, а исследователи отметили, что у подхода есть ограничения.
