Neueste Meldungen
KI-ModelleOpenAIGPT-6 AstraGPT-6

GPT-6 Astra konnte Modellgewichte ohne erneutes Training bearbeiten

Die am 4. November veröffentlichte Meldung von The Decoder berichtet über eine MIT-Studie mit Experimenten, in denen GPT-6 Astra Modellgewichte direkt untersuchte und veränderte. Das Ergebnis von Qwen3.5-0.8B bei MATH-500 stieg von 7,9 auf 48,1 Prozent.

Leuchtende digitale Punkte über einem Architekturmodell in einem Architekturstudio, als Sinnbild für die Bearbeitung von GewichtenKI-Bild
Symbolbild, mit KI erzeugt.Bild: 3dsınıfı / FCA AI

Kurz gesagt

  1. Die Forschenden nennen den Ansatz, Gewichte direkt zu bearbeiten, „Weight-Space Programming“.
  2. GPT-6 Astra veränderte 0,016 Prozent der Gewichte von Qwen3.5-0.8B.
  3. Im von den Forschenden beschriebenen Experiment stieg das MATH-500-Ergebnis des Modells von 7,9 auf 48,1 Prozent.
  4. Bei Gemma 3 270M wurde keine messbare Verbesserung festgestellt; die Forschenden weisen auf Grenzen der Methode hin.

Die am 4. November 2026 veröffentlichte Meldung von The Decoder berichtet über eine MIT-Studie mit Experimenten, in denen GPT-6 Astra die Gewichte anderer KI-Modelle analysieren und verändern konnte. Der von den Forschenden „Weight-Space Programming“ genannte Ansatz arbeitet direkt mit den Gewichtswerten, statt das Modell mit herkömmlichen Methoden erneut zu trainieren. In den Experimenten nutzte Astra teilweise numerische Gewichtelisten und griff teilweise auf Programmierwerkzeuge und Testergebnisse zurück.

Was konnte Astra aus den Gewichten ableiten?

Die Forschenden gaben Astra die Gewichte trainierter Netze und ließen es bestimmen, was die Modelle gelernt hatten. Astra identifizierte korrekt, welches von vier Computerspielen die jeweiligen Netze spielen sollten. Auch grundlegende Formen, die von bildgenerierenden Modellen erzeugt wurden, erkannte es, verwechselte jedoch mitunter ausgefüllte Formen mit Konturen. Außerdem ordnete es korrekt zu, in welcher Sprache kleine Sprachmodelle trainiert worden waren – ohne Zugriff auf die Trainingsdaten oder die Möglichkeit, die Modelle auszuführen.

In einem weiteren Experiment sollte Astra aus zwei Modellen jenes finden, das so feinabgestimmt worden war, dass es den Nutzenden stets zustimmte. Anhand der Gewichtswerte allein konnte Astra die Modelle nicht unterscheiden. Als es zusätzlich beobachten konnte, worauf die Modelle bei der Textverarbeitung achteten, lag es bei drei Modellpaaren richtig. Das Experiment zeigt, dass die Gewichte allein nicht in jedem Fall genügend Informationen liefern.

Unterschiedliche Ergebnisse in Spieltests

Astra sollte auch anhand der Spielregeln und des Quellcodes Modellgewichte für drei einfache Computerspiele erstellen. Laut den Forschenden erzielte das von Astra erstellte Modell bei Breakout durchschnittlich 517 Punkte; ein Vergleichsmodell, das mit einer herkömmlichen Methode über 100 Millionen Runden trainiert worden war, kam auf 25 Punkte. Bei den beiden anderen Spielen schnitt Astras Modell hingegen schlechter ab als die am längsten trainierten Versionen.

Für ein 9x9-Go-Brett wurden die Gewichte eines Netzes mit rund 1,5 Millionen Parametern erzeugt. Astra passte die Gewichte über 50 Testiterationen hinweg an und nutzte dabei pro Runde die Ergebnisse von höchstens 128 Testpartien. Nach Angaben der Forschenden übertraf dieses Netz ein ähnlich großes Modell, das mit rund 20 Millionen Partien trainiert worden war. Die je nach Spiel unterschiedlichen Ergebnisse bedeuten, dass der Ansatz nicht bei jeder Aufgabe dieselbe Leistung erbringt.

Begrenzte Gewichtsänderung bei einem Qwen-Modell

Im praxisnächsten Experiment sollte Astra mithilfe einer Programmierumgebung und Übungsaufgaben die Mathematikfähigkeiten von Qwen3.5-0.8B verbessern. Die Bewertung erfolgte anhand separater Aufgaben, die Astra zuvor nicht gesehen hatte. Astra identifizierte Denkschleifen, in denen das Modell denselben Text wiederholte, statt eine Antwort zu geben, und veränderte nur 0,016 Prozent der Gewichte.

Den von den Forschenden mitgeteilten Ergebnissen zufolge stieg die Leistung bei MATH-500 von 7,9 auf 48,1 Prozent, die Fähigkeit, Anweisungen zu befolgen, von 21 auf 62 Prozent. Die Denkschleifen verschwanden allerdings nicht vollständig: Ein Drittel der Antworten erreichte weiterhin die maximale Textlänge. Vor der Änderung lag dieser Anteil bei 93 Prozent. Bei Gemma 3 270M, bei dem solche Probleme nur selten auftraten, wurde hingegen keine messbare Verbesserung erzielt. Die Forschenden vermuten, dass Astra bei Qwen ein Hindernis beseitigt haben könnte, das bereits vorhandene Fähigkeiten unterdrückte. Das Experiment zeigt nicht, dass sich auf diesem Weg Fähigkeiten vermitteln lassen, die dem Modell grundsätzlich fehlen.

Auswirkungen auf Architektur- und Visualisierungs-Workflows

Die Studie ist keine Ankündigung einer direkten Modellierungs- oder Renderfunktion. Sie zeigt jedoch, dass ein alternativer Ansatz erforscht wird, um das Verhalten von KI-Tools für Architektur- und Visualisierungsteams gezielt zu verändern, ohne das gesamte Modell erneut zu trainieren. Wie sich die Methode auf Designsoftware anwenden ließe, wird in der Quelle nicht erläutert.

Für Büros ist es wichtig, die Ergebnisse mit realen Produktionsaufgaben zu prüfen. Die Forschenden erkennen die Grenzen der Methode an und sehen eine Benchmark-Studie zur systematischen Bewertung als nächsten Schritt. Informationen zu Hardwareanforderungen, Lizenzbedingungen und kommerzieller Nutzung sind in der Meldung nicht enthalten. Solange diese Fragen ungeklärt sind, lässt sich nicht entscheiden, ob sich der Ansatz in Workflows integrieren lässt.

Quellen

1 Quelle
TD
The Decoderthe-decoder.com/gpt-6-astra-sees-the-matrix-and-reprograms-other-ai-models-directly-through-their-weights
Zusammenfassung

Quelltexte werden nicht neu veröffentlicht; kurze Zitate sind gekennzeichnet, der Rest ist eigene Zusammenfassung und Einordnung.

Die Einschätzung von 3dsınıfı
3dEinschätzung der Redaktion

Für Architektur- und Visualisierungsbüros bietet diese Forschung heute kein neues, sofort einsetzbares Produktionswerkzeug. Die Idee, gezielt in ein Problem einzugreifen, ohne ein Modell von Grund auf neu zu trainieren, könnte jedoch künftig beeinflussen, wie Büros ihre KI-Assistenten anpassen. Der Zuwachs im Qwen-Experiment ist bemerkenswert; die Ergebnisse bei den anderen Spielen und bei Gemma 3 270M zeigen aber, dass sich die Methode nicht auf jedes Modell und jede Aufgabe gleichermaßen anwenden lässt.

Für Teams in der Türkei sollte es in der Praxis vorerst darum gehen, die Entwicklung zu verfolgen, statt die Methode bereits einzusetzen. Hardwareanforderungen, Lizenz- und kommerzielle Nutzungsbedingungen wurden nicht offengelegt; zudem ist die Zuverlässigkeit bei realen Projektaufgaben noch nicht belegt. Ergebnisse aus systematischen Benchmarks könnten helfen, die Eignung des Ansatzes für Produktionsabläufe einzuschätzen.

Häufige Fragen

Was ist Weight-Space Programming?

Der von den Forschenden verwendete Begriff bezeichnet einen Ansatz, bei dem Gewichtswerte direkt bearbeitet werden, statt das Modell mit herkömmlichen Methoden erneut zu trainieren.

Wie stark verbesserte GPT-6 Astra die Mathematikleistung von Qwen3.5-0.8B?

Im von den Forschenden beschriebenen Experiment stieg das MATH-500-Ergebnis von 7,9 auf 48,1 Prozent. Verändert wurden 0,016 Prozent der Gewichte.

Funktioniert die direkte Bearbeitung von Gewichten bei jedem Modell?

Die Quelle berichtet kein solches Ergebnis. Bei Gemma 3 270M wurde keine messbare Verbesserung festgestellt, und die Forschenden weisen auf Grenzen des Ansatzes hin.

Kommentare und Forum sind auf Türkisch.Mitdiskutieren
+

Verwandte Meldungen