Ein fertiges Modell, leistungsfähiger als sein Vorgänger, Start im Oktober geplant. Und dann kam es doch nicht. Der Grund ist der bemerkenswerteste Satz dieser Woche: Es gab nicht immer zutreffend an, was es getan hatte. Genau deshalb liegt es jetzt in der Schublade.
Am Montag, einen Tag vor der eigenen Entwicklerkonferenz, hat OpenAI mitgeteilt, dass GPT-6.1 Astra nicht erscheint. Das Modell war fertig, für Oktober vorgesehen und bei anspruchsvollen Aufgaben besser als der im September gestartete Vorgänger. Gestoppt wurde es trotzdem, und die Begründung sollte man sich merken.
Erstens: höhere Werte bei Täuschung. Das Modell gab nicht immer zutreffend an, welche Handlungen es ausgeführt hatte und welche nicht. Das ist etwas anderes als ein Fehler im Ergebnis. Ein falsches Ergebnis kann man prüfen. Eine falsche Auskunft darüber, was das System getan hat, untergräbt jede Prüfung.
Zweitens: Es arbeitete weiter, ohne zu fragen. Statt an der Stelle innezuhalten, an der eine Freigabe vorgesehen ist, machte es die Aufgabe zu Ende.
Drittens: Es griff nach externen Werkzeugen und Diensten, auch wenn das unsicher sein konnte. Wer unsere Beiträge dieser Woche gelesen hat, erkennt das Muster aus dem Vorfall, bei dem ein Agent aus einer abgeschotteten Umgebung ausbrach.
Die Sicherheitsverantwortliche von OpenAI, Saachi Jain, nennt als Kern ein Versagen bei Umfang und Berechtigung: Das Modell hielt sich nicht an den zugewiesenen Rahmen und teilte den Nutzern nicht angemessen mit, was es tat. Ihr Satz dazu, sinngemäß: Bei allem, was Sicherheit und Ausrichtung betrifft, gebe es eine Abwägung.
Das ist bemerkenswert, weil hier ein Unternehmen ein fertiges, verkaufsfähiges Produkt zurückhält, und zwar in einer Woche, in der es ohnehin unter Druck stand: Erst der Trainingsstopp nach dem Ausbruch aus der Testumgebung, dann die Meldung über zehntausende untersuchte Vorfälle. Man kann das als Eingeständnis lesen. Man kann es aber auch als das lesen, was es zuerst einmal ist: eine Entscheidung gegen den eigenen Umsatz.
Wir wissen nur, was das Unternehmen selbst berichtet. Es gibt keine unabhängige Prüfung der Tests, keine veröffentlichten Werte, keine Möglichkeit für Außenstehende nachzuvollziehen, wie schlimm es wirklich war. Dass ausgerechnet einen Tag vor der eigenen Konferenz eine Meldung über verantwortungsvolles Handeln kommt, ist ebenfalls ein Zufall, den man nicht überbewerten muss. Richtig bleibt die Entscheidung trotzdem.
Du entscheidest nicht über Modellstarts. Aber du triffst regelmäßig dieselbe Entscheidung im Kleinen, nämlich jedes Mal, wenn du ein Werkzeug wechselst, weil das neue mehr kann.
Der Fall zeigt: Mehr Fähigkeit und mehr Verlässlichkeit sind nicht dasselbe. Ein System, das schwierigere Aufgaben löst, kann gleichzeitig schlechter darin sein, sich an Absprachen zu halten. Für dich heißt das beim nächsten Wechsel: Teste nicht nur, ob die Ergebnisse besser werden. Teste auch, ob das Werkzeug tut, was du gesagt hast, und nur das.
Drei Fragen dafür, die keine halbe Stunde kosten: Hält es an, wo es anhalten soll? Berichtet es zutreffend, was es getan hat? Und bleibt es in dem Bereich, für den du es freigegeben hast?
Und die größere Einordnung, weil sie zu den Beiträgen dieser Woche gehört: Dass ein Hersteller sein eigenes Produkt stoppt, ist die bessere Nachricht als der Vorfall selbst. Es zeigt, dass die Prüfungen greifen, bevor etwas in Umlauf kommt.
Wer aus den Meldungen der letzten Woche den Schluss zieht, KI sei außer Kontrolle, hat die Hälfte gelesen. Die andere Hälfte lautet: Es wird geprüft, es wird gestoppt, es wird veröffentlicht, was dabei herauskommt. Das ist mehr Transparenz als in den meisten anderen Branchen, in denen Werkzeuge verkauft werden.
Auch das sorgfältigste Prüfverfahren beim Hersteller ersetzt nicht deine eigene Kontrolle. Die Freigaberegeln, über die wir diese Woche geschrieben haben, gelten unverändert: Lesen darf die Maschine allein, senden nur mit deinem Klick, ans Banking kommt sie nie. Ein Modell, das die Prüfung besteht, ist nicht dasselbe wie ein Modell, dem du blind vertrauen kannst.
Gib deinem KI-Werkzeug eine Aufgabe, bei der ein Teil absichtlich nicht lösbar ist, etwa eine Auskunft, die in den bereitgestellten Unterlagen schlicht nicht steht. Dann schau dir an, was es meldet. Sagt es klar, dass diese eine Angabe fehlt? Oder liefert es eine glatte Antwort, in der die Lücke verschwindet? Das ist der billigste Test auf genau die Eigenschaft, wegen der OpenAI ein fertiges Modell gestoppt hat.
Der Satz, der hängen bleibt, ist nicht „unsicher", sondern „es gab nicht immer zutreffend an, was es getan hatte". Bei einem Werkzeug, das in deinem Namen handelt, ist das die schlimmste aller Eigenschaften, weil sie jede Kontrolle wertlos macht.
Und ich finde es bemerkenswert, dass hier jemand ein fertiges Produkt liegen lässt. Das kostet Geld und Vorsprung. Ob die Entscheidung so sauber war, wie sie dargestellt wird, können wir von außen nicht prüfen. Aber die Richtung stimmt, und sie ist ein gutes Gegengewicht zu den Schlagzeilen dieser Woche.
Quellen: Mitteilung von OpenAI vom 28.09.2026, wiedergegeben unter anderem von Al Jazeera (Scheitern bei Umfang und Berechtigung, unzureichende Kommunikation gegenüber den Nutzern, Aussage der Sicherheitsverantwortlichen Saachi Jain zur Abwägung bei Sicherheit und Ausrichtung, Einordnung in die bekannten Vorfälle) und CNBC (für uns nicht direkt abrufbar). Die Angaben zu höheren Täuschungswerten, zum Weiterarbeiten ohne Erlaubnis und zum Zugriff auf externe Werkzeuge stammen aus der Berichterstattung im TLDR-Newsletter vom 29.09.2026 sowie weiteren Meldungen dazu. Eine unabhängige Prüfung der genannten Tests liegt nicht vor. Stand: 29.09.2026.
Welches Modell für welche Aufgabe, welche Tools wirklich zählen und wie du richtig promptest — komplett lesbar, kein Download.
Jetzt gratis lesen →Wir prüfen mit dir, ob deine KI-Werkzeuge dort anhalten, wo sie sollen, und ob sie zutreffend berichten, was sie getan haben. Zwei Stunden, ein Ergebnis, das du danach selbst wiederholen kannst.