Ein Forscher verlässt Anthropic und wirft beiden großen Häusern vor, unverantwortlich zu handeln. Das allein wäre keine Nachricht. Bemerkenswert ist, dass ihm einen Tag später der eigene Leiter der Sicherheitsforschung öffentlich recht gibt.
Dass Sicherheitsleute bei KI-Häusern kündigen und dabei warnen, ist seit zwei Jahren fast Routine. Es wäre keinen Beitrag wert. Was diesen Fall heraushebt, ist die Reaktion: Nicht ein Sprecher hat widersprochen, sondern der Mann, der im selben Unternehmen die Sicherheitsforschung leitet, hat zugestimmt. Öffentlich, mit Zahl.
Am Dienstag, dem 9. September, hat Jacob Coxon seine Kündigung bei Anthropic öffentlich gemacht. Er ist 27, hat drei Jahre in der Grundlagenforschung zum Modelltraining gearbeitet, zuerst bei OpenAI, danach bei Anthropic. Sein Vorwurf: Keines der beiden Häuser handle verantwortlich, beide rasten geradewegs auf selbstverbessernde Superintelligenz zu und spielten dabei, wörtlich, mit unser aller Leben.
Gegenüber dem Wall Street Journal wurde er konkreter. Man sei auf dem Weg in die aggressivsten der durchgespielten Szenarien, und bereits bis Ende nächsten Jahres könne die Lage außer Kontrolle geraten. Seine Begründung dafür, warum niemand aussteigt: Die Leute in den Laboren sähen die Gefahren durchaus, machten aber weiter, weil sie glauben, ein Wettbewerber wäre sonst schneller.
Am Tag darauf meldete sich Evan Hubinger, der bei Anthropic die Ausrichtungsforschung leitet, also genau den Bereich, der KI-Ziele mit menschlichen Zielen in Einklang bringen soll. Er schrieb, Coxon habe recht, und man glaube dort ernsthaft, KI könne alle Menschen töten. Seine persönliche Einschätzung des Risikos: über zehn Prozent innerhalb eines Jahrzehnts. Anthropic gebe sich Mühe, habe aber keinen Plan, wie Ausrichtung für Superintelligenz zu lösen sei, und sei erkennbar nicht auf Kurs.
Beide sprechen für sich, nicht für ihr Haus, und Hubinger stellt das ausdrücklich klar. Eine offizielle Stellungnahme von Anthropic zur Kündigung gibt es nicht. Die Beiträge stehen auf X, das ohne Konto nicht ausliefert, wir konnten sie also nicht im Original einsehen. Alle Angaben hier stammen aus der Berichterstattung, die sich ihrerseits auf das WSJ-Interview und die beiden Beiträge stützt. Wir kennzeichnen das, statt es zu verschweigen.
Bei solchen Meldungen ist der erste reflexhafte Gedanke berechtigt: Wer sagt, sein Produkt könne die Menschheit auslöschen, sagt zugleich, sein Produkt sei ungeheuer mächtig. Untergangswarnungen sind in dieser Branche auch Marketing, und wir haben das hier schon mehrfach so eingeordnet.
Diesmal trägt die Erklärung schlechter als sonst. Wer wirbt, sagt nicht, er habe keinen Plan und sei nicht auf Kurs. Das ist kein Satz, den eine Kommunikationsabteilung durchwinkt. Er schadet dem Vertrauen in genau die Abteilung, die Vertrauen herstellen soll.
Zugleich gilt: Eine Einschätzung von über zehn Prozent ist eine Meinung, keine Messung. Es gibt keine Methode, mit der man so etwas seriös ausrechnet, und andere Fachleute halten dieselbe Zahl für viel zu hoch oder für unsinnig. Wer diese Zahl weiterträgt, sollte sie als das benennen, was sie ist: die persönliche Einschätzung eines Beteiligten, der die Systeme von innen kennt und zugleich ein Interesse daran hat, dass seine Arbeit wichtig genommen wird.
Aus dieser Debatte folgt keine einzige Maßnahme für den Montag. Wer jetzt aus Sorge KI abschaltet, verliert sicher etwas Gegenwärtiges wegen etwas Ungewissem. Und wer sie wegen dieser Meldung schneller einführt, hat sie missverstanden. Es geht hier um Systeme, die um Größenordnungen über dem liegen, was in einem Angebotsschreiben passiert.
Solche Schlagzeilen landen in der Mittagspause auf dem Handy eurer Leute, und die Frage kommt dann in der Form „Sollen wir das überhaupt noch benutzen?". Die schlechteste Antwort ist Wegwischen. Die beste ist eine Trennung: Das eine ist die Frage, ob Systeme, die es noch nicht gibt, eines Tages gefährlich werden. Das andere ist die Frage, was ein Textwerkzeug in unserem Angebotsablauf tut. Für das Erste sind wir nicht zuständig, für das Zweite schon. Und für das Zweite haben wir Regeln aufgeschrieben.
Mich überzeugt an dieser Sache nicht die Zahl, sondern die Konstellation. Ein Aussteiger warnt, und statt Gegenrede kommt Zustimmung aus der Abteilung, die es wissen müsste. Das ist selten, und es ist ein anderes Signal als der übliche Streit zwischen Kritikern und Anbietern.
Für unsere Arbeit ändert es die Haltung, nicht die Werkzeuge. Wir behandeln diese Häuser als Lieferanten, nicht als Partner, und wir bauen so, dass ein Wechsel machbar bleibt. Das haben wir gestern schon aus einer ganz anderen Meldung abgeleitet, den 517 Milliarden für Rechenzeit. Zwei Wege, dieselbe Schlussfolgerung.
Quellen: Berichterstattung vom 9. und 10. September 2026 zu Jacob Coxons Kündigung und Evan Hubingers Antwort, unter anderem The Next Web und Forbes, jeweils gestützt auf ein Interview im Wall Street Journal und die Beiträge beider Personen auf X. Die Originalbeiträge waren für uns ohne Konto nicht abrufbar, ebenso das WSJ-Interview hinter der Bezahlschranke. Eine Stellungnahme von Anthropic liegt nicht vor. Stand: 09.09.2026.
Welches Modell für welche Aufgabe, welche Tools wirklich zählen und wie du richtig promptest — komplett lesbar, kein Download.
Jetzt gratis lesen →Ich schreibe mit dir auf, was KI in deinem Betrieb darf und was nicht, wer freigibt und woran ihr merkt, dass etwas schiefläuft. Dann könnt ihr solche Schlagzeilen gelassen lesen.