Die BSI-Präsidentin wirft großen KI-Anbietern mangelnde Sicherheit vor und fordert Regeln, eine Prüfstelle und Haftung. Was gesagt wurde, was die Meldung nicht belegt und welche vier Fragen du jedem KI-Agenten stellst.
Die Präsidentin des Bundesamts für Sicherheit in der Informationstechnik, Claudia Plattner, hat große KI-Anbieter für ihren Umgang mit IT-Sicherheit kritisiert. Wir haben die dpa-Meldung vom 22. Oktober 2026 gelesen und ordnen ein, was sie fordert, was die Meldung nicht belegt und was das für Betriebe heißt, die KI-Agenten einsetzen.
Laut dpa sagte Plattner im Interview mit dem „Spiegel“, die Hersteller widmeten der Sicherheit ihrer Systeme bislang zu wenig Aufmerksamkeit. Sie vermisse bei den großen Anbietern in den USA wie in China Engagement und Ernsthaftigkeit, Probleme zu verhindern. Selbstverpflichtungen der Branche reichen ihr nicht aus. Als Hintergrund nennt die Meldung „immer neue IT-Sicherheitsvorfälle“ durch unkontrollierte KI-Agenten und gesteuerten Missbrauch von KI durch Menschen. Plattner erwartet keine schnelle Entspannung und sagte, es stünden unruhige Zeiten bevor.
Ihre Forderungen: Die Regeln müssten an autonom handelnde KI-Agenten angepasst werden, und zwar technisch. Als Leitfragen nennt sie, was für eine KI es ist, wem sie gehört, wer sie beauftragt hat und was sie darf. Eine Stelle soll kontrollieren, ob die Regeln eingehalten werden. Hersteller sollen unkontrollierte Angriffe durch ihre Systeme besser verhindern und für die Folgen einstehen, sonst könnten Haftungsfragen entstehen. Es ist ihr Produkt, so die sinngemäße Aussage.
Konkrete Sicherheitsvorfälle oder einzelne Anbieter nennt die dpa-Meldung nicht. Wir haben das Spiegel-Interview nicht selbst gelesen, sondern nur die Agenturmeldung, und mehrere Portale geben dieselbe Meldung wieder. Die Forderungen sind keine Gesetze und keine Beschlüsse, sondern die Position der BSI-Präsidentin. Ob und wann daraus Regeln werden, ist offen.
Plattners Leitfragen lassen sich direkt auf deinen Betrieb übertragen. Was für eine KI ist es? Welcher Anbieter, welches Modell, welche Version, und läuft sie bei dir oder in der Cloud? Wem gehört sie? Wer betreibt sie, wo liegen die Daten, und wer haftet laut Vertrag? Wer hat sie beauftragt? Wer im Betrieb hat den Agenten eingerichtet und ist für ihn zuständig? Was darf sie? Auf welche Konten, Daten und Funktionen hat sie Zugriff, und was darf sie nur nach deiner Freigabe?
Das ist dieselbe Denkweise wie bei unseren Beiträgen zu Claude Duet und zum LiteLLM-Angriff: Was darf der Agent allein, wer sieht die Zugangsdaten, wer schaltet ihn ab. Das ist unsere Einordnung und nicht Teil von Plattners Aussagen. Die Haftungsfrage ist ein Anlass, in Verträgen mit KI-Anbietern und Dienstleistern nachzulesen, was dort zu Haftung und Sicherheit steht.
Plattner spricht über Hersteller, nicht über Anwender, und die Meldung nennt keine neuen Pflichten für Betriebe. Heute gelten die bestehenden Regeln, zum Beispiel zu Datenschutz und Sicherheit. Wie sich Haftung und Prüfstelle entwickeln, ist offen. Wir sind keine Rechtsberatung.
Drei Minuten: Schreib auf, welche KI-Agenten und KI-Werkzeuge ihr im Betrieb nutzt, auch die, die einzelne Mitarbeiter privat eingerichtet haben. Fünf Minuten: Trag zu jedem Anbieter, Zuständigen und Datenort ein. Vier Minuten: Notiere für jeden Agenten, welche Konten und Daten er erreicht und was er nur nach Freigabe darf. Zwei Minuten: Prüfe, wer ihn abschalten kann und wie schnell. Eine Minute: Hänge die Liste dort ab, wo sie auch im Ernstfall jemand findet.
Die BSI-Präsidentin sagt, die großen KI-Anbieter tun zu wenig für Sicherheit, und fordert technische Regeln, eine Prüfstelle und Haftung. Das ist eine Position und noch kein Beschluss.
Für deinen Betrieb gilt: Frag bei jedem KI-Agenten, was es für eine KI ist, wem sie gehört, wer sie beauftragt hat und was sie darf.
Quelle: dpa-Meldung vom 22. Oktober 2026, Berlin, wiedergegeben unter anderem von den Stuttgarter Nachrichten, zum Interview mit BSI-Präsidentin Claudia Plattner im Nachrichtenmagazin „Spiegel“. Gelesen am 25. Oktober 2026 und sinngemäß wiedergegeben. Das Spiegel-Interview selbst haben wir nicht gelesen. Die Übertragung der Leitfragen auf Betriebe, der Check und die Hinweise zu Verträgen sind unsere Einordnung und keine Rechtsberatung.
Welches Modell für welche Aufgabe, welche Tools wirklich zählen und wie du richtig promptest — komplett lesbar, kein Download.
Jetzt gratis lesen →Wir gehen mit dir durch, welche KI-Werkzeuge in deinem Betrieb laufen, welche Rechte sie haben und wie du sie im Ernstfall abschaltest.