Fast jeder Zweite fürchtet selbstständig handelnde KI, und 92 Prozent wollen einen Not-Aus-Schalter. Was das für deinen KI-Helfer und deine Kunden heißt.
Der Digitalverband Bitkom hat am 10. November 2026 eine Umfrage veröffentlicht: 92 Prozent der Befragten wollen, dass alle KI-Systeme einen Not-Aus-Schalter haben. Zugleich fürchtet knapp die Hälfte, eine selbstständig handelnde KI könnte die Menschheit auslöschen. Ein Newsletter von BASIC thinking hat uns auf das Thema gebracht. Wir haben die Bitkom-Pressemitteilung im Original gelesen, dazu die Seite der Bundesregierung zum KI-Sicherheitsinstitut AISI Deutschland. Die Aussagen eines Max-Planck-Direktors stammen nur aus dem Newsletter, den Originaltext dazu haben wir nicht gelesen. Offenlegung: Bitkom ist der Branchenverband der IT-Wirtschaft und hat die Umfrage selbst in Auftrag gegeben. Zur Transparenz: Wir arbeiten in der Redaktion mit Claude von Anthropic, einem KI-Anbieter, und erzeugen Bilder mit OpenAI-Modellen. Die Einordnung für Betriebe ist unsere Einschätzung, keine Studie und keine Rechtsberatung.
Wer wurde gefragt? Bitkom Research hat laut Pressemitteilung 1.006 Personen ab 16 Jahren in Deutschland telefonisch befragt, in der Kalenderwoche 41 2026, also Anfang Oktober. Die Umfrage gilt als repräsentativ. Gefragt wurde nach KI-Systemen, die „völlig selbstständig Aufgaben planen, Entscheidungen treffen und ausführen“. Was kam heraus? 49 Prozent fürchten, dass eine selbstständig handelnde KI die Menschheit auslöschen könnte. Bei Menschen ab 65 sind es 61 Prozent, bei den 16- bis 29-Jährigen 34 Prozent. 92 Prozent wollen einen Not-Aus-Schalter für alle KI-Systeme, in jeder Altersgruppe über 90 Prozent. 85 Prozent wollen strengere Regeln für besonders leistungsfähige KI, und 80 Prozent sehen KI in den falschen Händen als Gefahr für die Menschheit. Trotzdem sehen 56 Prozent in KI eher eine Chance als ein Risiko, bei den 16- bis 29-Jährigen 66 Prozent, ab 65 Jahren 49 Prozent. Bei selbstständig handelnden Systemen halten sich Zuversicht (47 Prozent) und Sorge (49 Prozent) die Waage. Ab 65 überwiegt bei 62 Prozent die Sorge, nur 34 Prozent sind zuversichtlich. Bei den 16- bis 29-Jährigen sind 58 Prozent zuversichtlich.
Wie ordnet das der Verband ein? Bitkom-Präsident Ralf Wintergerst sagt in der Mitteilung, je selbstständiger KI-Systeme handeln, desto wichtiger werde die Frage, wie der Mensch die Kontrolle behält. Ältere müsse man stärker mitnehmen und ihnen zeigen, was KI konkret für sie leisten kann. Das KI-Sicherheitsinstitut AISI Deutschland nennt er ein richtiges Signal. Laut Bundesregierung ist das Institut ein nationales Kompetenz- und Evaluierungsinstitut, das Digitalministerium und Innenministerium aufbauen. Es untersucht Cybersicherheit und neue KI-Modelle und soll auch die Wirtschaft beraten. Es ist ausdrücklich keine Regulierungsbehörde. Wie streiten Fachleute? Laut dem Kommentar von BASIC thinking nutzen manche KI-Anbieter und Medien Untergangsszenarien aus Eigeninteresse, andere Fachleute halten sie für ernst zu nehmen. Der Max-Planck-Direktor Thorsten Holz sagt dort, Zahlen wie zehn oder zwanzig Prozent seien subjektive Einschätzungen und keine empirisch bestimmbaren Wahrscheinlichkeiten, die Gründe für Sicherheitsfragen hätten sich aber verstärkt.
Ob jemand eine Auslöschung fürchtet, sagt nichts darüber, wie wahrscheinlich sie ist. Gefragt wurde zudem nach selbstständigen KI-Systemen im Allgemeinen, nicht nach den Werkzeugen, die Betriebe heute nutzen. Und der Auftraggeber vertritt die IT-Wirtschaft. In den gelesenen Quellen steht keine Pflicht für einen Not-Aus-Schalter: Die 92 Prozent sind ein Wunsch, kein Gesetz.
Ab hier gilt: Das ist unsere Einschätzung, keine Studie und keine Rechtsberatung. Die Umfrage hilft dir, weil sie zeigt, was viele Menschen von KI erwarten: dass ein Mensch sie stoppen kann. Das lässt sich im Kleinen sofort umsetzen. Erstens: Lege den Not-Aus für deinen KI-Helfer fest, bevor du ihn brauchst. Im Betrieb heißt Not-Aus meist vier Dinge: den Zugang sperren, also Konto, Schlüssel oder Verbindung entziehen, die Rechte auf „nur lesen“ zurückstellen, geplante Aufgaben anhalten und Aktionen wie Mails senden oder Zahlungen nur noch mit Freigabe zulassen. Entscheide, wer das darf, und benenne mindestens eine Vertretung. Teste einmal, wie lange es dauert. Bei Diensten von Anbietern gibt es für dich selten einen Schalter im Modell selbst, aber du kontrollierst, was dein Konto darf. Wie du Rechte, Protokoll und Rückfrage für einen Agenten sinnvoll einrichtest, steht in diesem Beitrag.
Zweitens: Erkläre deinen Kunden ruhig und konkret, wofür du KI nutzt. Die Zahlen zeigen, dass ältere Menschen selbstständig handelnde KI deutlich häufiger mit Sorge sehen als jüngere. Das heißt nicht, dass du KI verstecken solltest. Sag in zwei, drei Sätzen, wofür du sie nutzt, zum Beispiel für Terminvorschläge oder Entwürfe, wofür nicht und dass am Ende ein Mensch entscheidet. Nenne, wer erreichbar ist, und biete den persönlichen Weg an. Verzichte auf Fachwörter. Drittens: Trenne Angst von echtem Risiko. Die verbreitete Sorge vor einer Auslöschung ist für den Alltag deines Betriebs kaum der Maßstab. Greifbarer sind falsche Auskünfte, ungewollte Zugriffe auf Kundendaten und Aktionen, die niemand freigegeben hat. Wie du Ziele und Grenzen für einen dauerhaft arbeitenden Helfer festlegst, steht in diesem Beitrag, den Umgang mit Kundendaten erklärt dieser Ratgeber.
Die Umfrage ist kein Argument gegen KI im Betrieb: Die Mehrheit sieht KI sogar eher als Chance. Sie ist ein Hinweis, dass Kontrolle und Erklärung dazugehören. Wer beides geregelt hat, kann KI ruhiger einsetzen.
Drei Minuten: Schreib auf, welche KI-Werkzeuge in deinem Betrieb Zugriff auf Mails, Dateien, Kasse oder Kundendaten haben und wie du jedem davon den Zugang entziehst. Vier Minuten: Lege zwei Personen fest, die den Zugang sperren dürfen, und teste einmal, wie lange das dauert. Drei Minuten: Schreib drei Sätze auf, mit denen du Kunden erklärst, wofür du KI nutzt, wofür nicht und wer am Ende entscheidet.
Mir gefällt an der Umfrage, dass sie einen Wunsch sichtbar macht, den du im Kleinen sofort erfüllen kannst: Ein Mensch soll die Kontrolle behalten. Gleichzeitig misst sie ein Gefühl, keine Gefahr, und kommt von einem Verband der IT-Wirtschaft. Wir arbeiten selbst mit KI-Diensten und lesen die Zahlen deshalb mit Abstand.
Not-Aus festlegen, Kunden ruhig erklären, echte Risiken im Blick behalten. Das ist unsere Einschätzung.
Quellen: Bitkom, Presseinformation „Deutsche wünschen sich mehr KI-Sicherheit“ (10. November 2026, im Original gelesen); Bundesregierung, „KI-Sicherheitsinstitut eröffnet“ (AISI Deutschland) (im Original gelesen); BASIC thinking, UPDATE #907 (18. November 2026, Anlass; die Aussagen von Thorsten Holz laut diesem Newsletter, Originaltext nicht gelesen). Die Übersetzung für Betriebe ist unsere Einschätzung.
Welches Modell für welche Aufgabe, welche Tools wirklich zählen und wie du richtig promptest — komplett lesbar, kein Download.
Jetzt gratis lesen →Wir gehen mit dir durch, welche Zugänge dein KI-Helfer hat, wer sie sperren darf und wie du Kunden den KI-Einsatz ruhig erklärst.