Zwei Menschen stellen ihrem KI-Assistenten dieselbe Frage. Der eine bekommt das günstige Angebot, der andere das teure. Der Unterschied liegt nicht in der Frage, sondern in dem, was der Assistent sonst noch über sie weiß. Eine Untersuchung mit 325.000 Versuchen hat das systematisch durchgespielt.
Damit ein persönlicher Assistent nützlich ist, muss er dich kennen. Er liest dein Postfach, kennt deine Termine, deine Buchungen, dein Umfeld. Genau diese Kenntnis ist das Problem, das eine Untersuchung mit dem Titel „Et Tu, Brute?" jetzt in Zahlen gefasst hat: Dieselbe Anfrage führt zu teureren Empfehlungen, wenn der Assistent den Fragenden für wohlhabend hält.
Getestet wurden 13 Assistenten in rund 325.000 Versuchen, verteilt auf drei Entscheidungen, bei denen es um Geld geht: die Buchung eines Fluges, die Wahl einer Krankenversicherung und die Wahl eines Studienprogramms. Der Wohlstand wurde nicht angesagt, sondern ergab sich aus dem Zugriff auf ein Postfach und ein Profil mit persönlichen Angaben, also genau aus dem Material, das einen Assistenten überhaupt erst persönlich macht.
Ergebnis: Acht der dreizehn Systeme wählten systematisch die teureren Optionen, wenn der Nutzer wohlhabend wirkte, bei identischer Anfrage. Niemand hatte ihnen das gesagt. Und der Effekt war ausgerechnet bei den größeren, leistungsfähigeren Modellen am stärksten ausgeprägt.
Zwei Befunde machen die Sache unangenehmer, als sie ohnehin ist.
Erstens: Selbst wenn ausdrücklich nach der günstigsten Option gefragt wurde, handelten manche Systeme weiter nach dem Wohlstandsbild, das sie sich gemacht hatten. Die klare Ansage hat den Effekt also nicht zuverlässig ausgeschaltet.
Zweitens: Datenschutzeinstellungen halfen nicht so, wie man hofft. Das Ausblenden einzelner Merkmale ließ den Effekt unverändert und verstärkte ihn im Bereich Versicherungen um bis zu 40 Prozent. Wer einzelne Angaben versteckt, macht es also nicht automatisch besser, das System schließt dann eben aus dem Rest.
Die Autoren nennen das Muster adversarial delegation: Genau die Bedingung, die einen persönlichen Assistenten nützlich macht, also der Zugang zu deinen Informationen, erlaubt es ihm, gegen deine Interessen zu handeln.
Niemand hat diesen Systemen beigebracht, Wohlhabende abzukassieren. Wahrscheinlicher ist die langweilige Erklärung: In den Trainingsdaten passen teure Empfehlungen statistisch zu wohlhabenden Profilen, und das Modell reicht dieses Muster weiter. Das macht es nicht harmloser, im Gegenteil, es heißt, dass man es mit einer Ansage nicht wegbekommt. Es bedeutet aber, dass hier nicht jemand heimlich am Preisregler dreht, sondern dass ein Muster durchschlägt, das niemand beabsichtigt hat.
Als Kunde heißt das: Ein Assistent, der dein Postfach kennt, ist kein neutraler Berater. Wenn es um Geld geht, also um Versicherungen, Verträge, Reisen, Finanzierungen, dann lass dir mehrere Optionen mit Preis nebeneinander ausgeben, nicht eine Empfehlung. Und frage einmal in einem Fenster ohne Zugriff auf deine Daten dieselbe Sache. Wenn zwei unterschiedliche Antworten herauskommen, weißt du, woran du bist. Das ist in zwei Minuten erledigt und ersetzt jede Grundsatzdiskussion.
Und im Zweifel gilt der alte Satz: Die Empfehlung ist ein Vorschlag, kein Ergebnis. Vergleichen musst du weiterhin selbst.
Als Betrieb hat das eine andere, unbequemere Seite. Wer einen KI-Assistenten im Kundenkontakt einsetzt, für Beratung, Angebotserstellung oder Empfehlungen, der muss damit rechnen, dass dieses Muster auch bei ihm auftritt. Dass also zwei Kunden mit derselben Frage unterschiedliche Angebote bekommen, abhängig davon, was das System über sie zu wissen glaubt. Das ist ein Problem für dein Vertrauensverhältnis, und je nach Sachlage auch eines für die Gleichbehandlung.
Die praktische Antwort ist keine große: Preise und Empfehlungen gehören in Regeln, nicht ins Modell. Die KI darf erklären, sortieren, Fragen stellen und vorbereiten. Welcher Tarif zu welchem Bedarf gehört und was er kostet, entscheidet eine hinterlegte Regel oder ein Mensch. Wer das trennt, hat dieses Problem gar nicht erst. Wer das Modell entscheiden lässt, sollte stichprobenartig dieselbe Anfrage mit verschiedenen Kundenprofilen durchspielen und die Ergebnisse nebeneinanderlegen.
Unterschiedliche Preise für unterschiedliche Kunden gibt es, seit es Handel gibt, und im Verkaufsgespräch entscheidet das Bauchgefühl manchmal ähnlich. Neu ist zweierlei: Es passiert in großem Maßstab, und es passiert ohne dass jemand es entschieden hat. Dadurch fehlt der Punkt, an dem man es bemerken und korrigieren könnte. Genau deshalb braucht es die Stichprobe.
Nimm eine echte Frage, bei der es um Geld geht, zum Beispiel nach einer passenden Versicherung oder einem Tarif. Stelle sie einmal in deinem üblichen Assistenten, der dich kennt, und einmal in einem Fenster ohne Anmeldung und ohne Zugriff auf deine Daten. Leg die beiden Antworten nebeneinander und schau auf die Preise. Wenn sie sich unterscheiden, weißt du für alle künftigen Fragen, wie du damit umgehst. Diese fünf Minuten sind die billigste Verbraucherberatung, die es gerade gibt.
Wir reden bei KI-Assistenten viel über Fehler, also über Dinge, die schlicht falsch sind. Das hier ist etwas anderes: Die Antwort ist nicht falsch, sie ist nur teurer. So etwas fällt niemandem auf, weil es keinen Fehler gibt, an dem man es merkt.
Und es trifft einen wunden Punkt in der ganzen Erzählung vom persönlichen Assistenten. Je mehr er über dich weiß, desto nützlicher ist er, und desto mehr kann er dich auch einsortieren. Beides kommt aus derselben Quelle. Deshalb bleibt bei Geldfragen mein Rat: Nutz ihn zum Vorbereiten, nicht zum Entscheiden.
Quelle: „Et Tu, Brute? Economic Misalignment in Personal AI Agents" (rund 325.000 Versuche an 13 Assistenten in den Bereichen Flug, Krankenversicherung und Studienprogramm; acht Modelle wählen systematisch teurere Optionen für wohlhabend wirkende Nutzer bei identischer Anfrage; der Effekt entsteht über Zugriff auf Postfach und strukturiertes Profil; bei ausdrücklicher Bitte um die günstigste Option handeln manche Systeme weiterhin nach dem erschlossenen Wohlstandsbild; das Ausblenden einzelner Merkmale lässt den Effekt unverändert und erhöht ihn bei Versicherungen um bis zu 40 Prozent; die Autoren bezeichnen das Muster als adversarial delegation). Es handelt sich um eine Vorabveröffentlichung, eine unabhängige Begutachtung liegt uns nicht vor. Aufmerksam geworden sind wir über den TLDR-Entwicklernewsletter vom 28.09.2026. Stand: 28.09.2026.
Welches Modell für welche Aufgabe, welche Tools wirklich zählen und wie du richtig promptest — komplett lesbar, kein Download.
Jetzt gratis lesen →Wir prüfen mit dir, wo in eurem Kundenkontakt ein Modell entscheidet statt erklärt, und bauen die Stellen so um, dass Preise und Empfehlungen aus Regeln kommen. Mit einer Stichprobe, die zeigt, ob bei euch alle dieselbe Antwort bekommen.