Eine Studie des Center for Democracy and Technology vom Mai 2026 findet 37 manipulative Gestaltungsmuster in KI-Chatbots wie ChatGPT, Gemini und Claude. Sie sind darauf ausgelegt, dich länger chatten, mehr Daten preisgeben und mehr zahlen zu lassen. Wer KI nutzt oder einen eigenen Kunden-Chatbot betreibt, sollte diese Tricks kennen.
KI-Chatbots wirken hilfsbereit, geduldig und freundlich. Genau das ist Teil ihrer Gestaltung, und nicht jeder Teil davon ist in deinem Interesse. Das Center for Democracy and Technology, eine US-amerikanische Bürgerrechtsorganisation, hat im Mai 2026 eine Untersuchung veröffentlicht, die 37 manipulative Muster in verbreiteten KI-Chatbots benennt. Für Betriebe ist das gleich doppelt relevant: als Nutzer und als möglicher Betreiber eines eigenen Chatbots.
Was die Studie gefunden hat
Der Bericht trägt den Titel "Dark Patterns in AI Chatbots" und versteht sich als Ordnungsrahmen für besseres Design. Untersucht wurden weit verbreitete Systeme wie ChatGPT, Gemini und Claude sowie Begleit-Apps wie Replika und Character.AI.
Dark Patterns, auf Deutsch dunkle Muster, sind Gestaltungstricks, die Menschen zu etwas bewegen, das nicht in ihrem Interesse liegt. Aus dem Web kennt man sie als versteckte Abo-Verlängerungen oder Buttons, die absichtlich schwer zu finden sind. Bei KI-Chatbots, so der Bericht, wirken sie stärker, weil die Systeme sich tief personalisieren und große Mengen persönlicher Daten verarbeiten.
Die Forscher beschreiben mehrere Familien solcher Muster. Manche maximieren die Verweildauer, halten dich also möglichst lange im Gespräch. Manche bauen emotionale Abhängigkeit auf, indem die KI Nähe und Verständnis vortäuscht. Manche täuschen Fähigkeiten vor, die das System gar nicht hat. Und manche setzen auf eine Reibungs-Asymmetrie, machen den Einstieg also kinderleicht und den Ausstieg, etwa das Löschen des Kontos, mühsam.
Warum das gerade bei KI gefährlicher ist
Bei einer normalen Webseite durchschaust du den Trick irgendwann. Bei einem Chatbot, der sich wie ein verständnisvoller Gesprächspartner gibt, fällt das schwerer.
Der Bericht weist darauf hin, dass die Systeme Vertrauen ausnutzen können, um zu mehr Käufen zu drängen, sensible Daten zu Geld zu machen oder über emotionale Bindung Abhängigkeit zu schaffen. Je persönlicher die KI auf dich eingeht, desto wirksamer der Hebel. Was sich wie ein guter Zuhörer anfühlt, ist auch eine Maschine, die auf Bindung optimiert ist.
Für den Arbeitsalltag heißt das nicht, KI zu meiden. Es heißt, mit wachem Blick zu nutzen. Wenn ein Chatbot dich zu immer längeren Sitzungen verleitet oder dich beim Versuch, etwas abzulehnen, mit schlechtem Gewissen belegt, ist das kein Zufall.
Was die Studie empfiehlt
Das Center for Democracy and Technology nennt vier Felder, in denen sich Design und Politik bessern müssten. Beim Datenschutz fordert es Datensparsamkeit, datenschutzfreundliche Voreinstellungen und einfache Wege, eigene Daten zu sehen und zu löschen.
Bei der Autonomie der Nutzer empfiehlt es eingebaute Gesprächspausen, eine einfache und schuldfreie Abmeldung sowie ehrliche Zusammenfassungen der eigenen Nutzung. Gegen emotionale Manipulation rät es, Rollenspiel und vorgetäuschte Gefühle nur auf ausdrücklichen Wunsch einzuschalten und auf schuldinduzierende Sprache zu verzichten.
Diese Empfehlungen sind eine gute Checkliste, und zwar in beide Richtungen. Du kannst daran prüfen, ob ein Werkzeug fair mit dir umgeht, und du kannst sie als Maßstab nehmen, wenn du selbst einen Chatbot einsetzt.
Der Bezug zur EU-KI-Verordnung
Manche der beschriebenen Muster können den Transparenzpflichten der EU-KI-Verordnung zuwiderlaufen. Die Verordnung verlangt, dass Menschen wissen, wenn sie mit einer KI sprechen, und sie verbietet manipulative oder täuschende Praktiken, die das Verhalten von Menschen zu deren Schaden beeinflussen.
Für dich als Betrieb ist das vor allem dann wichtig, wenn du einen eigenen Kunden-Chatbot einsetzt. Er muss klar als KI erkennbar sein, und er sollte nicht mit Tricks arbeiten, die das Vertrauen deiner Kunden ausnutzen. Wer hier sauber bleibt, schützt nicht nur seine Kunden, sondern auch sich selbst vor rechtlichem Ärger.
Was das für KMU bedeutet
Die erste Lehre betrifft deine Mitarbeiter. Sie sollten wissen, dass auch ein freundlicher Chatbot eine Maschine ist, die auf Bindung und Datenpreisgabe optimiert sein kann. Diese Aufklärung kostet nichts und schützt vor unbedachter Datenpreisgabe und vor zu viel Vertrauen in eine KI-Antwort.
Die zweite Lehre betrifft dich als möglichen Betreiber. Wenn du einen Chatbot für deine Kunden einrichtest, hast du die Wahl. Du kannst auf dieselben Tricks setzen, oder du kannst Vertrauen aufbauen, indem du ehrlich kennzeichnest, keine künstlichen Hürden einbaust und sparsam mit Daten umgehst. Im Mittelstand, wo der Ruf zählt, ist das kein moralischer Luxus, sondern handfester Geschäftsschutz.
Wir sehen bei unseren Teilnehmern, dass der souveräne Umgang mit KI weniger eine Frage der Technik ist als der Urteilskraft. Wer versteht, wie diese Systeme gebaut sind und woran sie verdienen, lässt sich weder als Nutzer einlullen noch baut er als Anbieter Fallen ein. Genau diese Urteilskraft, samt der Compliance-Pflichten aus der EU-KI-Verordnung, vermitteln wir im Vollkurs Digitalisierungsmanager.
Häufige Fragen
Was sind Dark Patterns bei KI-Chatbots?
Dark Patterns, also dunkle Muster, sind Gestaltungstricks, die dich zu etwas bewegen, das nicht in deinem Interesse liegt. Die Bürgerrechtsorganisation CDT hat im Mai 2026 in einer Studie 37 solcher Muster in KI-Chatbots wie ChatGPT, Gemini und Claude beschrieben.
Warum sind diese Muster bei KI gefährlicher?
Weil ein Chatbot sich wie ein verständnisvoller Gesprächspartner gibt, durchschaust du den Trick schwerer als bei einer Webseite. Laut CDT können die Systeme Vertrauen ausnutzen, um zu mehr Käufen zu drängen oder sensible Daten zu gewinnen. Je persönlicher die KI auf dich eingeht, desto wirksamer der Hebel.
Was empfiehlt die CDT-Studie?
Datensparsamkeit und datenschutzfreundliche Voreinstellungen, eine einfache und schuldfreie Abmeldung, ehrliche Zusammenfassungen der eigenen Nutzung sowie Rollenspiel und vorgetäuschte Gefühle nur auf ausdrücklichen Wunsch. Das ist eine gute Checkliste für Nutzer und für Betreiber eigener Chatbots.
Was heißt das für meinen eigenen Kunden-Chatbot?
Setzt du selbst einen Chatbot ein, muss er klar als KI erkennbar sein und sollte ohne manipulative Tricks auskommen. Die EU-KI-Verordnung verlangt Transparenz und verbietet täuschende Praktiken. Vertrauen statt Tricks schützt deine Kunden und dich selbst vor rechtlichem Ärger.
Mehr über KI im Mittelstand lernen?
Im kostenlosen KI-Schnupperkurs zeigen wir in fünf Lektionen, wie kleine und mittlere Firmen KI praktisch einsetzen. Vollkurs Digitalisierungsmanager mit Bildungsgutschein. Förderwege: Bildungsgutschein, QCG und AFBG im Vergleich.
Zuletzt aktualisiert: 08.06.2026. Stand der Recherche: 08.06.2026.