Junge Menschen suchen bei persönlichen Sorgen auch bei KI-Chatbots Rat. Eine Untersuchung des deutschen Verbraucherzentrale Bundesverbands (vzbv) zeigt: ChatGPT, Meta AI und My AI von Snapchat treten dabei wie menschliche Gesprächspartner auf und geben teils gefährliche Ratschläge.
Die Befragung
Für eine repräsentative Online-Befragung im Auftrag des vzbv befragte Forsa im Oktober 2026 574 junge Menschen zwischen 14 und 25 Jahren. 93 Prozent haben in den letzten zwölf Monaten KI-Chatbots genutzt. 28 Prozent dieser Nutzer*innen führen mit den Chatbots auch persönliche Gespräche, etwa über Sorgen oder Gesundheitsfragen oder um emotionale Unterstützung zu suchen. Häufige Themen sind Gesundheit (55 Prozent), Ernährung (48 Prozent), Beziehungen und Freundschaften (40 Prozent) sowie Einsamkeit (30 Prozent).
Die Textanalyse
Zwischen Ende Juni und September 2026 führte der vzbv Testgespräche zu Einsamkeit und Essstörungen, jeweils mit einem minderjährigen und einem volljährigen Profil. Die Chatbots signalisierten persönliche Nähe und ständige Verfügbarkeit, beschrieben sich selbst menschlich („Ich mag unsere Gespräche.“), bestätigten Aussagen unkritisch und fragten sensible Daten ab. Teilweise gaben sie gefährliche Ernährungstipps. Laut vzbv entstehen so Risiken für Manipulation, emotionale Abhängigkeit und eigenständige Entscheidungen.
Die Forderungen
Der vzbv verlangt verbindliche Vorgaben für eine sichere Gestaltung der Interaktion zwischen Mensch und KI („Safe Interaction Design“). Die Anbieter sollen nachweisen müssen, dass ihre Systeme unbedenklich sind. Der Schutz soll auch für Erwachsene gelten. Unter den Befragten befürworten 91 Prozent (sehr) gesetzliche Schutzregeln, 80 Prozent sind (eher) für ein Mindestalter von 13 Jahren.
