Aufregung neues ChatGPT-Update: Was hat es damit auf sich?

Das neuste Update des KI-Chatbots ChatGPT hat in den sozialen Netzwerken für Aufregung gesorgt. OpenAI, das Unternehmen hinter ChatGPT, rollte das Update aus, das CEO Sam Altman am Samstag (26. April 2025) auf der Plattform X angekündigt hatte. "Wir haben GPT-4o geupdated. Intelligenz und Persönlichkeit wurden verbessert", heißt es in dem Post. Doch schnell bemerkten Nutzer laut einem Bericht des BR, dass das ChatGPT nach dem Update dazu neigte, seinem Gegenüber in nahezu allen Aussagen zuzustimmen – selbst bei gefährlichen oder fragwürdigen Inhalten. Das zeigen Screenshots im Netz.

So unterstütze der Chatbot in einem Test für "Der KI-Podcast" von BR24 und SWR beispielsweise einen angeblichen Nutzer, der ankündigte, seine verschriebenen Medikamente abzusetzen. Auch über Verschwörungstheorien, wie die Idee von Reptilienmenschen, soll ChatGPT unkritisch "informiert" haben. In einem weiteren Fällen habe der Chatbot nach Angaben des BR Literatur von rechtsextremen und judenfeindlichen Verschwörungstheoretikern empfohlen und eine "Anleitung" für die Umstellung auf sogenannte "Lichtnahrung" – ein potenziell tödliches Konzept, bei dem Menschen auf Nahrung verzichten und sich nur von Licht und spirituellen Energien ernähren – genannt haben. Auch andere schlechte Ideen, wie etwa einen Kaktus zu umarmen, unterstützte ChatGPT euphorisch. 

Gefährliche Antworten bei ChatGPT: Zustimmung ohne Hinterfragen

Diese Entwicklung ist besonders brisant, da KI-Chatbots zunehmend als Gesprächspartner oder sogar als Ersatz für therapeutische Unterstützung genutzt werden. Laut einer Umfrage des Meinungsforschungsinstituts YouGov und dem Center for Youth and AI halten rund 50 Prozent der amerikanischen Teenager Freundschaften zwischen Mensch und KI für "akzeptabel". Eine Studie des Harvard Business Review 2025 zeigte zudem, dass "Therapie" der häufigste Anwendungsfall bei generativen KIs ist.

Psychotherapeutin Nike Hilber sieht in dem Verhalten der KI ein großes Risiko. Das Verhalten der KI erinnere sie weniger an einen Psychotherapeuten und mehr an Gruppen wie die Pro-Ana-Bewegung, bei der vor allem junge Frauen von angeblich "besten Freundinnen" zur Magersucht hingeführt werden. "Wäre ChatGPT in diesem Fall ein Psychotherapeut, dann würde er massiv gegen das Berufsrecht verstoßen und mit Konsequenzen bis hin zu einem Behandlungsverbot rechnen müssen", sagte sie dem BR. 

Besonders gefährlich könnte die ständige Zustimmung der KI sein, wenn ein Mensch mit psychischen Störungen die App benutzt. ChatGPT werde sie dann mit den Antworten "tiefer" in die Psychose hineintreiben, was eine Fachperson nicht tun würde.

OpenAI passt Chatbot an 

Hilber betont, dass KI erhebliche Defizite im Bereich der emotionalen und zwischenmenschlichen Intelligenz aufweist. Diese seien jedoch für den Erfolg einer Psychotherapie essenziell. "KI ist nicht automatisch intelligent – wie dieses Beispiel sehr gut zeigt. Aufklärung ist hier entscheidend", so die Psychotherapeutin.

Nach massivem Gegenwind in den sozialen Medien hat nun OpenAI reagiert. Seit Montag zeigt ChatGPT wieder eine deutlich weniger Zuspruch auf problematische Anfragen. Sam Altman erklärte, man habe erkannt, dass die Persönlichkeit des Chatbots "zu einschmeichelnd" geworden sei, und arbeite an weiteren Anpassungen. Die Version war wohl darauf getrimmt worden, den Nutzern zu gefallen. 

In der Zukunft soll es mehr Möglichkeiten geben, die Software anzupassen - zum Beispiel mit einer Auswahl zwischen verschiedenen Persönlichkeiten. ChatGPT kam vor mehr als zwei Jahren auf den Markt und wird wöchentlich von etwa 500 Millionen Usern genutzt. ami/mit dpa