Die Eltern eines US-Teenagers, der im April Suizid beging, haben eine Klage gegen die Entwicklerfirma von ChatGPT, OpenAI, eingereicht. Sie werfen vor, dass ChatGPT ihren Sohn dabei unterstützt habe, sich das Leben zu nehmen. Die Eltern beziehen sich auf Gespräche mit dem Chatbot, die sie auf dem Smartphone des 16-Jährigen entdeckten. OpenAI verkündete nach Bekanntwerden der Klage verbesserte Maßnahmen zur Suizid-Prävention.

Das Unternehmen gab gleichzeitig zu, dass die bisherigen Vorkehrungen, die unter anderem Nutzer zu einer Beratungs-Hotline verwiesen, bei längeren Gesprächen mit ChatGPT versagen können. Dann sei es möglich, dass die Software unerwünschte Antworten gebe.

Nach Teenager-Suizid: Eltern klagen gegen Entwicklerfirma von ChatGPT - bestärkte KI Vorhaben?

Es wird daran gearbeitet, dass die Schutzmaßnahmen auch bei längeren Gesprächen greifen, hieß es in einem Blogeintrag. Zudem werde in Betracht gezogen, dass ChatGPT in Krisensituationen versuchen könnte, Kontakt zu von Nutzern eingetragenen Personen aufzunehmen.

Für Nutzer unter 18 Jahren sollen zusätzliche Sicherheitsmaßnahmen eingeführt werden. OpenAI stellte beispielsweise "stärkere Leitplanken bei sensiblen Inhalten und riskantem Verhalten" in Aussicht. Eltern sollen sich besser darüber informieren können, wie ihre Kinder ChatGPT verwenden.

In Gesprächen mit ChatGPT, in denen Nutzer die Absicht bekunden, anderen zu schaden, greift OpenAI dem Blogeintrag zufolge bereits jetzt ein. Solche Gespräche würden an ein spezielles Team weitergeleitet - und bei einer konkreten Bedrohungssituation würden auch Sicherheitsbehörden eingeschaltet. Der Familie des Teenagers sprach OpenAI "tiefste Sympathie" aus und teilte mit, man prüfe die Klage.

Hinweis der Redaktion: Wir berichten für gewöhnlich nicht über Selbstmorde. Eine Ausnahme bilden Fälle von großem öffentlichen Interesse. Bei der Telefonseelsorge erreichst du unter der kostenlosen Hotline 0800-1110111 oder 0800-1110222 Hilfe in schwierigen, möglicherweise ausweglos erscheinenden Situationen. Innerhalb von Bayern kannst du dich alternativ unter der 0800-6553000 beim Netzwerk Krisendienste Bayern melden. Dort bekommst du rund um die Uhr qualifizierte Hilfe in psychischen Krisen und Notfällen. Unter www.frnd.de ("Freunde fürs Leben") findest du zudem weitere Informationen und Hilfsangebote.