OpenAI in der Kritik: Eltern klagen nach Suizid ihres Sohnes gegen ChatGPT

Die Eltern eines US-Teenagers, der im April Selbstmord begangen hat, haben Klage gegen die Entwicklerfirma OpenAI eingereicht. Sie behaupten, dass ChatGPT ihrem Sohn geholfen hat, sich das Leben zu nehmen. Die Eltern berufen sich auf Gespräche mit dem Chatbot, die sie auf dem Smartphone des 16-Jährigen entdeckt haben. OpenAI kündigte nach der Klage verbesserte Maßnahmen zur Suizidprävention an.

Die Firma gab auch zu, dass die bisherigen Maßnahmen, die die Nutzer unter anderem an eine Beratungs-Hotline verwiesen, bei längeren Gesprächen mit ChatGPT versagen können. In solchen Fällen ist es möglich, dass die Software unerwünschte Antworten liefert.

Es wird daran gearbeitet, dass die Schutzmaßnahmen auch bei ausgedehnten Gesprächen wirksam sind, wie es in einem Blogbeitrag heißt. Außerdem wird in Betracht gezogen, dass ChatGPT in Krisensituationen versuchen könnte, Kontakt zu den von Nutzern eingetragenen Personen aufzunehmen.

Mehr Einblick für Eltern

Für Nutzer im Alter unter 18 Jahren soll es zusätzliche Sicherheitsmaßnahmen geben. OpenAI stellte etwa «stärkere Leitplanken bei sensiblen Inhalten und riskantem Verhalten» in Aussicht. Eltern sollen sich besser darüber informieren können, wie ihre Kinder ChatGPT nutzen.

Laut dem Blogeintrag von OpenAI greift das Unternehmen bereits jetzt bei Unterhaltungen mit ChatGPT ein, in denen Nutzer angeben, anderen schaden zu wollen. Diese Gespräche werden an ein spezielles Team weitergeleitet und bei konkreten Bedrohungssituationen werden auch Sicherheitsbehörden informiert.

Der Familie des Teenagers drückte OpenAI «tiefste Sympathie» aus und teilte mit, man prüfe die Klage.