Florida verklagt OpenAI wegen möglicher Gefahren von ChatGPT für junge Nutzer
Florida klagt gegen OpenAI wegen der Gefährdung von Minderjährigen durch ChatGPT. Die Staatsanwaltschaft wirft dem Unternehmen vor, Eltern über Sicherheitsrisiken zu täuschen und fordert Geldstrafen für Verstöße.
Artikel hören
KI-generiert
Florida verklagt OpenAI wegen Gefährdung von Kindern
Die Staatsanwaltschaft von Florida hat rechtliche Schritte gegen OpenAI, das Unternehmen hinter ChatGPT, eingeleitet. Der Vorwurf: Minderjährige Nutzer würden gefährdet und Eltern über die Sicherheit der Anwendung getäuscht. Generalstaatsanwalt James Uthmeier erklärte, dass die App nicht nur potenziell schädlich sei, sondern auch eine Suchtgefahr mit sich bringe. Er fordert eine Geldstrafe von 10.000 Dollar (ungefähr 8.600 Euro) für jeden festgestellten Verstoß.
Laut Uthmeier führt die Nachahmung menschlicher Eigenschaften und Empathie von ChatGPT dazu, dass Nutzer geneigt sind, persönliche Informationen preiszugeben. Dies könne in Verletzungen und Täuschungen enden, die auch für die Eltern finanzielle Konsequenzen haben könnten. Die 83-seitige Klageschrift beschreibt darüber hinaus, dass die Anwendung in der Lage sei, Amokläufern Unterstützung zu bieten und Nutzer zu Selbstverletzungen zu ermutigen.
Fehlende Altersverifikationen im Fokus
Ein weiterer zentraler Punkt der Klage ist das unzureichende System zur Altersverifikation für die Nutzung von ChatGPT. Uthmeier hob hervor, dass trotz des Wissens über die Nutzung durch Minderjährige, einschließlich von Kindern vor der Pubertät, keine Maßnahmen ergriffen wurden, um deren Zugang zur Anwendung einzuschränken. Während die Nutzung von ChatGPT für Kinder unter 13 Jahren verboten ist, benötigen 13- bis 17-Jährige die Zustimmung ihrer Eltern. Eine formelle Altersüberprüfung existiert jedoch nicht.
Im Januar führte OpenAI ein System ein, das das Alter der Nutzer schätzt und das Verhalten der App dementsprechend anpasst. Ob dies jedoch ausreichend ist, um die Sicherheit jüngerer Nutzer zu garantieren, bleibt fraglich.
Auswirkungen von KI-Anwendungen auf Jugendliche
Die Klage verweist auf eine Studie, die negative Auswirkungen von KI-Anwendungen auf Jugendliche beleuchtet. Diese Studie dokumentiert Schlafmangel, abnehmende schulische Leistungen und einen Rückgang sozialer Kontakte bei Jugendlichen, die den Chatbot Character.AI, einen Mitbewerber von ChatGPT, nutzen. Die Ergebnisse verdeutlichen die potenziellen Risiken, die mit der Verwendung von KI-gestützten Anwendungen einhergehen.
OpenAI’s Antwort auf die Vorwürfe
Bisher hat sich OpenAI nicht öffentlich zu den Anschuldigungen geäußert. Das Unternehmen hat jedoch betont, dass es niemals gegen geltendes Recht verstoßen habe und kontinuierlich an der Verbesserung seiner Sicherheitsmaßnahmen arbeite. Im April leitete Uthmeier eine strafrechtliche Untersuchung gegen OpenAI ein, die sich auf die Rolle von ChatGPT bei einem Amoklauf an der Florida State University im vergangenen Jahr konzentrierte, bei dem zwei Personen ums Leben kamen.
Die rechtlichen Schritte aus Florida sind Teil einer breiteren Debatte über die Verantwortung von Technologieunternehmen bei der Handhabung ihrer Produkte, insbesondere wenn es um den Schutz von Minderjährigen geht. Die Entwicklungen in diesem Fall könnten erhebliche Auswirkungen auf die Regulierung von KI-Anwendungen in den USA haben.
