EU ermittelt gegen Musks X wegen sexualisierter KI-Bilder

Die EU-Kommission leitet ein Verfahren gegen den US-Konzern X ein, nachdem es einen Skandal um sexualisierte KI-Bilder von Elon Musks Chatbot Grok gegeben hat. Laut Mitteilung verdächtigt die Brüsseler Behörde das Unternehmen des Tech-Milliardärs, die Risiken bei der Einführung seiner Künstlichen Intelligenz auf der Online-Plattform nicht angemessen bewertet und reduziert zu haben.

In den letzten Wochen geriet X in die Kritik, weil alle Nutzer den KI-Chatbot Grok auffordern konnten, gepostete Bilder zu sexualisieren. Menschen befahlen der KI wiederholt, Fotos zu manipulieren und Frauen in Bikinis zu kleiden.

An Silvester entschuldigte sich Grok dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben. Bei der Untersuchung geht es laut EU-Kommission daher auch um Bilder, die als Kindesmissbrauch gelten könnten. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert. 

Erneut Spannungen zwischen EU und USA? 

EU-Kommissionspräsidentin Ursula von der Leyen teilte mit, die EU werde die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben. «In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren», fügte die deutsche Politikerin hinzu. 

Nach der Beruhigung des Grönland-Konflikts geht die Brüsseler Behörde mit dieser Maßnahme das Risiko ein, erneut die US-Regierung von Donald Trump zu verärgern. Kritiker der EU werfen ihr schon seit langem vor, ihre Digitalregeln nicht konsequent genug durchzusetzen, insbesondere angesichts der teilweise seit Jahren laufenden Ermittlungen – auch gegen X.

Es gibt bereits mehrere Untersuchungen gegen Musks Online-Plattform auf Grundlage europäischer Digitalgesetze, insbesondere bezüglich der Moderation und des Risikomanagements illegaler Inhalte. Im Dezember verhängte die EU eine Strafe von 120 Millionen Euro gegen X wegen Transparenzmängeln.

US-Regierung hatte EU-Kommission zuletzt gedroht 

Die Antwort aus Washington war zu diesem Zeitpunkt sehr deutlich, sie sprach von Zensur und verhängte Einreiseverbote gegen einen der Architekten der Digitalgesetze sowie andere Europäer. Diese starke Reaktion konnte auch als Drohung gegen Brüssel verstanden werden, keine weiteren Maßnahmen gegen die US-Tech-Riesen zu ergreifen.

Marco Rubio, der Außenminister, erklärte die Einreisesperren auf X damit, dass gezielt amerikanische Plattformen angegriffen würden. Er betonte, dass die Liste erweitert werde, falls es keine Änderung des Kurses gebe. Elon Musk äußerte sich persönlich dafür, die EU abzuschaffen.

Warum die EU-Kommission Grok nicht sperren will 

Das nun eröffnete Verfahren konzentriert sich laut Mitteilung darauf, ob X das Risiko für «geschlechtsspezifische Gewalt und schwerwiegende negative Folgen für das körperliche und geistige Wohlbefinden» genügend eingeschränkt hat. Die Internetwächter in Brüssel kündigten neben der neuen Ermittlung zudem an, eine seit Ende 2023 laufende Untersuchung zu erweitern. 

Man entschied sich vorerst gegen eine Strafe oder Sperrung des Dienstes: „Das Ziel der EU-Kommission ist es nicht, Grok in der EU zu deaktivieren, dies wäre eher ein letztes Mittel“, sagte ein Sprecher der Brüsseler Behörde in der Vergangenheit. Indonesien und Malaysia hatten Grok als erste Länder weltweit Mitte Januar vorübergehend gesperrt.

Die Einleitung des Verfahrens gemäß dem Digital Services Act (DSA) bedeutet noch keinen Beweis für einen Verstoß. Wenn X jedoch nicht einlenkt oder entlastende Beweise vorlegt, könnten Strafen von der Europäischen Kommission drohen. Diese überwacht in der EU die Einhaltung der Digitalregeln. Es ist unklar, wie lange das Verfahren dauern wird.

X hat Chatbot bereits beschränkt 

Unter zunehmendem Druck wegen der übergriffigen Bilder – etwa von Schwedens stellvertretender Ministerpräsidentin Ebba Busch – hatte die US-Firma ihren Chatbot zuletzt eingeschränkt. «Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt», antwortet der Chatbot inzwischen. Von Abonnenten erstellte Bilder lassen sich aber auch weiterhin für alle öffentlich anzeigen. 

Der EU-Kommission und auch anderen Aufsichtbehörden auf der Welt reichte dieser Schritt nicht. Es folgten weitere Einschränkungen. So seien «technologische Maßnahmen» eingeführt worden, die die Bearbeitung von Bildern realer Personen mit leichter Bekleidung wie Bikinis verhindern sollen, teilte X mit. Diese Beschränkung gelte sowohl für kostenlose Accounts als auch für zahlende Nutzer. 

Auch London und Paris ermitteln 

Auch die britische Medienaufsichtsbehörde Ofcom hatte Mitte Januar eine offizielle Untersuchung gegen Musks Online-Plattform eingeleitet. Als Grund gab die Behörde ebenfalls die von Grok sexualisierten Bilder an. Dies könne mitunter als Missbrauch gewertet werden, hieß es in einer Mitteilung. Der britische Premierminister Keir Starmer nannte die Erzeugnisse der KI «widerlich». 

Die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Die ursprüngliche Untersuchung bezieht sich darauf, dass Algorithmen in dem sozialen Netzwerk manipuliert worden sein sollen, um rechtsextremen Inhalten mehr Aufmerksamkeit zu verschaffen. Neu hinzugekommen sind nun auch Anschuldigungen wegen Holocaustleugnung und sexueller Darstellungen.