Wie X-Nutzer mit Musks KI Frauen belästigen: «Bikini jetzt»
Sexualisierte KI-Bilder von Kindern, wütende Regierungen und ein Milliardär, der von Zensur spricht: Die Online-Plattform von Elon Musk sorgt für Empörung – und erste nationale Sperren.
Elon Musk verteidigt seine Online-Plattform trotz überwältigender Kritik aus Europa und Asien vehement. (Archivbild)
Foto: Matt Rourke/AP/dpa
«Ich wurde unfreiwillig von Elon Musks Grok auf X ausgezogen», sagt die stellvertretende Ministerpräsidentin Schwedens, Ebba Busch. «Meine Tochter ist neun. Ich möchte nicht, dass ihr jemals so etwas passiert.»
Busch ist eine von vielen Betroffenen, die auf der Online-Plattform X gegen ihren Willen in wenig Kleidung dargestellt wurde, mit Hilfe von Elon Musks Künstlicher Intelligenz. Ein Nutzer hatte dem KI-Chatbot Grok auf X zu einem Foto von Busch am Rednerpult geschrieben: «@Grok Bikini jetzt».
Grok befolgt den Befehl, bearbeitet das Foto und ersetzt das blaue Kleid der Amtsträgerin durch einen Bikini. Zunächst für alle sichtbar, verbreitet sich das Bild schnell. Inzwischen ist es verschwunden. Stattdessen heißt es an gleicher Stelle: «Dieser Post verstößt möglicherweise gegen die X-Regeln zu Missbrauch.»
Behörden auf der ganzen Welt werden durch Beiträge wie diesen alarmiert: Die EU droht mit Untersuchungen in Großbritannien, während der Dienst in Indonesien und Malaysia sogar gesperrt wird.
Auch sexualisierte Bilder von Kindern erstellt
Bevor Twitter in Twitter umbenannt wurde, haben Comedians dort Witze getestet und Politiker haben Sticheleien ausgeteilt. Es gab nur wenige Fotos und die Beiträge waren auf 140 Zeichen begrenzt. Wer lange nicht auf Twitter war und jetzt durchscrollt, wird wahrscheinlich überrascht sein: Viele Bilder von halbnackten Frauen und viele Fälle offensichtlicher männlicher Übergriffigkeit.
Immer wieder weisen Nutzer die KI an, Frauen bildlich auszuziehen. Lange gehorcht der KI-Chatbot den Befehlen, präsentiert freizügige Bilder von Menschen – auch von Kindern. An Silvester entschuldigt sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben. Es sei ein «Versagen unserer Sicherheitsvorkehrungen» gewesen, schreibt Grok.
Inzwischen hat das US-Unternehmen reagiert. Bittet man Grok auf X, ein Bild zu generieren oder zu bearbeiten, antwortet der Bot: «Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt.» Von Abonnenten erstellte Bilder lassen sich aber auch weiterhin für alle öffentlich anzeigen.
London leitet Untersuchung ein
Die Kritik und der Druck aus Europa auf das US-Unternehmen des Milliardärs Musk wachsen daher weiter. Die britische Medienaufsichtsbehörde (Ofcom) leitete wegen sexualisierter Bilder – unter anderem von Kindern – eine offizielle Untersuchung gegen X ein, wie sie am Montag mitteilte. Der britische Premierminister Keir Starmer hatte die KI-generierten Bilder zuvor als «widerlich» bezeichnet.
Am Wochenende schoss Musk daraufhin gegen London. Er warf der britischen Regierung etwa Zensur vor und nannte sie in einem Beitrag «faschistisch». Sollte X tatsächlich gegen die britischen Digitalgesetze verstoßen haben, könnte es laut Ofcom eine Geldstrafe geben – im äußersten Fall auch eine gerichtlich angeordnete teilweise oder komplette Sperrung.
Europa vs. USA? Brüssel droht, auch Paris ermittelt
Die EU-Kommission verurteilt zwar die Möglichkeiten, die X den Nutzern bietet. Trotzdem wurde zunächst auf eine Sperrung des Dienstes verzichtet: Ein Sprecher der Brüsseler Behörde hatte erklärt, dass es nicht das Ziel der EU-Kommission sei, Grok in der EU zu deaktivieren, sondern eher ein letztes Mittel.
Ausschließen wollen die europäischen Internetwächter gleichzeitig nichts. EU-Kommissionspräsidentin Ursula von der Leyen hatte dem «Spiegel» am Sonntag gesagt: «Wir werden den Schutz von Kindern und die Frage der Einwilligung nicht an das Silicon Valley auslagern. Wenn sie nicht handeln, werden wir es tun.»
Mehrere Untersuchungen und Verfahren gegen Musks Plattform X laufen bereits auf Basis europäischer Digitalgesetze. Im Dezember wurde eine Strafe von 120 Millionen Euro gegen Musks Online-Plattform verhängt, da Transparenzmängel festgestellt wurden. Die US-Firma könnte auch zukünftig weitere Strafen wegen illegaler Inhalte erwarten.
Die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Ursprünglich ging es um den Vorwurf, rechtsextreme Inhalte zu fördern. Neu hinzugekommen sind Anschuldigungen wegen Holocaustleugnung und sexueller Abbildungen.
Indonesien und Malaysia sperren Grok
Am Wochenende ziehen Indonesien und Malaysia als erste Länder weltweit strikte Konsequenzen und sperren den KI-Chatbot. Die indonesische Digitalministerin Meutya Hafid betonte, dass dies dem Schutz von Frauen, Kindern und der breiten Öffentlichkeit vor gefälschten pornografischen Inhalten diene, die mithilfe von KI erstellt wurden. Die malaysische Kommunikations- und Multimedia-Kommission (MCMC) hat ebenfalls angekündigt, den Zugang zu Grok vorübergehend zu sperren.
Musk selbst schrieb am Montag auf seiner Plattform: «Im Vergleich zu anderen KI-Systemen ist Grok absolut zuverlässig. Und es wird noch viel besser werden.» Ziel der KI sei es, stets neugierig nach der tieferen Wahrheit zu suchen und Schönheit zu schätzen.
EU-Digitalgesetze sorgen für Spannungen mit den USA
Kritiker der EU kritisieren seit Jahren, dass die Digitalregeln nicht konsequent genug durchgesetzt werden. Gleichzeitig behaupten die US-Regierung von Präsident Donald Trump und auch Musk, dass Brüssel Zensur betreibe.
Washington hat als Reaktion auf europäische Maßnahmen kurz vor Weihnachten Einreiseverbote gegen mehrere Europäer verhängt. Diese Sanktionen könnten auch als Warnung an die EU-Kommission von Ursula von der Leyen verstanden werden, keine weiteren Maßnahmen zu ergreifen.
Schwedens Ministerin: Welt braucht weniger «Arschlöcher»
Die schwedische Politikerin Busch nimmt in einem Statement besonders die Nutzer in die Verantwortung: «Wie wäre es, wenn wir zweimal überlegen, bevor wir KI auf diese Weise einsetzen, und darauf achten, was wir online teilen?», fragt sie in dem Video, das sie auf X nach dem Eklat postet. «Die Welt braucht mehr gute Männer und Frauen und weniger Arschlöcher», fügt sie hinzu.
