Der KI-Chatbot von Elon Musks Plattform hat auf Zuruf sexualisierte Bilder von Frauen und Kindern erzeugt und veröffentlicht. Die EU-Kommission prüft nun, ob X damit gegen den Digital Services Act verstößt.
Brüssel. Die EU-Kommission hat am Montag, 26. Januar, ein förmliches Verfahren gegen die Plattform X eröffnet. Im Mittelpunkt steht der integrierte Chatbot Grok. Nutzer konnten ihn in den vergangenen Wochen auffordern, gepostete Fotos zu sexualisieren, etwa Frauen auf Bildern in Bikinis zu „kleiden“. Die Bilder wurden direkt auf X veröffentlicht. Nach Schätzungen des Center for Countering Digital Hate (CCDH) entstanden so zwischen dem 29. Dezember und dem 8. Januar, innerhalb von elf Tagen, rund drei Millionen sexualisierte Bilder, darunter etwa 23.000, die Kinder zu zeigen scheinen.
Die Kommission prüft, ob X die Risiken ausreichend bewertet und begrenzt hat, bevor es die Grok-Funktionen in der EU einführte, darunter die Verbreitung illegaler Inhalte wie manipulierter sexueller Bilder, die auch Darstellungen sexuellen Kindesmissbrauchs sein könnten. Nach Ansicht der Kommission hätte X vorab eine eigene Risikobewertung vorlegen müssen. Bestätigt sich der Verdacht, wären das Verstöße gegen die Artikel 34, 35 und 42 des DSA; die Eröffnung des Verfahrens nimmt das Ergebnis nicht vorweg. Die zuständige Vizepräsidentin Henna Virkkunen nannte sexualisierte Deepfakes von Frauen und Kindern eine gewalttätige, inakzeptable Form der Entwürdigung. Man werde klären, ob X die Rechte europäischer Bürger als Kollateralschaden seines Dienstes behandelt habe. Zugleich weitet die Kommission das seit Dezember 2023 laufende Verfahren zum Empfehlungssystem von X aus: Es erfasst nun auch den angekündigten Umstieg auf ein von Grok gesteuertes Empfehlungssystem.
X hatte die Funktion am 9. Januar zunächst zahlenden Nutzern vorbehalten. Am 14. Januar kündigte das Unternehmen an, Grok werde keine Bilder realer Personen mehr in freizügiger Kleidung bearbeiten, und zwar für alle Nutzer. Indonesien und Malaysia sperrten Grok am 10. und 11. Januar vorübergehend, die britische Medienaufsicht Ofcom leitete am 12. Januar eine förmliche Untersuchung ein. Erst im Dezember hatte Brüssel gegen X die erste Geldbuße nach dem DSA verhängt, 120 Millionen Euro wegen Transparenzverstößen.
Einordnung
Der Fall wird oft als Technik- oder Jugendschutzthema behandelt. Er berührt aber auch die Pressefreiheit. Wenn eine KI auf Knopfdruck täuschend echte Bilder realer Menschen erzeugt, wird jedes Foto verdächtig. Journalisten müssen mehr Zeit darauf verwenden, Echtes von Gefälschtem zu unterscheiden, und Leser verlieren das Vertrauen auch in echte Bilder. Gefälschte Nacktbilder werden bereits als Waffe gegen Journalistinnen und Politikerinnen eingesetzt, um sie einzuschüchtern und aus der Öffentlichkeit zu drängen.
Für jeden Einzelnen geht es um das Recht am eigenen Bild und an der eigenen Würde. Eine Plattform, die solche Werkzeuge ohne Schutz freischaltet, verlagert den Schaden auf ihre Nutzer. Dass die EU hier Regeln durchsetzt, ist keine Zensur, sondern Schutz von Menschen, die sich sonst kaum wehren können.
Quellen
- EU-Kommission, Vertretung in Deutschland: Verfahren gegen X wegen Grok (26.1.2026)
- netzpolitik.org: EU-Kommission leitet Untersuchung gegen Grok und X ein
- Anadolu: EU opens formal probe into Grok, X’s recommender systems (26.1.2026)
- LTO: EU-Kommission leitet weitere Untersuchung gegen X ein (26.1.2026)
- Engadget: Grok generated an estimated 3 million sexualized images (22.1.2026)
- AP: 2 countries block Musk’s Grok over sexualized AI images (12.1.2026)
- RTÉ: Ofcom launches investigation into X over Grok (12.1.2026)