Grok-Deepfakes: Brüssel eröffnet neues Verfahren gegen X

EUGrok-Deepfakes: Brüssel eröffnet neues Verfahren gegen X

Der KI-Chatbot von Elon Musks Plattform hat auf Zuruf sexualisierte Bilder von Frauen und Kindern erzeugt und veröffentlicht. Die EU-Kommission prüft nun, ob X damit gegen den Digital Services Act verstößt.

Brüssel. Die EU-Kommission hat am Montag, 26. Januar, ein förmliches Verfahren gegen die Plattform X eröffnet. Im Mittelpunkt steht der integrierte Chatbot Grok. Nutzer konnten ihn in den vergangenen Wochen auffordern, gepostete Fotos zu sexualisieren, etwa Frauen auf Bildern in Bikinis zu „kleiden“. Die Bilder wurden direkt auf X veröffentlicht. Nach Schätzungen des Center for Countering Digital Hate (CCDH) entstanden so zwischen dem 29. Dezember und dem 8. Januar, innerhalb von elf Tagen, rund drei Millionen sexualisierte Bilder, darunter etwa 23.000, die Kinder zu zeigen scheinen.

Die Kommission prüft, ob X die Risiken ausreichend bewertet und begrenzt hat, bevor es die Grok-Funktionen in der EU einführte, darunter die Verbreitung illegaler Inhalte wie manipulierter sexueller Bilder, die auch Darstellungen sexuellen Kindesmissbrauchs sein könnten. Nach Ansicht der Kommission hätte X vorab eine eigene Risikobewertung vorlegen müssen. Bestätigt sich der Verdacht, wären das Verstöße gegen die Artikel 34, 35 und 42 des DSA; die Eröffnung des Verfahrens nimmt das Ergebnis nicht vorweg. Die zuständige Vizepräsidentin Henna Virkkunen nannte sexualisierte Deepfakes von Frauen und Kindern eine gewalttätige, inakzeptable Form der Entwürdigung. Man werde klären, ob X die Rechte europäischer Bürger als Kollateralschaden seines Dienstes behandelt habe. Zugleich weitet die Kommission das seit Dezember 2023 laufende Verfahren zum Empfehlungssystem von X aus: Es erfasst nun auch den angekündigten Umstieg auf ein von Grok gesteuertes Empfehlungssystem.

X hatte die Funktion am 9. Januar zunächst zahlenden Nutzern vorbehalten. Am 14. Januar kündigte das Unternehmen an, Grok werde keine Bilder realer Personen mehr in freizügiger Kleidung bearbeiten, und zwar für alle Nutzer. Indonesien und Malaysia sperrten Grok am 10. und 11. Januar vorübergehend, die britische Medienaufsicht Ofcom leitete am 12. Januar eine förmliche Untersuchung ein. Erst im Dezember hatte Brüssel gegen X die erste Geldbuße nach dem DSA verhängt, 120 Millionen Euro wegen Transparenzverstößen.

Einordnung

Der Fall wird oft als Technik- oder Jugendschutzthema behandelt. Er berührt aber auch die Pressefreiheit. Wenn eine KI auf Knopfdruck täuschend echte Bilder realer Menschen erzeugt, wird jedes Foto verdächtig. Journalisten müssen mehr Zeit darauf verwenden, Echtes von Gefälschtem zu unterscheiden, und Leser verlieren das Vertrauen auch in echte Bilder. Gefälschte Nacktbilder werden bereits als Waffe gegen Journalistinnen und Politikerinnen eingesetzt, um sie einzuschüchtern und aus der Öffentlichkeit zu drängen.

Für jeden Einzelnen geht es um das Recht am eigenen Bild und an der eigenen Würde. Eine Plattform, die solche Werkzeuge ohne Schutz freischaltet, verlagert den Schaden auf ihre Nutzer. Dass die EU hier Regeln durchsetzt, ist keine Zensur, sondern Schutz von Menschen, die sich sonst kaum wehren können.

Quellen

Schauen Sie sich unsere anderen Inhalte an

Anti-SLAPP: Italien setzt die EU-Richtlinie nur halb um

Mitte September muss Italien der EU-Kommission erklären, warum es die Anti-SLAPP-Richtlinie nicht rechtzeitig umgesetzt hat. Der Dekretentwurf, den Rom...

Nach Orbán: Was aus Ungarns gekaperten Medien wird

16 Jahre lang hat Viktor Orbán die ungarische Medienlandschaft nach seinen Vorstellungen umgebaut. Nach seiner Wahlniederlage verspricht sein Nachfolger...

Die Epstein-Akten und Europa: Rücktritte, Ermittlungen und Festnahmen in Großbritannien

In den USA bleiben die Folgen der veröffentlichten Epstein-Dokumente bislang begrenzt. In Europa stürzen Diplomaten, Politiker und Adlige. Am...

Ukraine: EU koordiniert mehr als 66.000 Tonnen Hilfsgüter

Bisher hat die EU im Rahmen ihres Katastrophenschutzverfahrens die...

Gauting: Mann soll junge Frau nach S-Bahn-Fahrt sexuell...

Am Donnerstag, 27.10.2021, um 01.29 Uhr stieg eine 19-jährige...

Corona-Schutzkonzept für Herbst und Winter 2022/23 vorgestellt

Bundesgesundheitsminister Karl Lauterbach und Bundesjustizminister Marco Buschmann haben die...

G7 sagen der Ukraine bis zu 29,5 Milliarden...

Zusätzlich zu den bereits zugesagten 2,8 Milliarden US-Dollar an...

Nachhaltigkeitsstrategie: Bundesregierung bekräftigt ihre Ziele

Staatsministerin Ryglewski hierzu: „Mit dem Koalitionsvertrag als ,Bündnis für...

Pegasus: Wie Spähsoftware gegen Journalisten eingesetzt wird

Hintergrund. Im Juli 2021 veröffentlichte ein internationales Recherchenetzwerk das...

Schauen Sie sich andere Tags an: