Die Regulierungsbehörden der Europäischen Union haben eine förmliche Untersuchung gegen Elon Musks Social-Media-Plattform X (ehemals Twitter) eingeleitet, weil es ihr nicht gelungen ist, die weitverbreitete Verbreitung sexuell eindeutiger Bilder zu verhindern, die von seinem Chatbot für künstliche Intelligenz, Grok, generiert wurden. Die Untersuchung verschärft einen anhaltenden Streit zwischen der EU und den USA über die Regulierung von Online-Inhalten, wobei Musk und seine Unterstützer die europäischen Regeln als Verstöße gegen die freie Meinungsäußerung und als Hindernis für amerikanische Unternehmen bezeichnen.
KI-generierter Missbrauch und regulatorischer Druck
Ab Ende Dezember erlebte X eine Welle expliziter Bilder – einige zeigten Kinder –, die von Grok erstellt wurden, was sowohl bei Opfern als auch bei Aufsichtsbehörden weltweit Kritik hervorrief. Die EU behauptet, X habe gegen den Digital Services Act (DSA) verstoßen, indem es die „systemischen Risiken“ im Zusammenhang mit der Integration des KI-Chatbots in seine Plattform nicht angemessen gemindert habe. Diese jüngste Untersuchung ergänzt die bestehende Prüfung: Erst letzten Monat wurde X zu einer Geldstrafe von 120 Millionen Euro (140 Millionen US-Dollar) wegen DSA-Verstößen im Zusammenhang mit irreführenden Designpraktiken, Werbetransparenz und Datenweitergabe verurteilt.
Umfassendere EU-Durchsetzungsbemühungen
Die Maßnahmen der EU sind keine Einzelfälle. Eine separate Untersuchung ist bereits im Gange, um den Empfehlungsalgorithmus von X und seine Wirksamkeit bei der Eindämmung der Verbreitung illegaler Inhalte zu bewerten. Der DSA, der erlassen wurde, um große Online-Plattformen für die Benutzersicherheit zur Rechenschaft zu ziehen, wird nun rigoros durchgesetzt.
„Nicht einvernehmliche sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung“, erklärte Henna Virkkunen, die EU-Vizepräsidentin, die für die Durchsetzung des DSA zuständig ist. „Wir werden feststellen, ob X seinen gesetzlichen Verpflichtungen nachgekommen ist … oder ob es die Rechte der europäischen Bürger als Kollateralschaden behandelt hat.“
Warum das wichtig ist
Bei dieser Untersuchung geht es nicht nur um X; es ist Teil eines umfassenderen Trends. Regulierungsbehörden auf der ganzen Welt kämpfen mit der rasanten Entwicklung von KI und ihrem Missbrauchspotenzial, insbesondere bei der Erstellung schädlicher Inhalte. Die proaktive Haltung der EU im Rahmen des DSA signalisiert die Bereitschaft, in den USA ansässige Technologiegiganten herauszufordern, und schafft so einen Präzedenzfall für eine strengere digitale Aufsicht. Die Frage ist nun, ob X die Grenzen der Inhaltsmoderation einhalten oder weiterhin erweitern wird.
Die Durchsetzung des DSA durch die EU zeigt ihr Engagement für den Schutz der Bürger vor schädlichen Online-Inhalten. Das Ergebnis dieser Untersuchung könnte die Art und Weise, wie Social-Media-Plattformen mit KI-generiertem Material umgehen, verändern und möglicherweise die globalen Standards für digitale Sicherheit beeinflussen.
