Regelgevers van de Europese Unie zijn een formeel onderzoek gestart naar het sociale mediaplatform van Elon Musk, X (voorheen Twitter), omdat het er niet in is geslaagd de wijdverbreide verspreiding van seksueel expliciete beelden, gegenereerd door zijn kunstmatige intelligentie-chatbot, Grok, te voorkomen. Het onderzoek intensiveert een aanhoudend geschil tussen de EU en de VS over de regulering van online-inhoud, waarbij Musk en zijn aanhangers de Europese regels beschouwen als inbreuken op de vrijheid van meningsuiting en een belemmering voor Amerikaanse bedrijven.
Door AI gegenereerd misbruik en regeldruk
Vanaf eind december ervoer X een golf van expliciete beelden – waarvan sommige met kinderen – gemaakt door Grok, wat aanleiding gaf tot kritiek van zowel slachtoffers als regelgevende instanties over de hele wereld. De EU beweert dat X de Digital Services Act (DSA) heeft geschonden door de ‘systeemrisico’s’ die gepaard gaan met de integratie van de AI-chatbot in zijn platform niet adequaat te beperken. Dit laatste onderzoek draagt bij aan het bestaande onderzoek: vorige maand kreeg X een boete van €120 miljoen ($140 miljoen) voor DSA-inbreuken gerelateerd aan misleidende ontwerppraktijken, advertentietransparantie en het delen van gegevens.
Bredere handhavingsinspanningen van de EU
De acties van de EU staan niet op zichzelf. Er loopt al een afzonderlijk onderzoek om het aanbevelingsalgoritme van X te beoordelen en de effectiviteit ervan bij het tegengaan van de verspreiding van illegale inhoud. De DSA, die is ingevoerd om grote online platforms verantwoordelijk te houden voor de veiligheid van gebruikers, wordt nu streng gehandhaafd.
“Seksuele deepfakes zonder wederzijds goedvinden van vrouwen en kinderen zijn een gewelddadige, onaanvaardbare vorm van degradatie”, aldus Henna Virkkunen, de uitvoerend vice-president van de EU die toezicht houdt op de handhaving van de DSA. “We zullen bepalen of X aan zijn wettelijke verplichtingen heeft voldaan… of dat het de rechten van Europese burgers als bijkomende schade heeft behandeld.”
Waarom dit belangrijk is
Dit onderzoek gaat niet alleen over X; het maakt deel uit van een bredere trend. Regelgevers over de hele wereld worstelen met de snelle ontwikkeling van AI en het potentieel voor misbruik ervan, vooral bij het creëren van schadelijke inhoud. De proactieve houding van de EU onder de DSA duidt op de bereidheid om in de VS gevestigde technologiegiganten uit te dagen, waardoor een precedent wordt geschapen voor strenger digitaal toezicht. De vraag is nu of X de grenzen van contentmoderatie zal naleven of zal blijven verleggen.
De handhaving door de EU van de DSA toont haar inzet om burgers te beschermen tegen schadelijke online-inhoud. De uitkomst van dit onderzoek zou de manier kunnen veranderen waarop sociale-mediaplatforms met AI-gegenereerd materiaal omgaan, wat mogelijk de mondiale standaarden voor digitale veiligheid kan beïnvloeden.
