Os reguladores da União Europeia lançaram uma investigação formal à plataforma de redes sociais de Elon Musk, X (anteriormente Twitter), sobre o seu fracasso em impedir a disseminação generalizada de imagens sexualmente explícitas geradas pelo seu chatbot de inteligência artificial, Grok. O inquérito intensifica uma disputa em curso entre a UE e os EUA relativamente à regulamentação de conteúdos online, com Musk e os seus apoiantes a enquadrarem as regras europeias como violações da liberdade de expressão e um obstáculo às empresas americanas.
Abuso gerado por IA e pressão regulatória
A partir do final de dezembro, X experimentou uma onda de imagens explícitas – algumas retratando crianças – criadas por Grok, gerando críticas tanto das vítimas quanto dos órgãos reguladores em todo o mundo. A UE alega que X violou a Lei de Serviços Digitais (DSA) ao não mitigar adequadamente os “riscos sistêmicos” associados à integração do chatbot de IA em sua plataforma. Esta última investigação acrescenta ao escrutínio existente: no mês passado, X foi multado em 120 milhões de euros (140 milhões de dólares) por violações de DSA relacionadas com práticas de design enganosas, transparência publicitária e partilha de dados.
Esforços de aplicação mais amplos da UE
As ações da UE não são isoladas. Uma investigação separada já está em andamento para avaliar o algoritmo de recomendação do X e sua eficácia na contenção da propagação de conteúdo ilegal. O DSA, promulgado para responsabilizar as grandes plataformas online pela segurança dos utilizadores, está agora a ser rigorosamente aplicado.
“Deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, afirmou Henna Virkkunen, vice-presidente executiva da UE que supervisiona a aplicação do DSA. “Determinaremos se X cumpriu as suas obrigações legais… ou se tratou os direitos dos cidadãos europeus como danos colaterais.”
Por que isso é importante
Esta investigação não é apenas sobre X; faz parte de uma tendência mais ampla. Os reguladores em todo o mundo estão a debater-se com o rápido desenvolvimento da IA e o seu potencial para utilização indevida, especialmente na criação de conteúdos nocivos. A postura proativa da UE no âmbito do ASD sinaliza uma vontade de desafiar os gigantes tecnológicos sediados nos EUA, estabelecendo um precedente para uma supervisão digital mais rigorosa. A questão agora é se X cumprirá ou continuará a ultrapassar os limites da moderação de conteúdo.
A aplicação do DSA pela UE demonstra o seu compromisso em proteger os cidadãos contra conteúdos em linha nocivos. O resultado desta investigação poderá remodelar a forma como as plataformas de redes sociais gerem o material gerado pela IA, influenciando potencialmente os padrões globais de segurança digital.
