Bruxelas (EFE).- A Comissão Europeia anunciou nesta segunda-feira a abertura de uma investigação contra a rede social X pela criação de imagens sexualizadas e sem consentimento por parte de sua inteligência artificial, o Grok, e examinará se a empresa de propriedade do magnata Elon Musk cumpre com suas obrigações sob as leis digitais europeias.
Em comunicado, Bruxelas informou que avaliará se o X examinou adequadamente e mitigou os riscos associados à implementação das funções do Grok na União Europeia, incluindo a possível distribuição de conteúdo ilegal, como imagens manipuladas sexualmente explícitas que podem, até mesmo, ser consideradas material de abuso sexual infantil.
«Estes riscos parecem ter se concretizado. Por isso, a Comissão investigará se o X cumpre com suas obrigações sob a Lei de Serviços Digitais para avaliar e mitigar riscos sistêmicos (…) e de produzir e enviar à Comissão um relatório de riscos ad hoc sobre as funcionalidades do Grok que tenham um impacto fundamental no perfil de risco do X antes de lançá-lo», declarou.
Mesmo antes de iniciar a investigação, a Comissão Europeia já havia ordenado à rede social X que conservasse toda a sua documentação interna relativa ao Grok durante o ano de 2026, no âmbito da investigação em curso sobre a plataforma para analisar sua política contra conteúdos ilegais.
A ordem ocorreu em plena polêmica pelas imagens de crianças e mulheres nuas geradas pelo Grok nas últimas semanas, que levaram o governo francês a processar o X nos tribunais. Estes casos somam-se a outros conteúdos, como o negacionismo do Holocausto, que a IA da rede social publicou no final do ano passado.
Fontes comunitárias reconheceram que o X tomou algumas medidas para frear a disseminação deste tipo de imagem após a polêmica e depois que a Comissão Europeia aumentou a pressão sobre a empresa, mas ressaltaram que a investigação recém-aberta «vai além» das imagens sexualizadas, tratando-se de um problema mais generalizado com a arquitetura da rede social e de sua IA.
A Comissão Europeia acredita que, se estas alegações forem comprovadas, o X estaria infringindo vários artigos da Lei de Serviços Digitais à qual está sujeito ao operar na União Europeia, inclusive sobre a avaliação e mitigação de riscos sistêmicos para os cidadãos europeus.
As mesmas fontes indicaram que a investigação não tem um cronograma específico nem prazos definidos, mas que, diante dos riscos relacionados às funcionalidades do Grok, o processo tramitará «de maneira prioritária» em Bruxelas.
Bruxelas já multou o X em dezembro do ano passado em 120 milhões de euros por descumprir obrigações de transparência de acordo com esta lei, devido ao «design enganoso» de seu selo de verificação azul, à falta de transparência de seu repositório publicitário e à falta de acesso a dados públicos para pesquisadores.
Em paralelo, Bruxelas também prorrogou nesta segunda-feira sua investigação iniciada em 2023 sobre se o X cumpre com suas obrigações de gestão de riscos em seus sistemas de recomendação de conteúdo, o que incluirá o impacto da mudança para um sistema baseado na inteligência artificial do Grok. EFE
