Governo Lula e MPF recomendam ao X barrar conteúdo sexual na IA Grok

O governo do presidente Luiz Inácio Lula da Silva e o Ministério Público Federal (MPF) recomendaram à empresa controladora da plataforma X que adote medidas para evitar o uso da inteligência artificial (IA) Grok para a geração de imagens sexualizadas falsas de mulheres e crianças.

Com base nas denúncias e por testes realizados pelas instituições, o governo diz que a ferramenta tem sido utilizada ilegalmente por usuários para a produção de deepfakes, técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais.

“Esses conteúdos têm caráter sexualizado, erótico e com conotação pornográfica, envolvendo mulheres e crianças e adolescentes reais”, diz nota da Secretaria de Comunicação Social (Secom).

No documento, assinado ainda pela Secretaria Nacional do Consumidor (Senacom) e pela Agência Nacional de Proteção de Dados (ANPD), recomenda-se a implementação, de forma imediata, de medias técnicas, administrativas e de governanças de dados para impedir que a IA gere imagens, vídeos ou arquivos de áudio sobre os conteúdos em questão.

Leia também: As barbaridades sobre a inteligência artificial

São sugeridos 30 dias para a adoção dos procedimentos técnicos e operacionais claros e eficazes para a identificação, a revisão e devida exclusão de imagens, vídeos ou arquivos de áudio que, atualmente ainda estejam disponíveis na plataforma X.

Também faz parte da recomendação conjunta suspender imediatamente as contas envolvidas na produção, via Grok, das imagens sexuais ou erotizadas tanto de crianças e adolescentes, quanto de maiores de idade sem sua autorização, aplicando com efetividade os termos de uso que a própria empresa anuncia como vigentes para a plataforma.

Essa medida, a ser implementada desde logo e em caráter contínuo, deverá ser comprovada às instituições autoras da recomendação por meio de relatórios mensais apresentados pela empresa, como evidência de cumprimento de seu dever de evitar a prática de condutas especialmente graves no ambiente digital que controla.

Outra conselho é a implementação de mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razoável.

Por fim, sugere-se elaborar relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa natural.