MPF e governo recomendam que X impeça Grok de gerar falsas imagens eróticas
Sugestão faz parte de documento conjunto enviado à rede social após ferramenta permitir edição de imagens de terceiros por meio da inteligência artificial; Grok diz que já proibiu imagens
O MPF (Ministério Público Federal), a Senacon (Secretaria Nacional do Consumidor) e a ANPD (Agência Nacional de Proteção de Dados) recomendaram que a rede social X implemente medidas para impedir a geração de conteúdo pornográfico baseado em pessoas reais por inteligência artificial da ferramenta "Grok". A data final para adoção das medidas é 27 de janeiro.
A sugestão faz parte de um documento conjunto emitido na terça-feira (20) com diversas recomendações para a rede social após a ferramenta permitir a edição automatizada de imagens de terceiros por meio da inteligência artificial.
O ofício do MPF, da Senacon e da ANPD diz que usuários do X estariam pedindo para o chatbot criar deepfakes — ou seja, imagens falsas da realidade — de teor sexual, erótico e pornográfico de mulheres adultas, sem autorização, além de crianças e adolescentes reais.
"Tais deepfakes de mulheres e de crianças e adolescentes reais, produzidas por meio do Grok, estariam sendo expostas de forma pública na plataforma X, visíveis a qualquer usuário, independentemente de sua idade ou de sua proximidade com as pessoas retratadas, o que ampliaria significativamente os potenciais danos a elas causados", diz trecho do documento conjunto.
O próprio Grok assumiu a produção dessas imagens no X ao ser questionado por usuários da rede social. "Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos), vestidas de forma sexualizada a pedido de um usuário", disse a ferramenta Grok.
As instituições receberam uma série de denúncias de pessoas comuns e de parlamentares sobre as criações pornográficas da ferramenta. Entre os deputados que enviaram representações estava um grupo do PT, protocolado pela deputada Maria do Rosário (PT-RS), e Erika Hilton (PSOL), solicitando uma investigação do Grok ao MPF.
Além da primeira recomendação, os três órgãos também solicitaram:
- A criação, em até 30 dias, de procedimentos técnicos para identificar e remover conteúdos ilegais gerados pelo Grok que ainda estejam no X;
- A suspensão imediata de contas envolvidas na produção de imagens sexuais com o Grok, com relatórios mensais comprovando a medida;
- A implementação de um canal eficaz de denúncias para uso abusivo ou ilegal de dados pessoais, com resposta em prazo razoável;
- A elaboração de um relatório de impacto sobre proteção de dados no uso do Grok para gerar conteúdos sintéticos.
A CNN questionou o próprio Grok se ele continuava criando essas imagens pornográficas, mesmo após as várias críticas. A ferramenta respondeu que já foi tomada mais de uma medida a esse respeito.
Segundo a resposta, no dia 9 de janeiro, o Grok teria passado a permitir "exclusivamente" assinantes pagos a gerarem esses conteúdos.
O documento conjunto do MPF, da Senacon e da ANPD foi expedido depois disso, na terça-feira (20). Os órgãos aguardam retorno do X sobre as recomendações enviadas.
A CNN também tentou contato com o X para questionar se receberam o ofício e quando pretendem responder, mas ainda não teve retorno.
Elon Musk diz que desconhecia imagens
Depois das denúncias e das críticas, o proprietário do X, Elon Musk, afirmou não saber que Grok gerava imagens explícitas de menores de idade. "Não tenho conhecimento de nenhuma imagem de menores geradas pelo Grok. Literalmente zero", disse Musk em sua rede social X.
Musk reiterou que o Grok está programado para recusas ilegais e deve estar em conformidade com as leis de qualquer país ou estado.
“Obviamente, o Grok não gera imagens espontaneamente, ele o faz apenas de acordo com as concessões do usuário”, falou Musk.
O empresário disse também que, no X, qualquer pessoa que usasse o Grok para criar conteúdo ilegal sofreria as mesmas consequências que sofreria se fizesse upload de conteúdo ilegal.
Órgãos reguladores ainda estão se esforçando para desenvolver leis e regras que governem a IA, com dúvidas sobre o que constitui nudez, como definir consentimento e quem é o responsável — o usuário ou a plataforma.
*Com informações da Reuters