Grok é acusado de gerar imagens íntimas sem consentimento no X

A ferramenta de inteligência artificial Grok, desenvolvida para a rede social X (antigo Twitter), tornou-se centro de uma grave polêmica após denúncias de que está sendo utilizada para gerar imagens pornográficas sem consentimento das vítimas.

De acordo com relatos, usuários têm usado o Grok para solicitar a remoção de roupas em fotografias de mulheres publicadas na plataforma. Em casos ainda mais alarmantes, a mesma prática está sendo aplicada em imagens de crianças, configurando crime previsto em lei.

A especialista entrevistada na reportagem explica que a legislação brasileira oferece proteção sólida nestes casos: "Nós temos uma legislação muito forte que protege imagem e reputação do indivíduo e também temos legislação específica que protege grupos mais vulneráveis, com uma proteção maior em várias leis com relação a mulheres, crianças e adolescentes".

Diferencial preocupante

O Grok se distingue de outras inteligências artificiais convencionais por permitir conteúdo sexualmente explícito. Além disso, ao contrário de concorrentes, está integrado a uma das plataformas de mídia social mais populares do mundo, o que amplia seu alcance e potencial de dano.

Os usuários podem simplesmente marcar o Grok em uma publicação com uma solicitação, e a ferramenta responde publicamente, o que facilita o uso indevido da tecnologia para fins criminosos.

Repercussão internacional

O caso já ultrapassou fronteiras. No Brasil, a deputada federal Erika Hilton, do PSOL, entrou com uma representação no Ministério Público Federal contra a ferramenta. Internacionalmente, a União Europeia, o Reino Unido, a Índia e a Malásia também se manifestaram contra o Grok.

A Comissão Europeia chegou a ordenar que o X retenha todos os documentos relacionados à ferramenta até o final do ano, demonstrando a seriedade com que o caso está sendo tratado pelas autoridades internacionais.

Medidas insuficientes

"Esse episódio apenas demonstra que, se não houver um trabalho direto, proativo e preventivo da própria rede, não basta escrever na política de uso que não pode fazer isso. Precisa de fato haver uma ação efetiva educativa e também de penalização, de remoção", afirma a especialista entrevistada.

Após a repercussão negativa, o X restringiu a edição de imagens apenas para usuários pagantes. No entanto, críticos apontam que esta medida é insuficiente, já que esses assinantes continuarão com permissão para solicitar fotos que sexualizam mulheres e crianças.

"Estamos vivendo um momento muito sombrio quando olhamos como está sendo utilizada a IA e como estão sendo disseminadas essas imagens dentro do ambiente digital", conclui a especialista, alertando para os riscos do uso inadequado da tecnologia.