Grok é bloqueado na Indonésia e na Malásia após gerar "nudes digitais"

O Grok, de Elon Musk, foi bloqueado pela Indonésia e Malásia, os primeiros países a fazerem isso após a função de "desnudamento digital" da ferramenta de IA inundar a internet com fotos manipuladas de mulheres e menores de idade em imagens sugestivas e obscenas.

A pressão internacional sobre Musk tem aumentado para que ele controle o Grok, após uma tendência viral em que usuários pediram à ferramenta de IA para gerar deepfakes sexualmente explícitos.

Grok é uma ferramenta na plataforma de mídia social X de Musk, anteriormente conhecida como Twitter.

A ministra digital da Indonésia, Meutya Hafid, disse em um comunicado no sábado que a proibição visa "proteger mulheres, crianças e o público em geral dos riscos de conteúdo pornográfico falso gerado usando tecnologia de inteligência artificial."

A Malásia anunciou sua própria proibição temporária no domingo, após "o uso indevido repetido do Grok para gerar imagens manipuladas obscenas, sexualmente explícitas, indecentes, grosseiramente ofensivas e não consensuais, incluindo conteúdo envolvendo mulheres e menores."

Indonésia e Malásia são países de maioria muçulmana com leis antipornografia rigorosas.

A CNN entrou em contato com a empresa controladora xAI para comentários.

Autoridades do Reino Unido, União Europeia e Índia também expressaram preocupações sobre as proteções do Grok.

Anteriormente, Musk e a xAI disseram que estavam lidando com o problema suspendendo permanentemente as contas infratoras e "trabalhando com governos locais e autoridades policiais." Mas as respostas do chatbot às solicitações dos usuários ainda estavam repletas de imagens sexualizando mulheres.

O Grok é visto por muitos usuários como um caso à parte em comparação com outros modelos de IA convencionais, por permitir e, em alguns casos, promover conteúdo sexualmente explícito e avatares de companhia.

O aumento da tendência de desnudamento digital começou no final do ano passado, quando muitos usuários descobriram que podiam marcar o chatbot no X e fazê-lo manipular imagens.

Usuários têm solicitado ao chatbot que gere imagens de pessoas em biquínis e em poses sugestivas, causando angústia a centenas de milhares de mulheres em todo o mundo.

Pesquisadores da AI Forensics, uma organização sem fins lucrativos europeia que investiga algoritmos, analisaram mais de 20.000 imagens aleatórias geradas pelo Grok e 50.000 solicitações de usuários entre 25 de dezembro e 1º de janeiro.

Os pesquisadores encontraram "uma alta prevalência de termos incluindo "ela", "colocar"/"remover", "biquíni" e "roupa"".

Mais da metade das imagens geradas de pessoas "continham indivíduos com vestimentas mínimas, como roupas íntimas ou biquínis."

Musk resiste à censura

Publicamente, Musk tem defendido há muito tempo sua posição contra modelos de IA "woke" e o que ele chama de censura.

Mas o bilionário tem resistido à implementação de proteções para o Grok dentro da empresa, segundo uma fonte com conhecimento da situação na xAI informou à CNN.

A equipe de segurança da xAI, já pequena em comparação com seus concorrentes, perdeu vários funcionários nas semanas que antecederam a controvérsia.

Musk afirmou que qualquer pessoa que usar o Grok para fazer conteúdo ilegal enfrentará consequências.

Ele tem, no entanto, amplamente desconsiderado as preocupações sobre conteúdo sexual no aplicativo, argumentando que "os governos apenas querem suprimir a liberdade de expressão" e respondendo às críticas com emojis.

Na semana passada, o Grok limitou alguns de seus recursos de geração de imagens apenas para assinantes pagos do X, mas as restrições se aplicam somente a uma das formas de interação dos usuários com o sistema.

Não assinantes ainda podem solicitar ao chatbot que edite imagens no aplicativo, e as funções de geração de imagens e vídeos continuam sendo oferecidas gratuitamente através de seu site independente e aplicativo.

A secretária de tecnologia do Reino Unido, Liz Kendall, pediu na sexta-feira ações rápidas para combater as imagens deepfake.

"Manipular sexualmente imagens de mulheres e crianças é desprezível e abominável", afirmou.

"Espero que a Ofcom use todos os poderes legais que o Parlamento lhes concedeu", acrescentou, referindo-se ao órgão regulador independente de comunicações do Reino Unido.