Após críticas sobre "nudes digitais", Grok limita geração de imagens
Chatbot foi alvo de polêmicas por criação de conteúdo "despindo digitalmente" pessoas
O chatbot Grok, de Elon Musk, limitou alguns de seus recursos de geração de imagens "Imagine" apenas para assinantes pagos do X, dias após a polêmica internacional sobre a ferramenta de IA ter respondido a solicitações de usuários "despindo digitalmente" pessoas, incluindo crianças.
A mudança parece ter ocorrido nesta quinta (8) e sexta-feira (9). A conta do Grok no X responde às solicitações de imagens de não assinantes com a mensagem: "A geração e edição de imagens estão atualmente limitadas a assinantes pagos", e inclui um link para assinatura.
No entanto, a restrição se aplica apenas a uma das formas de interação dos usuários do X com o Grok. Um botão de "editar imagem" em fotos carregadas na rede social permite que qualquer usuário utilize o sistema e edite a imagem.
Além disso, a geração de imagens e vídeos continua gratuita através do site e aplicativo independentes do Grok. A restrição parece se aplicar apenas à função em que usuários marcam o chatbot em uma publicação no X com uma solicitação, que a tecnologia então atende em uma publicação pública.
A CNN havia informado anteriormente que, nas semanas que antecederam a explosão dessa tendência no X, Musk expressou frustração com as restrições de segurança do Grok Imagine durante uma reunião na xAI. Três funcionários importantes da equipe de segurança, incluindo o chefe de segurança de produtos, também deixaram a empresa nas semanas anteriores à controvérsia.
Autoridades do Reino Unido, União Europeia, Malásia e Índia expressaram preocupação com as proteções do Grok e como isso leva ao que muitos consideram pornografia deepfake.
Um porta-voz do primeiro-ministro britânico Keir Starmer criticou a última medida do X, afirmando que "simplesmente transforma um recurso de IA que permite a criação de imagens ilegais em um serviço premium", segundo a BBC.
Enquanto a controvérsia sobre a nudez digital estava no auge na rede social, os líderes da plataforma — incluindo Musk e o chefe de produto Nikita Bier — vangloriaram-se de que o X estava experimentando algumas das suas maiores taxas de engajamento.
A xAI também anunciou esta semana que concluiu sua rodada de financiamento Série E, superando a meta de US$ 15 bilhões (cerca de R$ 80,5 bilhões) e arrecadando US$ 20 bilhões (R$107 bilhões) de investidores.
Um porta-voz do X não respondeu imediatamente ao pedido de comentário da CNN.
