Após processo por exploração, Roblox cria medidas de proteção infantil

Os usuários do Roblox que desejarem utilizar o chat na plataforma de jogos online em breve precisarão verificar sua idade, seja fornecendo um documento de identificação oficial ou permitindo que uma ferramenta de inteligência artificial faça uma estimativa de idade por meio de uma foto do rosto.

A medida surge enquanto a plataforma enfrenta uma série de processos judiciais e outras alegações de que tem permitido que predadores sexuais se conectem e abusem de crianças. O Roblox afirmou que a nova política facilitará a prevenção do contato entre jovens usuários e adultos desconhecidos.

O Roblox é uma plataforma onde os usuários podem criar e jogar e c e interagir entre si.

Diferentemente de muitas outras ferramentas online, permite usuários menores de 13 anos; a plataforma há muito se promove como uma forma divertida para crianças aprenderem a programar. Possui mais de 150 milhões de usuários globalmente, sendo um terço deles menores de 13 anos.

No entanto, a empresa passou a ser minuciosamente investigada após relatos de crianças sendo aliciadas, abusadas e, em alguns casos, até sequestradas por adultos que conheceram no Roblox.

Os procuradores-gerais de Kentucky e Louisiana entraram com processos separados acusando a plataforma de prejudicar crianças no início deste ano. O procurador-geral da Flórida também emitiu uma intimação criminal solicitando informações da empresa no mês passado, chamando o Roblox de "terreno fértil para predadores".

Famílias também processaram a empresa individualmente, incluindo Becca Dallas, que alega que seu filho de 15 anos, Ethan, cometeu suicídio após ser aliciado através do portal e do site de mensagens Discord.

O Roblox já possui algumas políticas e recursos implementados para proteger usuários jovens; por exemplo, oferece controles parentais, bloqueia o compartilhamento de fotos e informações pessoais e utiliza moderação humana e por IA para texto e voz.

Também exige que os usuários verifiquem sua idade para acessar certas experiências "17+", como jogos com violência intena ou humor grosseiro.

Mas a atualização anunciada nesta terça-feira (18) deve aumentar significativamente o número de usuários verificando sua idade na plataforma, disseram executivos em uma conversa com jornalistas.

"Nossa prioridade é a segurança e civilidade", disse Matt Kaufman, Diretor de Segurança da ferramenta. "Queremos fazer do Roblox uma experiência segura, positiva e apropriada para todas as idades"

"Estabelecemos padrões extremamente elevados para nós mesmos e entendemos que o público espera o mesmo de nós."

O anúncio desta terça-feira coincide com um "protesto virtual" planejado dentro do Roblox pela organização sem fins lucrativos ParentsTogether Action, que reivindica mais recursos de segurança para jovens na plataforma, incluindo proteções de privacidade padrão mais rigorosas para usuários menores de 13 anos.

A medida também surge em meio a um movimento mais amplo das plataformas online para determinar a idade dos usuários e proteger os jovens; YouTube e Meta estão entre os outros aplicativos populares que utilizam IA para estimativas de idade, embora as ferramentas variem entre as plataformas.

Sob a nova política, todos os usuários serão obrigados a verificar sua idade antes de acessar os recursos de bate-papo no Roblox.

Se os usuários optarem por não enviar um documento de identificação, precisarão fotografar seus rostos para que a IA estime sua idade, usando tecnologia da empresa de verificação de identidade Persona.

A ferramenta utiliza a câmera frontal do dispositivo do usuário e solicita que movimentem o rosto em direções específicas, em um esforço para garantir que uma pessoa real está fazendo a verificação.

A IA classificará os usuários em uma faixa etária estimada — menos de 9, 9-12, 13-15, 16-17, 18-20 ou mais de 21 anos — e eles só poderão conversar com outros usuários dentro ou próximos dessa faixa.

Por exemplo, um usuário estimado em 12 anos de idade poderá conversar com usuários de até 15 anos, mas não com aqueles de 16 anos ou mais, segundo o Roblox.

Se a IA classificar alguém no grupo etário errado, usuários com mais de 13 anos podem enviar um documento de identificação para corrigir sua idade.

Pais cujas contas estejam vinculadas à conta de seus filhos através das ferramentas de controle parental do Roblox também podem corrigir a idade de seus filhos. (As verificações de documento de identidade estão disponíveis apenas para usuários maiores de 13 anos, provavelmente porque as regulamentações de privacidade online são mais rigorosas para crianças mais jovens.)

O Roblox afirma que as imagens dos rostos dos usuários serão utilizadas apenas para estimativa de idade e serão excluídas após os usuários serem classificados em uma faixa etária.

"Vemos essas mudanças como uma forma de ajudar a garantir que os usuários possam socializar com outros em grupos etários apropriados e também ajudar a limitar o contato entre menores e adultos que eles não conhecem", disse Rajiv Bhatia, vice-presidente do Roblox e chefe de produto de usuário e descoberta.

O Roblox se recusou a compartilhar uma taxa específica de precisão para sua tecnologia de estimativa de idade por IA.

Kaufman afirmou que o sistema é "tipicamente preciso com margem de um ou dois anos" para usuários entre 5 e 25 anos de idade.

Alguns usuários encontraram maneiras de burlar a tecnologia de estimativa de idade por escaneamento facial em outras plataformas, como usar imagens de personagens de videogame ou selfies de outras pessoas.

No entanto, Kaufman afirmou que a tecnologia da Roblox possui "verificações robustas contra fraudes" para determinar se a pessoa está "ao vivo" e "se movimentando e seguindo instruções". Ele acrescentou que o sistema também procura "outras anomalias, como pessoas tentando usar repetidamente o mesmo rosto".

A Roblox começará a implementar a verificação de idade de forma voluntária a partir de terça-feira. O recurso se tornará obrigatório na Austrália, Nova Zelândia e Holanda em dezembro, e globalmente no início do próximo ano.