Discord vira alvo de preocupação para pais após relatos de violência e assédio

Muitos dos pais com quem a CNN falou disseram acreditar que o Discord não está fazendo o suficiente para proteger seus jovens usuários

Os usuários do Discord, cerca de 79% dos quais estão localizados fora da América do Norte, participam de bate-papos ou canais públicos e privados, chamados servidores, sobre vários tópicos
Os usuários do Discord, cerca de 79% dos quais estão localizados fora da América do Norte, participam de bate-papos ou canais públicos e privados, chamados servidores, sobre vários tópicos Steinar Engeland/ Unsplash

Samantha Murphy Kellydo CNN Business

Ouvir notícia

Quando uma mãe no estado de Washington soube que sua filha adolescente estava no Discord, uma popular plataforma de mídia social, ela se sentiu razoavelmente confortável com a ideia de usá-la para se comunicar com membros de sua banda do ensino médio.

Mas em setembro, a mãe descobriu que o jovem de 16 anos também estava usando o serviço de áudio e bate-papo para enviar mensagens a alguém que parecia ser um homem mais velho em sua foto de perfil.

O estranho, que disse morar na Inglaterra, entrou em um bate-papo em grupo que incluía sua filha e integrantes da banda, segundo a mãe. Eles iniciaram uma amizade em um tópico privado. Ele pediu que enviasse fotos nuas; sua filha obedeceu.

“Eu passei por todas as conversas que eles tiveram, mas o mais perturbador, além da nudez, foi que ele pediu para ela enviar uma foto da nossa casa”, disse a mãe, que, assim como outros pais de jovens usuários do Discord, pediu para permanecer anônimo, citando preocupações sobre a privacidade de sua família.

“Minha filha entrou no aplicativo imobiliário local, encontrou nossa casa e a enviou, então ele sabia onde ela mora. Ele então perguntou como eram os ônibus escolares americanos, então ela tirou uma foto do ônibus e o enviou.” Ele então pediu fotos de seus amigos, e ela as enviou também.

A mãe temia que o usuário do Discord estivesse manipulando, rastreando e planejando explorar sua filha. Depois de encerrar a conta Discord de sua filha, um esforço que ela disse que levou seis semanas para a empresa ser concluída, ela instalou câmeras de segurança externas em toda a casa.

A mãe nunca relatou o incidente ao Discord e as conversas não estão mais disponíveis para sinalização porque a conta foi excluída. “Há muitas coisas que deveríamos ter feito em retrospectiva”, disse ela.

Nos últimos meses, grandes empresas de mídia social enfrentaram um novo escrutínio dos legisladores sobre os impactos negativos que suas plataformas podem ter sobre os adolescentes.

Executivos do Facebook, Instagram, TikTok e da empresa-mãe do Snapchat foram chamados a depor perante o Senado após vazamentos de um denunciante do Facebook apontarem para o potencial do Instagram de prejudicar a saúde mental e a imagem corporal, especialmente entre adolescentes.

Os legisladores agora estão avaliando a legislação para proteger as crianças online – um projeto de lei bipartidário foi apresentado no Senado no mês passado, que propõe responsabilidades novas e explícitas para as plataformas de tecnologia para proteger as crianças dos danos digitais.

O presidente Joe Biden também usou parte de seu discurso sobre o Estado da União para instar os legisladores a “responsabilizar as plataformas de mídia social pelo experimento nacional que estão realizando em nossos filhos com fins lucrativos”.

O Discord, no entanto, não fez parte dessa conversa. Lançado em 2015, o aplicativo é menos conhecido entre os pais do que grandes nomes como o Instagram, mesmo tendo subido para 150 milhões de usuários ativos mensais em todo o mundo durante a pandemia.

O serviço, que é conhecido por suas comunidades de videogame, também é menos intuitivo para alguns pais, misturando a sensação das primeiras salas de bate-papo da AOL ou do aplicativo de bate-papo de trabalho Slack com o mundo caótico e personalizado do MySpace.

Embora grande parte do foco dos legisladores de outras plataformas tenha sido examinar tecnologias mais sofisticadas, como algoritmos, que podem apresentar conteúdo potencialmente prejudicial para usuários mais jovens, as preocupações dos pais sobre o Discord lembram uma era anterior da internet: salas de bate-papo anônimas.

Logo do Discord / Alexander Shatov/ Unsplash

Os usuários do Discord, cerca de 79% dos quais estão localizados fora da América do Norte, participam de bate-papos ou canais públicos e privados, chamados servidores, sobre vários tópicos, incluindo interesses musicais, Harry Potter e Minecraft e ajuda na lição de casa.

Alguns, como uma sala para memes, podem ter centenas de milhares de membros. Mas a grande maioria são espaços privados, apenas para convidados, com menos de 10 pessoas, de acordo com o Discord.

Todos os servidores são privados por padrão, e apenas canais com mais de 200 membros podem ser descobertos em sua ferramenta de pesquisa se o administrador quiser que seja público, acrescentou a empresa.

Ainda assim, é possível que menores de idade se conectem com pessoas que não conhecem em servidores públicos ou em chats privados se o estranho foi convidado por outra pessoa na sala ou se o link do canal for colocado em um grupo público que o usuário acessou.

Por padrão, todos os usuários — incluindo usuários de 13 a 17 anos — podem receber convites de amigos de qualquer pessoa no mesmo servidor, o que permite que eles enviem mensagens privadas.

A CNN Business conversou com quase uma dúzia de pais que compartilharam histórias sobre seus adolescentes sendo expostos a bate-papos de automutilação, conteúdo sexualmente explícito e predadores sexuais na plataforma, incluindo usuários que acreditavam ser homens mais velhos que procuravam fotos e vídeos inapropriados.

Uma mãe de Charlotte, Carolina do Norte, disse que a saúde mental de sua filha de 13 anos foi afetada depois que uma sala de bate-papo do Discord envolvendo seus interesses mudou.

“O grupo finalmente começou a falar sobre se cortar, compartilhou dicas sobre como esconder isso dos pais e sugeriu conselhos sobre como fugir de casa”, disse a mãe à CNN.

“Mais tarde, descobri que ela estava se envolvendo ativamente em automutilação e planejava fugir para o Alabama para visitar um amigo que ela fez no Discord”.

Um pai fora de Boston, que inicialmente não pensou muito em sua filha de 13 anos baixando o Discord no verão passado “porque ela é uma jogadora”, descobriu mais tarde que ela estava conversando com um homem de 30 anos que estava procurando fotos dela e queria se envolver em atividades de “câmera impertinente”, em mensagens analisadas pela CNN Business.

O pai disse que também aprendeu mais tarde que alguns dos colegas de classe de sua filha usam ativamente o Discord ao longo do dia, sem o conhecimento da escola.

“A escola bloqueia ativamente aplicativos como Snapchat e Instagram quando eles acessam a rede escolar em dispositivos escolares, mas os adolescentes estão usando outras plataformas como Discord que não estão no radar deles”, disse o pai. “É o oeste selvagem das mídias sociais.”

A CNN Business relatou vários desses casos ao Discord — com a permissão dos pais — antes da publicação deste artigo.

Depois de lançar uma série de investigações, a empresa disse que tomou medidas contra algumas contas, mas disse que não comenta publicamente casos específicos ou contas de usuários.

Muitos dos pais com quem a CNN Business falou disseram que não habilitaram nenhum dos controles parentais oferecidos na época, principalmente porque não sabiam como a plataforma funciona.

Se ativadas, essas ferramentas de controle dos pais, incluindo uma que proíbe um menor de receber uma solicitação de amizade ou uma mensagem direta de alguém que não conhece, provavelmente poderiam ter evitado muitos desses incidentes.

Alguns pais também expressaram frustração com a forma como o Discord respondeu a seus incidentes depois de relatados e lutaram com o fato de que os bate-papos de áudio no Discord não deixam um registro escrito e podem ser mais difíceis de moderar.

Dados sobre a frequência de tais incidentes são difíceis de obter. Um relatório recente do Bark, um serviço de monitoramento pago que rastreia mais de 30 aplicativos e plataformas, incluindo e-mails e mensagens pessoais, em busca de termos e frases que possam indicar preocupações com as quase 6 milhões de crianças que protege, disse que o Discord está entre os cinco principais aplicativos ou plataformas para conteúdo sinalizado por seus algoritmos para violência grave, bullying, conteúdo sexual e ideação suicida.

Em seu relatório de transparência mais recente, o Discord disse que removeu mais de 470 mil contas não spam entre janeiro e junho de 2021, um aumento significativo em relação às 266.075 exclusões de contas durante o segundo semestre de 2020.

“O conteúdo exploratório deu uma contribuição particularmente grande para esse aumento geral”, disse o relatório, que o descreve como uma categoria abrangente que engloba material sexualmente explícito.

A categoria passou de cerca de 130.000 remoções no segundo semestre de 2020 para 238.000 no primeiro semestre de 2021, e a remoção de servidores de conteúdo explorador — que o Discord define como pornografia não consensual e conteúdo sexual relacionado a menores — quase dobrou para mais de 11.000.

No entanto, Discord disse à CNN Business que material de abuso sexual infantil e aliciamento – um termo que se refere a um adulto forjando uma conexão emocional com um menor para que ele possa manipulá-lo, abusar ou explorá-lo – representa uma pequena porcentagem da atividade no serviço.

Em resposta a perguntas sobre os incidentes que os pais compartilharam com a CNN Business, John Redgrave, vice-presidente de confiança e segurança da empresa, disse que “esse comportamento é terrível, inaceitável e não tem lugar no Discord”.

“É nossa maior prioridade que nossas comunidades tenham uma experiência segura no serviço, e é por isso que investimos continuamente em novas ferramentas para proteger os adolescentes e remover conteúdo prejudicial do serviço, e construímos uma equipe dedicada a esse trabalho”, disse Redgrave em um comunicado.

“Investimos também em educação, para que os pais saibam como nosso serviço funciona e entendam os controles de conta que podem contribuir para uma experiência positiva e segura para seus adolescentes.”

Redgrave acrescentou: “Criamos o Discord para promover um sentimento de pertencimento e comunidade, e é profundamente preocupante para toda a nossa empresa quando é mal utilizado. Devemos e faremos melhor”.

Mas alguns especialistas argumentam que as preocupações que os pais levantaram com o Discord são inatas ao seu modelo de design.

“Com o Discord, você se inscreve em canais e se envolve em bate-papo privado, que é um véu de privacidade e sigilo na maneira como é construído”, disse Danielle Citron, professora de direito da Universidade da Virgínia que se concentra em questões de privacidade digital.

Embora algumas redes sociais maiores tenham enfrentado escrutínio em torno de assédio e outros problemas, grande parte dessa atividade é “voltada ao público”, disse ela.

“Discord é mais recente na festa e muito disso está acontecendo a portas fechadas.”

Uma ferramenta de jogo se torna mainstream

Discord começou com aspirações de se tornar um estúdio de desenvolvimento de jogos chamado Hammer & Chisel, mas mudou para se concentrar em sua ferramenta de comunicação depois que um jogo multiplayer que criou nunca pegou.

Seu uso de voz sobre vídeo e compartilhamento de tela foi um atrativo para os jogadores, permitindo que eles interagissem com amigos ou outras pessoas enquanto jogavam videogame.

Em junho de 2020, a empresa anunciou um esforço de rebranding para crescer além dos jogos; agora, cerca de 80% dos usuários ativos do Discord relatam que usam o serviço principalmente para fins não relacionados a jogos ou o usam igualmente para jogos e outros fins, de acordo com a empresa.

A empresa, que emprega 600 pessoas em todo o mundo, disse que ganha dinheiro por meio de um serviço de assinatura chamado Nitro, que oferece uma experiência aprimorada no Discord, como personalizar perfis com tags exclusivas, acessar emojis animados, fazer upload de arquivos grandes e “aumentar” o favorito dos usuários servidores.

Em setembro de 2021, a Discord anunciou que levantou US$ 500 milhões em uma rodada de financiamento, colocando sua avaliação em cerca de US$ 15 bilhões.

No início do ano, o Wall Street Journal informou que desistiu de um acordo a ser adquirido pela Microsoft por pelo menos US$ 10 bilhões. Espera-se amplamente que a empresa esteja se movendo em direção a uma potencial oferta pública inicial.

Como outras plataformas sociais, o Discord disse que viu um salto no uso, pois as pessoas ficaram presas em casa durante a pandemia, passando de 56 milhões de usuários ativos mensais em 2019 para 150 milhões em setembro de 2021. Como outras plataformas, o Discord também teve de enfrentar conteúdo extremo, inclusive de grupos de extrema direita e conspiração.

E embora os usuários devam ter 13 anos ou mais para participar, existem problemas com a verificação de idade, assim como em outras plataformas.

Amanda Schneider disse que um homem mais velho perseguiu um relacionamento inapropriado com seu filho de 13 anos no Discord. “Foi simplesmente horrível; não houve nenhuma ajuda.”

Semelhante ao Reddit, existem moderadores para canais que são responsáveis ​​por aplicar as diretrizes da comunidade da empresa e suas próprias regras de sala de bate-papo. Eles podem investigar diretamente uma situação e, em seguida, alertar, colocar em quarentena ou banir usuários dos canais.

O Discord também possui uma equipe interna de Confiança e Segurança de funcionários em tempo integral que investigam e respondem a relatórios de usuários.

De acordo com o Discord, eles podem contar com uma mistura de maneiras proativas e reativas de manter a plataforma segura, incluindo ferramentas de pesquisa automatizadas que verificam fotos e vídeos em busca de conteúdo exploratório.

A empresa disse que fez um esforço maior para aumentar seus protocolos de segurança em sua plataforma no ano passado, trabalhando para dimensionar operações reativas e melhorar métodos para detectar e remover abusos de forma proativa.

Ele continua a implementar mais controles de conta por meio de seu Centro de Segurança, que inclui a capacidade de bloquear usuários ofensivos, restringir conteúdo explícito, controlar quem envia mensagens para você e configurar regras e permissões de servidor nas comunidades.

Também fez uma parceria com a ConnectSafely, uma organização sem fins lucrativos dedicada à segurança na Internet, para criar um guia dos pais para o Discord com as configurações de segurança recomendadas para adolescentes e está realizando “sessões de escuta” com os capítulos da National Parent Teacher Association para aumentar a conscientização e o uso dos recursos de segurança do Discord e práticas.

Discord disse que os pais podem solicitar que a conta de seus filhos seja excluída enviando um e-mail associado à conta para confirmar que são os responsáveis ​​pela criança. Esse processo pode exigir algumas idas e vindas com a equipe de Confiança e Segurança para ajudar os pais durante o processo, de acordo com a empresa.

O Discord também disse que planeja desativar a opção padrão para menores de idade receberem convites de amigos ou mensagens privadas de qualquer pessoa no mesmo servidor como parte de uma futura atualização de segurança.

A empresa atualizou recentemente seus termos de serviço e política de privacidade para levar em consideração os comportamentos fora da plataforma cometidos por seus usuários para avaliar violações de suas diretrizes da comunidade, inclusive para sexualizar crianças.

Outras grandes plataformas, incluindo Twitter e Twitch, começaram a levar em consideração a atividade de um usuário fora de suas plataformas há vários anos, como ser afiliado a uma organização violenta, como parte de seus esforços para reprimir comportamentos abusivos.

Mas os problemas persistem. Muitos dos pais com quem a CNN falou disseram acreditar que o Discord não está fazendo o suficiente para proteger seus jovens usuários.

‘Não houve ajuda nenhuma’

O Discord exige que os usuários tenham pelo menos 13 anos de idade para criar contas, mas como em outras plataformas sociais, algumas crianças menores que isso ainda se inscrevem.

Uma mãe de Los Angeles que enviou um relatório ao Discord disse que a empresa não conseguiu ajudá-la depois que um homem iniciou uma conversa com sua filha de 10 anos que começou a enviar links para pornografia BDSM. A mãe recebeu um e-mail automático de sua equipe de Confiança e Segurança.

“Lamentamos saber que você se deparou com esse tipo de conteúdo e entendemos que isso pode ser extremamente preocupante”, disse a resposta do Discord, revisada pela CNN Business.

“Infelizmente, não conseguimos localizar o conteúdo com as informações que você forneceu. Entendemos que isso pode ser desconfortável, mas, se possível, envie-nos os links da mensagem para o conteúdo denunciado para que a equipe analise e tome as medidas apropriadas. ”

Depois que a mãe enviou ao Discord os links solicitados há mais de um ano, a empresa nunca respondeu. Embora a empresa tenha dito à CNN Business que não comenta casos específicos relatados, disse que analisa todos os relatos de conteúdo impróprio com um menor, investiga o comportamento e toma as medidas apropriadas.

Amanda Schneider, que mora nos arredores de Phoenix, disse que também ficou desapontada com a forma como a plataforma lidou com suas preocupações quando disse que um homem de 20 e poucos anos buscou um relacionamento inadequado com seu filho de 13 anos, pedindo ao adolescente para se masturbar e dizer a ele sobre isso depois.

“Discord me disse que eu não poderia fazer nada a menos que tivesse links específicos para o tópico de texto que mostrava meu filho verificando sua idade — como digitar ‘Tenho 13 anos’, que foi compartilhado por meio de uma voz [chat] — e a outra pessoa verificando sua idade antes de um incidente acontecer”, disse Schneider.

“Foi simplesmente horrível; não houve nenhuma ajuda”, disse ela. Depois que ela denunciou o incidente à polícia, ela soube que ele era um criminoso sexual registrado e havia sido preso, de acordo com Schneider.

A empresa disse à CNN Business que o motivo pelo qual exige links para o bate-papo e não pode usar capturas de tela ou anexos para verificar o conteúdo é impedir que os usuários falsifiquem informações potencialmente para causar problemas a outras pessoas.

Ele acrescentou que os pais podem usar seu formulário de denúncia para sinalizar usuários específicos para a equipe de Confiança e Segurança.

De acordo com Citron, professor de direito da Universidade da Virgínia, os bate-papos de voz para voz no Discord tornam os relatórios ainda mais difíceis para os pais. “Ao contrário das conversas de texto, os predadores prosperam no espaço da voz porque não há um registro”, disse ela.

“Quando um pai vai relatar que uma criança está se envolvendo com alguém [inapropriadamente] ou que está sendo aliciada por um predador sexual, muitas vezes não há provas [porque o áudio não é salvo]”.

A Discord disse que suas regras e padrões em relação ao áudio são os mesmos que suas políticas de texto e imagem. Mas disse à CNN Business que, como outras plataformas, o áudio apresenta um conjunto diferente de desafios para moderação do que a comunicação baseada em texto.

Discord disse que não armazena ou grava chats de voz, mas sua equipe investiga relatos de uso indevido e analisa informações de canais baseados em texto como parte desse processo.

O que os pais podem fazer

Alguns pais, como Stephane Cotichini, um desenvolvedor profissional de videogames, acreditam que o Discord pode ser uma plataforma positiva para usuários jovens se os controles parentais corretos estiverem em vigor.

Seus filhos adolescentes que usam o site para jogos têm um punhado de recursos do Discord ativados, como restringir mensagens diretas apenas a amigos.

“Eu sei que o Discord pode ser problemático, mas é importante para mim como pai não simplesmente proibir essas coisas por causa dos perigos, mas ensinar meus filhos sobre como lidar com eles e equilibrar a limitação”, disse ele. “Que eu saiba, nunca tive problemas com nenhum dos meus meninos.”

Cotichini, que usa o Discord para conversar com sua própria equipe no trabalho, disse que a plataforma é um lugar valioso para outros jogadores entrarem em seus servidores e avaliarem o que estão desenvolvendo em tempo real.

Ele também atribui a plataforma a incentivar o amor de seus filhos pelos jogos; dois já fizeram seus próprios programas, incluindo um que ganhou um prêmio no XPrize Connect Code Games Challenge em 2021.

“Se em uma idade jovem eu posso fazer com que eles gastem uma porcentagem de seu tempo criando conteúdo em vez de consumir, sinto que estou conseguindo de alguma forma”, disse ele.

Assim como em outras plataformas sociais, os pais com filhos no Discord devem respeitar as restrições de idade e habilitar o controle dos pais, disse Rich Wistocki, ex-detetive em Illinois que agora administra o treinamento Be Sure Cyber ​​para ajudar pais, administradores escolares e policiais a aprender mais sobre o perigos das redes sociais.

No caso de um incidente, ele disse que os pais devem fazer capturas de tela do bate-papo, fotos, vídeo, ID do usuário e salvar links para o texto no canal ao denunciá-lo.

“Os pais muitas vezes não pensam que essas coisas vão acontecer com seus filhos”, disse ele. “Mais pode ser feito para evitar que esses incidentes continuem.”

Este conteúdo foi criado originalmente em inglês.

versão original

Mais Recentes da CNN