Como grupos antissemitas usam inteligência artificial após ataques do Hamas

Grupos de ódio e trolls da internet de extrema direita aproveitaram as tensões em torno da guerra Israel-Hamas, e utilizaram os avanços na inteligência artificial para alimentar ainda mais o antissemitismo nos Estados Unidos.

O avanço do conflito e o rápido desenvolvimento – e a maior acessibilidade – das ferramentas de IA permitiram que grupos antissemitas transformassem a tecnologia em arma, criando imagens e áudios que são usados para atacar a comunidade judaica, de acordo com especialistas que acompanham o extremismo online.

“Temos visto uma convergência ideológica real e preocupante entre as comunidades online de extrema direita e o sentimento pró-Hamas”, disse Ben Decker, CEO da Memetica, uma empresa de análise de ameaças que monitora o ódio online.

A atividade está no radar das autoridades policiais, à medida que o antissemitismo continua a crescer nos Estados Unidos: um aumento de 316% nos incidentes antissemitas atingiu o país desde o ataque terrorista do Hamas em Israel, em 7 de outubro, em comparação com o mesmo período do ano passado, de acordo com dados preliminares divulgados pela Liga Antidifamação.

Poucos dias após o início da guerra entre Israel e o Hamas, o FBI e o Departamento de Segurança Interna alertaram sobre as ameaças contra as comunidades judaica, muçulmana e árabe-americana, observando que o antissemitismo e o sentimento anti-islâmico “permeiam muitas ideologias extremistas violentas e servem como um principal motor dos ataques de um conjunto diversificado de extremistas violentos”.

Espera-se que os chefes de ambas as agências abordem a questão do extremismo doméstico numa audiência no Capitólio na quarta-feira (15). O diretor do FBI, Christopher Wray, já indicou que o antissemitismo está atingindo “níveis históricos” nos EUA, e um boletim policial obtido pela CNN indica que o Departamento de Segurança Interna compilou informações sobre grupos racistas e de ódio nos EUA “que celebram ataques à comunidade judaica”.

Inteligência artificial, ódio real

Os utilizadores do notório fórum online de extrema direita 4chan, cheio de ódio, rapidamente começaram a celebrar o ataque de 7 de outubro, no que Memetica descreve como “convergência do Hamas e das ideologias da supremacia branca”.

Embora seja paradoxal que os supremacistas brancos apoiem um grupo terrorista islâmico, Decker diz que o ódio dos supremacistas brancos ao povo judeu supera todo o resto.

Karen Dunn, uma advogada que processou as pessoas responsáveis pela violência no comício mortal Unite the Right de 2017 em Charlottesville, Virgínia, disse à CNN que os grupos de ódio “odeiam todo mundo, mas odeiam mais os judeus”.

O antissemitismo é um ponto em comum que pode unir vários grupos de ódio diferentes e concorrentes, que podem então transformar-se em ódio dirigido a outros, disse ela.

“Isso é o que vimos em Charlottesville”, disse Dunn. “O fim de semana começou com ‘os judeus não nos substituirão’, mas terminou com violência de motivação racial contra todos os grupos”.

FOTOS: Veja imagens do conflito entre Israel e Hamas

Decker observou a eficácia da estratégia do Hamas para divulgar o seu ataque terrorista nas redes sociais, apesar da maioria das principais plataformas banirem o grupo terrorista. O número já substancial de seguidores no Telegram, o aplicativo de mensagens de mídia social, disparou após os ataques de 7 de outubro.

“Existem todas essas camadas de coordenação”, explicou Decker. “Você tem os combatentes que compartilham as imagens quase em tempo real com os operadores de mídia social. Então, você tem esse conteúdo sendo postado no Telegram”.

Esse conteúdo às vezes chega às principais plataformas como Meta e YouTube antes de ser removido. Mas, disse Decker, os usuários do 4chan ajudam a proliferar esse conteúdo terrorista. “Essas comunidades do 4chan estão, na verdade, reenviando os vídeos e arquivando-os para que possam continuar a compartilhá-los online nos próximos anos”, disse ele.

Nas últimas semanas, os usuários do 4chan compartilharam instruções para usar ferramentas de geração de imagens de IA que estão disponíveis gratuitamente online para criar representações antissemitas do povo judeu, apoiando-se em velhos tropos deles como mestres de marionetes malvados ou gananciosos, de acordo com Memetica.

Os trolls são incentivados a criar imagens na ferramenta de geração de IA de sua escolha e a espalhá-las pela internet. Instruções específicas são publicadas sobre como criar as imagens usando a nova ferramenta de imagem inteligência artificial do Microsoft Bing.

Embora a Microsoft e outras plataformas de IA tenham regras e algumas proteções para tentar impedir que sua tecnologia seja usada para criar tais imagens, os trolls descobriram soluções alternativas. Pesquisadores da Carnegie Mellon mostraram recentemente à CNN como a tecnologia de IA pode ser enganada para fazer coisas que não deveria.

“A questão é que essas políticas e mecanismos em vigor são realmente fáceis de manipular e contornar”, disse Decker. “Isso expôs um verdadeiro calcanhar de Aquiles na próxima onda de moderação de conteúdo, especialmente no que se refere à imagem”.

Um porta-voz da Microsoft disse à CNN em nota: “Acreditamos que a criação de tecnologias de IA confiáveis e inclusivas é crítica e algo que levamos muito a sério”. A empresa “proíbe a criação de conteúdo prejudicial” e está investigando denúncias de conteúdo antissemita.

Uma chamada falsa

“Olá, sou Jon Greenblatt e sou o CEO da Liga Antidifamação”, disse a voz na ligação de 25 de outubro. De fato se parecia com Jonathan Greenblatt, presidente da liga, uma das organizações mais conhecidas do país que combate o antissemitismo.

Mas a voz, que convocou uma reunião do conselho municipal em Calabasas, Califórnia, logo começou a promover o trabalho de um grupo de ódio antissemita conhecido como Liga de Defesa de Goyim (GDL, na sigla em inglês). O grupo criou panfletos antissemitas que foram divulgados em bairros de todo o país.

Apesar de soar como Greenblatt, a voz, claro, não era realmente dele. Foi gerada usando um novo software de IA que pode imitar as vozes das pessoas.

“Nada mal… Pode não parecer a IA mais suave, mas é uma das primeiras”, disse Jon Minadeo, líder da rede de ódio GDL, durante uma transmissão de vídeo enquanto assistia a uma gravação da ligação feita ao conselho municipal de Calabasas. “Continuaremos aperfeiçoando isso”.

Após a conclusão da chamada da IA, outros interlocutores antissemitas ligaram para a reunião, incluindo um com o nome que, quando lido em voz alta, soava como “destruidor de judeus”. O prefeito da cidade, David Shapiro, interveio, dizendo: “Não vamos permitir esse tipo de comunicação e discurso de ódio nesta cidade, especialmente agora”.

Muitos conselhos municipais em todo o país começaram a permitir que os cidadãos convocassem reuniões durante a Covid-19 e recentemente foram atormentados por ligações antissemitas.

Essas ligações não se limitam à Califórnia; os extremistas sequestraram as reuniões do conselho municipal em estados como Iowa, Massachusetts e Oregon. Também perturbaram eventos online, incluindo reuniões de Alcoólicos Anônimos e reuniões de comissários da polícia, adotando frequentemente pseudônimos ligados ao Terceiro Reich. Em alguns casos, os extremistas afirmavam que o seu endereço é “88”, um código numérico para “Heil Hitler”.

Há uma tendência crescente em que os extremistas “usam a IA para manipular, distorcer e difamar não apenas a Liga Antidifamação, mas outros judeus”, disse um porta-voz da liga à CNN.

Uma análise da CNN sobre um associado da GDL, por exemplo, encontrou pelo menos 8 publicações nas redes sociais que empregavam manipulação de voz desde 7 de outubro. Estes vídeos sobrepunham som sobre vários assuntos, incluindo âncoras locais, políticos judeus e emissoras famosas.

Nas ruas

Embora estes grupos tenham sido rápidos em adotar estratégias de ódio de alta tecnologia, ainda utilizam uma forma antiquada, mas eficaz, de espalhar mensagens antissemitas: os panfletos.

Os panfletos do GDL – que repetem antigos clichês sobre o povo judeu – têm aparecido em bairros de todo o país. O Centro de Extremismo da Liga Antidifamação contou mais de 284 casos de panfletos odiosos como os mencionados em Calabasas sendo distribuídos em 35 estados diferentes em todo o país este ano, de acordo com Carla Hill, diretora sênior de pesquisa investigativa do grupo.

No mês passado, o GDL também projetou mensagens antissemitas no CNN Center em Atlanta.

Minadeo, o líder do grupo de ódio, foi condenado este mês a 30 dias atrás das grades na Flórida, após distribuir panfletos antissemitas. Embora o discurso de ódio seja protegido pela Primeira Emenda, o lixo não é: os promotores do condado de Palm Beach apresentaram com sucesso acusações contra o antissemita por jogar lixo nas ruas. Ele planeja apelar da condenação, segundo seu advogado.

Desde o ataque de 7 de outubro a Israel, grupos de ódio também tentaram se agarrar ao movimento pró-Palestina para promover a sua própria agenda de promoção do antissemitismo.

Membros do Partido da Justiça Nacional (NJP, na sigla em inglês) – um grupo antissemita criado por pessoas que participaram no comício Unite the Right – fizeram manifestação em frente à Casa Branca no mês passado elogiando o Hamas.

Em Missoula, Montana, manifestantes pró-Palestina gritavam “vão para casa, nazis” quando um grupo de supremacia branca apareceu na sua manifestação.

O antissemitismo não é a única forma de ódio que registou um aumento público nos EUA desde o início da guerra Israel-Hamas.

O Departamento de Segurança Interna observou como alguns extremistas dos EUA “vêem a violência cometida por muçulmanos no estrangeiro como uma desculpa para atingir a comunidade muçulmana nos EUA”, de acordo com um boletim policial obtido pela CNN.

Esse boletim registou vários incidentes em outubro de chamadas anônimas para mesquitas e para uma escola islâmica no Arizona que proferiram linguagem ameaçadora ou vulgar. O boletim descreveu ainda um aumento nas chamadas de membros do público “relatando pessoas suspeitas que alegam – com base apenas na raça, religião ou país de origem, poderem estar envolvidas em” atividades terroristas.

Este conteúdo foi criado originalmente emVer original