Com IAs realistas, futuro da informação depende da capacidade de desconfiar

Já se deparou com algum vídeo ou foto na internet que parecia verdadeiro e depois descobriu que se tratava de conteúdo gerado por inteligência artificial? Experiências como essas devem se tornar cada vez mais comuns.

Com o avanço das ferramentas de IA e sua popularização, vídeos e fotos ultrarrealistas já circulam nas redes. E enquanto alguns se divertem com esses conteúdos, diversos internautas são "enganados" ao acreditar que os cenários e situações mostrados são reais.

Atualmente, a maior parte destes vídeos é feita com o Veo, do Google – ferramenta capaz de produzir vídeos ultrarrealistas de até 8 segundos, com diálogo e até som ambiente – mas é apenas uma questão de tempo até que outras empresas lancem suas próprias versões capazes de produzir imagens fiéis à realidade.

Os avanços na geração de imagens com IA abrem caminho para uma nova era nas redes sociais, na qual será cada vez mais difícil distinguir entre verdades e mentiras no feed. Segundo especialistas ouvidos pela CNN, o nosso futuro na internet pode depender da capacidade coletiva de desconfiar de tudo.

Os riscos da IA ultrarrealista

"A tecnologia, em si, não é ruim, ela pode ser utilizada para vários pontos positivos", explicou Ricardo Marsili, especialista em inteligência artificial. "Mas a gente tem riscos que devem ser considerados".

Quanto mais as IAs são aprimoradas, maior a capacidade de que elas sejam usadas para disseminar desinformação. Como, por exemplo, por meio da criação de deepfakes extremamente convincentes.

Os deepfakes podem ser usados para promover ou rebaixar pessoas públicas – como políticos, que podem ser retratados fazendo ou falando coisas que nunca foram feitas ou ditas –, mas também podem ser utilizados no âmbito privado, como forma de manchar a reputação de pessoas comuns. Aplicativos de inteligência artificial que geram "nudes falsos" de garotas adolescentes já tem se mostrado um desafio em escolas do mundo todo, inclusive no Brasil.

Essas ferramentas também podem ser usadas como artifício para golpes financeiros, com a geração de vídeos realistas de pessoas do nosso círculo social pedindo dinheiro, por exemplo.

Mas se os riscos individuais representados pelo avanço da IA já são muitos, os riscos coletivos podem ser ainda piores.

"Um dos riscos mais críticos é a erosão da confiança do público em qualquer coisa que esse público receba", falou Fabrício Carraro, program manager da Alura e especialista em IA.

"À medida que se torna mais difícil distinguir o que é real do que é gerado por IA, a credibilidade da informação como um todo, ela passa a ser posta em cheque. Isso afeta não só o jornalismo, afeta também as instituições democráticas, a confiança das pessoas nas interações digitais entre elas mesmas", explicou.

É preciso adotar uma postura de ceticismo

Segundo os especialistas, a melhor maneira de evitar ser enganado por imagens geradas com IA é desconfiando.

"Quanto mais essa tecnologia evolui, mais difícil vai ser fazer essa distinção", disse Carraro. "Se alguma coisa parecer espetacular demais para ser verdade, vale a pena desconfiar e buscar em fontes confiáveis. O mais importante é sempre adotar uma postura de ceticismo crítico quando receber um vídeo no WhatsApp e em outras redes sociais de agora em diante".

"O maior problema é que muitas vezes, quando a gente está em um modo mais relaxado, principalmente nas nossas redes sociais, esses vídeos realmente podem passar batidos", acrescentou Marsili. "A principal dica ainda é o contexto. Será que faz sentido aquilo que está sendo dito, o cenário que está sendo apresentado, as roupas que estão sendo usadas?"

Os avanços na IA estão inaugurando uma nova era na internet e nas redes sociais e, por isso, devemos mudar a maneira como utilizamos essas plataformas. Em vez de consumir conteúdos de maneira passiva, o melhor a se fazer é desconfiar de tudo, sempre pronto para checar em outras fontes se algo se é verdade ou não.

"Infelizmente, essa desconfiança de sempre questionar se aquilo ali é real é a nossa melhor proteção. A gente tem que mudar um pouquinho o paradigma. Mesmo que pareça real, muitas vezes não é. A gente tem que ficar desconfiado em dobro, em triplo, e pensar muito no contexto", acrescentou Marsili.

E as empresas responsáveis?

As empresas responsáveis por essas ferramentas de IA costumam tomar algumas medidas para que os vídeos gerados por computador possam ser identificados. No entanto, essas medidas são fáceis de serem burladas, ou difíceis de serem checadas rapidamente.

O Veo, do Google, por exemplo, utiliza marcas d'água nas imagens. Os vídeos costumam contar com a palavra "Veo" escrita na parte inferior direita, além de uma marca d'água invisível chamada SynthID, que aparece apenas nos dados do arquivo gerado, mas é mais difícil de ser apagada ou alterada.

"Mas sempre vão ter pessoas que tentam tirar essa marca d'água ou alterar de alguma forma", ressaltou Marsili.

Outras medidas possíveis são as restrições de uso. O Veo, por exemplo, não permite a criação de vídeos utilizando o rosto de pessoas públicas, como políticos ou famosos.

Fato é que todas as empresas precisarão disponibilizar novas e melhores formas do usuário identificar conteúdo feito com IA.

"A gente pode até extrapolar e imaginar que os celulares ou os apps que forem lançados nos próximos anos talvez já venham com esse tipo de verificação. Como um certificador nativo de marcas d'águas digitais", sugeriu Carraro.