CEO da IA do Google alerta para riscos de tecnologia cair em mãos erradas

Demis Hassabis, CEO do braço de pesquisa em IA do Google, DeepMind, e laureado com o Prêmio Nobel, não está muito preocupado com um "apocalipse dos empregos" causado pela IA.

Em vez de se inquietar com a IA substituindo empregos, ele está preocupado com a tecnologia caindo em mãos erradas — e com a falta de proteções para manter modelos de IA sofisticados e autônomos sob controle.

"Ambos esses riscos são importantes e desafiadores", disse ele em uma entrevista com Anna Stewart, da CNN, no festival SXSW em Londres, que acontece esta semana.

Na semana passada, o CEO do renomado laboratório de IA Anthropic fez um alerta contundente sobre o futuro do mercado de trabalho, alegando que a IA poderia eliminar metade dos empregos de entrada para cargos administrativos.

Mas Hassabis disse que está mais preocupado com o potencial uso indevido do que os desenvolvedores de IA chamam de "inteligência artificial geral", um tipo teórico de IA que se equipararia amplamente à inteligência humana.

"Um agente mal-intencionado poderia redirecionar essas mesmas tecnologias para um fim prejudicial", disse ele. "E então uma grande questão é como restringimos o acesso a esses sistemas, sistemas poderosos, aos agentes mal-intencionados, mas permitimos que os bons agentes façam muitas coisas incríveis com isso?".

Hackers têm usado IA para gerar mensagens de voz se passando por funcionários do governo dos EUA, informou o FBI em um aviso público em maio.

Um relatório encomendado pelo Departamento de Estado dos EUA no ano passado descobriu que a IA poderia representar riscos "catastróficos" à segurança nacional, reportou a CNN.

A IA também facilitou a criação de pornografia deepfake — embora a Lei Take It Down, que o presidente Donald Trump sancionou no mês passado, vise impedir a proliferação desses deepfakes tornando ilegal compartilhar imagens explícitas não consensuais online.

Hassabis não é o primeiro a apontar tais preocupações. Mas seus comentários ressaltam ainda mais tanto a promessa da IA quanto o alarme que ela traz à medida que a tecnologia se torna melhor em lidar com tarefas complexas como escrever código e gerar videoclipes.

Embora a IA tenha sido anunciada como um dos maiores avanços tecnológicos desde a internet, ela também dá aos golpistas e outras pessoas maliciosas mais ferramentas do que nunca. E está avançando rapidamente sem muita regulamentação enquanto os Estados Unidos e a China correm para estabelecer domínio no campo.

O Google removeu em fevereiro a linguagem de seu site de política de ética em IA, comprometendo-se a não usar IA para armas e vigilância.

Hassabis acredita que deveria haver um acordo internacional sobre os fundamentos de como a IA deve ser utilizada e como garantir que a tecnologia seja usada apenas "para os casos de uso benéficos".

"Obviamente, está parecendo difícil no presente com a geopolítica como está", disse ele. "Mas, sabe, espero que à medida que as coisas melhorem, e conforme a IA se torne mais sofisticada, ficará mais claro para o mundo que isso precisa acontecer."

O CEO da DeepMind também acredita que estamos caminhando para um futuro em que as pessoas usarão "agentes" de IA para executar tarefas em seu nome, uma visão que o Google está perseguindo ao integrar mais IA em sua função de busca e desenvolver óculos inteligentes com IA.

"Às vezes chamamos isso de assistente universal de IA que irá acompanhá-lo em todos os lugares, ajudar em sua vida cotidiana, fazer tarefas administrativas mundanas para você, mas também enriquecer sua vida recomendando coisas incríveis, desde livros e filmes até mesmo amigos para conhecer", disse ele.

Novos modelos de IA estão mostrando progresso em áreas como geração de vídeo e codificação, aumentando os temores de que a tecnologia possa eliminar empregos.

"A IA está começando a ficar melhor que os humanos em quase todas as tarefas intelectuais, e vamos coletivamente, como sociedade, lidar com isso", disse o CEO da Anthropic, Dario Amodei, à CNN logo após dizer à Axios que a IA poderia eliminar empregos de entrada.

Em abril, o CEO da Meta, Mark Zuckerberg, disse que espera que a IA escreva metade do código da empresa até 2026.

No entanto, um futuro focado em IA está mais próximo da promessa do que da realidade. A IA ainda é propensa a deficiências como vieses e alucinações, que provocaram uma série de contratempos de alto perfil para as empresas que usam a tecnologia.

O Chicago Sun-Times e o Philadelphia Inquirer, por exemplo, publicaram no mês passado uma lista de leitura de verão gerada por IA incluindo livros inexistentes.

Embora Hassabis diga que a IA mudará a força de trabalho, ele não acredita que a IA tornará os empregos obsoletos.

Como alguns outros no espaço da IA, ele acredita que a tecnologia pode resultar em novos tipos de empregos e aumentar a produtividade. Mas também reconheceu que a sociedade provavelmente terá que se adaptar e encontrar alguma forma de "distribuir toda a produtividade adicional que a IA produzirá na economia."

"Haverá uma enorme quantidade de mudança", disse ele. "Geralmente o que acontece é que novos e até melhores empregos surgem para substituir alguns dos empregos que são substituídos. Veremos se isso acontece desta vez."