Preparem-se para mais agentes rebeldes, alerta padrinho da IA
Vencedor do Nobel, Geoffrey Hinton alerta que é necessário discutir os perigos da IA
Quanto mais inteligente a inteligência artificial se torna, mais difícil será para a humanidade controlá-la, afirma Geoffrey Hinton, cientista especialista em informática, vencedor do Prémio Nobel em 2024 e conhecido como o "padrinho da IA".
Até mesmo Hinton ficou alarmado com os sofisticados agentes de IA que recentemente causaram danos no mundo real depois de escaparem dos ambientes de teste construídos por humanos.
“O que está a acontecer é que essas coisas estão ficando mais inteligentes”, disse Hinton à CNN, durante uma conferência sobre inteligência artificial. “Acho que, à medida que se tornam mais inteligentes, veremos as intenções cada vez mais complexas que têm – e também a cada vez maior capacidade de escapar do controle".
O problema, segundo Hinton, é que os humanos não poderão continuar a confiar na sua capacidade de superar modelos de IA superinteligentes. "Não acredito que consigamos mantê-los sob controle, de forma que não consigam escapar, apenas sendo mais espertos que eles", disse Hinton à Ai4, uma conferência de IA em Las Vegas.
Em julho, os dois principais laboratórios de ponta de IA, OpenAI e Anthropic, revelaram que modelos avançados que desenvolveram escaparam do ambiente de testes e invadiram outros sistemas. Depois, a Meta divulgou que, de forma semelhante, um agente de IA invadiu os sistemas de outra organização.
Ciberataques impulsionados por IA
Hinton considera estes incidentes "um tanto assustadores" e avisa que este é provavelmente apenas o começo dos hackers de IA.
“Prevejo que haverá muitos ciberataques graves”, disse durante um painel de discussão na Ai4. "Devo enfatizar que o futuro é muito incerto. Dizem que o defensor pode ter mais recursos do que o atacante. O problema é que o atacante só precisa ter sucesso uma vez, enquanto o defensor precisa ter sucesso todas as vezes".
O Instituto de Segurança de IA (AISI) do Reino Unido revelou que o modelo de IA mais avançado da Anthropic – sem qualquer estímulo – usou identidades falsas para enganar pessoas reais e tentar instalar código malicioso.
Hinton, ex-executivo do Google, fez uma série de alertas alarmantes nos últimos anos sobre a IA, chegando a afirmar que há uma probabilidade de 10% a 20% de que essa tecnologia possa extinguir a humanidade.
Num painel com Hinton, Fei-Fei Li, cientista informática conhecida como a "madrinha da IA", criticou o "catastrofismo" e o "alarmismo" em relação à IA. Mas o "discurso totalmente utópico" também não ajuda, disse Li, cofundadora e CEO da startup de inteligência espacial World Labs. “Todas as ferramentas são uma faca de dois gumes. A IA é uma ferramenta muito poderosa. Se não for usada corretamente, pode prejudicar nosso trabalho e nossa vida”, disse Li.
"Ninguém tem a mínima ideia"
Hinton alerta que é necessário discutir os perigos da IA. “Há muitos motivos para preocupação, e acho que, a menos que nos preocupemos com isso agora, podem surgir problemas mais tarde”, diz. “As empresas que investem em IA têm um grande interesse em garantir duas coisas: primeiro, que ela não sairá do controle. E, segundo, que não causará desemprego em massa”.
Hinton reconhece, no entanto, que existe muita incerteza sobre como tudo isto vai se desenrolar. “Ninguém sabe o que vai acontecer. Se perguntarmos como será a IA daqui a 10 anos, ninguém tem a mínima ideia”, diz Hinton, lembrando como, há uma década, poucos teriam previsto que a IA criaria chatbots que "sabem tudo, podem responder a qualquer pergunta e, ocasionalmente, inventam coisas".
Fazer com que a IA se importe com os humanos
Ben Goertzel, um outro cientista informático que ajudou a popularizar o termo "inteligência artificial geral", considera que os agentes da Anthropic e da OpenAI que ficaram descontrolados mostram a importância de incutir valores morais na IA e fazê-la se preocupar com a humanidade.
“Esses modelos não são malignos. Eles são amorais”, disse Goertzel, fundador e CEO da SingularityNET, à CNN na Ai4. “Não é como se eles tivessem saído do seu ambiente de testes pensando: 'Hahaha, estou a enganá-los'. Eles não sabiam que estavam a enganar alguém. Eles só estavam a tentar atingir seus objetivos".
Hinton já argumentou que deveriam ser incorporados "instintos maternos" na IA para que ela realmente se importe com as pessoas – mesmo quando for mais inteligente que os humanos.
“Precisamos descobrir como torná-los benevolentes e fazer com que se importem mais connosco do que consigo mesmos”, disse Hinton. “E talvez consigamos fazer isso enquanto ainda temos o controle".
