Superinteligência obriga Trump e Xi Jinping a conversar

Dois dias depois de chamar a inteligência artificial de “superinteligência” na ONU, Donald Trump ouviu Xi Jinping dizer, na Casa Branca, que ela deve permanecer sob controle humano. Talvez tenha sido o trecho mais importante do encontro.

Na Casa Branca havia bandeiras, banda militar, o protocolo das grandes potências e todos os assuntos previsíveis sobre a mesa. Comércio, Taiwan, segurança, tecnologia.

No meio deles, Xi Jinping pronunciou uma frase que poderá sobreviver ao resto do encontro: Estados Unidos e China têm a responsabilidade de garantir que a inteligência artificial permaneça sob controle humano.

Trump, segundo o relato oficial chinês, concordou que a IA diz respeito ao futuro da humanidade e que os dois países devem manter o diálogo sobre o tema.

Dois dias antes, na Assembleia Geral das Nações Unidas, Trump havia escolhido uma linguagem muito diferente. Rebatizou a inteligência artificial de “superinteligência”, declarou que os Estados Unidos lideravam a corrida e rejeitou aquilo que chamou de um esquema global de controle da tecnologia.

Entre uma afirmação e outra existe uma tensão que vale mais do que qualquer fotografia diplomática: a maior potência tecnológica do Ocidente quer correr sem impedimentos internacionais, mas começa ao mesmo tempo a admitir que há riscos que não consegue administrar sozinha.

É aqui que a rivalidade entre Estados Unidos e China começa a mudar de natureza.

Durante anos discutimos quem teria os melhores chips, os maiores modelos, mais data centers, mais energia e mais capacidade de transformar inteligência artificial em poder econômico e militar.

Agora começa a surgir outra camada: o que acontece quando aquilo que os dois lados tentam dominar se torna suficientemente poderoso para produzir riscos comuns aos dois.

Dias antes do encontro, Washington já havia proposto a Pequim um mecanismo bilateral de notificação para incidentes graves de inteligência artificial.

Especialistas americanos e chineses discutem também linhas vermelhas, canais diretos de comunicação e a necessidade de impedir que sistemas autônomos interfiram sem supervisão humana em infraestruturas críticas ou decisões militares.

Nada disso constitui ainda um acordo entre os governos. Mas a linguagem começa a parecer familiar.

Foi assim que a era nuclear acabou por criar uma diplomacia própria. A comparação deve parar aí: uma inteligência artificial não é uma bomba atômica. Mas existe uma semelhança política importante.

Quando a capacidade de destruição ou desestabilização ultrapassa determinado ponto, adversários descobrem que competir já não basta. Precisam também de regras para impedir que a própria competição produza uma catástrofe.

Com a IA, o problema pode ser ainda mais sutil. O perigo não exige imaginar máquinas tomando palácios presidenciais.

Basta que decisões sobre finanças, transportes, energia, cibersegurança ou defesa passem a depender de sistemas capazes de agir numa velocidade superior àquela em que governos conseguem compreender, negociar e corrigir erros.

Essas preocupações já fazem parte das discussões entre os países sobre segurança tecnológica.

Por isso, talvez a frase mais importante desta visita de Estado não tenha sido sobre tarifas, investimentos ou Taiwan. Foi a afirmação quase elementar de que a inteligência deve continuar subordinada ao homem.

Há uma ironia histórica nisso. Estados Unidos e China gastam fortunas para construir a inteligência mais poderosa do planeta. Cada um deseja chegar primeiro. Quanto mais perto estiverem de consegui-lo, porém, maior poderá tornar-se a necessidade de conversar.

A primeira grande regra da era da "superinteligência" talvez não venha a decidir quem vence a corrida. Talvez tenha apenas de garantir que, quando alguém vencer, ainda exista alguém capaz de mandar no vencedor.