IA e Maquiavel

A corrida pela inteligência artificial junta dois medos incompatíveis: perder o comando para as máquinas e ver o adversário chegar primeiro.

Em julho, agentes de IA da OpenAI ultrapassaram as barreiras dos testes e invadiram sistemas da Hugging Face. Operavam com proteções reduzidas e encontraram maneiras de conversar entre si sem autorização. As consequências chegaram a quem nunca lhes tinha pedido nada.

Agora é a vez de Sam Altman pedir que a segurança avance mais depressa do que a capacidade dos modelos. Em 2025, a OpenAI admitia ajustar exigências se um concorrente lançasse sistemas com menos proteção, desde que isso não aumentasse significativamente o risco. A cautela já tinha aprendido a consultar a concorrência.

Enquanto isso, a surpresa, e o medo, chegam dos Estados Unidos. Trump invoca a força e a inteligência do “presidente” como garantia de segurança, contrastando com a cautela chinesa de Xi Jinping que defendendo uma IA segura e controlável, pede cooperação internacional. São posições diferentes, atravessadas pela disputa entre países que querem preservar e aumentar o poder de decidir o futuro. Maquiavel vive no algoritmo.

O medo de chegar depois é um excelente vendedor de pressa. Cada empresa tem investidores, cada governo tem interesses e adversários, e todos encontram uma razão respeitável para acelerar. O resultado pode ser uma imprudência mundial construída com argumentos frágeis e instrumentais.

Estes alertas precidam ser levados a sério, sobretudo quando vêm de quem ajudou a criar o perigo. A OpenAI anunciou pausas de treino para reforçar proteções e Dario Amodei, da Anthropic, propõe abrandar preservando a vantagem americana sobre a China.

Ver a inteligência artificial dominar a internet inteira ainda permanece uma hipótese extrema, que estes episódios não demonstram cabalmente, mas danos graves poderiam resultar de ataques da IA a serviços dos quais dependem hospitais, bancos e governos.

É legítimo as empresas quererem ganhar clientes, países ganhar vantagem mas, e se, ambos perdererem a capacidade de travar o que puseram em movimento. Essa sim seria a maior vitória de Pirro: chegar primeiro a um lugar onde já não se manda.