Devagar para os outros

No sábado passado, Dario Amodei, que dirige a Anthropic, publicou um ensaio pedindo que a indústria reduza o ritmo em que os modelos ganham capacidade. Em poucas horas, Sam Altman, Elon Musk e Demis Hassabis concordaram, o que já merece desconfiança vindo de gente que disputa os mesmos clientes, chips e engenheiros.

No domingo, Trump respondeu que quem vence em IA vence tudo. Na segunda, a chancelaria chinesa chamou o texto de alarmismo. E no dia 24 deste mês, Xi e Trump se encontram em Washington.

No meu ponto de vista, vale separar duas perguntas que o ensaio funde de propósito, se o risco existe e a quem serve dizer que ele existe, porque a possibilidade de catástrofe dá a quem fabrica a coisa uma autoridade que ninguém mais consegue contestar.

Sobre o risco, o argumento que todo mundo repete é o de Nick Bostrom, para quem um sistema capaz o bastante perseguiria seus objetivos por meios que não previmos e trataria a nossa tentativa de desligá-lo como mais um obstáculo (paperclip problem, um exercício filosófico que eu recomendo a todos aqueles que gostam de se divertir pensando). Porém, existe uma crítica conhecida, a qual se aplica aqui: o raciocínio de Bostrom, reaquecido agora, converte inteligência em poder de agir sobre o mundo sem explicar a passagem, que é onde tudo se decide.

Veja, um programa não enriquece urânio, não sintetiza um patógeno nem o dispersa numa cidade, porque essas coisas exigem corpo, instalação, insumo controlado e gente treinada. A resposta de que a máquina contrataria humanos não sobrevive a um olhar sobre quem é contratável. Já existem plataformas em que agentes pagam pessoas em criptomoeda para fazer entrega ou tirar foto de um endereço, onde a mercadoria é o freelancer sem acesso a nada, enquanto as poucas pessoas com acesso ao que importa trabalham sob vigilância de Estado.

O que a IA consegue de fato é acelerar programas que já existem, encurtando anos de pesquisa para quem já tem laboratório, o que significa Estado ou grupo com patrocínio de Estado. Isso é um problema de proliferação, tratado desde 1945 com controle de exportação e serviço de inteligência, ao qual uma pausa no treinamento de um modelo em San Francisco não acrescenta nada. O risco realmente próximo é outro e ninguém o chama de existencial.

A própria Anthropic relatou no ano passado que um criminoso com pouca experiência em programação usou seu sistema para montar uma operação de ransomware do começo ao fim. É isso, apontado contra hospital e prefeitura sem equipe de segurança, que deveria pesar na conta de quem vende a ferramenta.

Resta a segunda pergunta. George Stigler ganhou um Nobel mostrando que a indústria pede regulação quando a regulação a protege da concorrência, o que o ensaio faz de três maneiras ao mesmo tempo. A mais imediata é jurídica. Quando um modelo fizer estragos menores nas mãos de um cliente, o que é questão de tempo, o fornecedor vai querer dizer que avisou e que faltou supervisão no uso. Aviso não dá imunidade e pode até piorar as coisas, porque prova que o dano era previsível, mas garante ao fabricante o papel de quem tentou evitar o desfecho, o que pode poupar uns bilhões em multas lá na frente, quando a IA fizer idiotices menores do que acabar com o mundo e sobrarem reguladores para cobrar.

Há também o destinatário. A iniciativa que Trump lançou em junho para os modelos avançados trabalha com compromissos voluntários e exclui licenciamento prévio, então pedir limite a esse governo rende reconhecimento público sem que limite algum entre em vigor. Finalmente, há também o que Pequim apontou prontamente: o mesmo texto que pede desaceleração pede que Washington não venda chips nem equipamento de fabricação à China, persiga a cópia das capacidades dos modelos americanos, calculando que isso ampliaria a vantagem americana nos próximos três a cinco anos.

Os avaliadores externos com crachá e mesa dentro do laboratório, num sistema que o texto quer mediado por Washington, são uma exigência que uma empresa de Hangzhou não pode atender nem que queira, porque abrir processo estratégico à fiscalização do país rival é decisão de Estado que nenhuma companhia toma sozinha.

Seria tudo má-fé? Não creio, mas também não vejo boa-fé pura em lugar nenhum desse debate. Eu aposto que quem vive o dia dentro de um Lab de ponta de IA tenha de fato medo do que está construindo, até porque os agentes de fato saíram do controle em testes recentes. Mas medo e interesse apontam agora para a mesma política, o que recomenda ao bom senso que foque esse segundo, já que o medo dura menos que um ciclo de captação.

Aceitar os fabricantes como árbitros dessa discussão é dar a eles o poder de condicionar a entrada dos rivais enquanto ainda disputam os termos da própria responsabilidade pelos produtos que já vendem. O Brasil, que compra modelos dos dois lados, deveria ler o ensaio como Pequim o leu: como um documento de política comercial que abre falando de ética. E, principalmente, não cair na falácia de publicar o PL da IA (2338/2023) em sua forma atual, altamente restritiva, pois isso vai nos fixar na posição de otários da vez.