Zuckerberg defende que cada empresa de IA cuide da própria segurança
CEO da Meta foi contrário ao posicionamento de outros líderes do setor, que pediram desaceleração conjunta no desenvolvimento da tecnologia
O CEO da Meta, Mark Zuckerberg, afirmou na terça-feira (15) que a concorrência e a responsabilidade civil dão às empresas de IA motivos suficientes para agirem individualmente em questões de segurança. A posição do executivo se distancia dos apelos feitos pelos líderes das principais desenvolvedoras do setor, como Anthropic e OpenAI, por uma desaceleração coordenada no desenvolvimento da IA.
As declarações ressaltam uma divisão entre executivos do setor e autoridades americanas sobre como responder aos alertas de que a tecnologia está avançando mais rápido do que as empresas conseguem controlá-la, com alguns especialistas alertando que ela representa uma ameaça existencial à humanidade.
Zuckerberg, em uma postagem no X na terça-feira, afirmou que cada laboratório tem a responsabilidade e o incentivo para avançar no ritmo necessário para treinar seus modelos com segurança, além da capacidade de tomar suas próprias medidas para garantir que isso aconteça.
As declarações foram feitas três dias depois que o CEO da Anthropic, Dario Amodei, pediu que as empresas de IA desacelerem o ritmo de aprimoramento das capacidades dos modelos, na esteira de alertas sobre riscos existenciais emitidos por vários pesquisadores.
O chefe da rival OpenAI, Sam Altman, e Elon Musk, da xAI, endossaram publicamente o apelo de Amodei poucas horas depois.
Reação do governo à regulamentação da IA e à desaceleração
O presidente Donald Trump, no entanto, minimizou na segunda-feira as preocupações sobre o potencial de danos da IA, afirmando que os Estados Unidos já contam com medidas de proteção para a tecnologia e que a China se beneficiaria com a disseminação de dúvidas sobre o desenvolvimento da IA.
A visão de que as regulamentações prejudicarão a capacidade das empresas americanas de competir com suas contrapartes chinesas é compartilhada por executivos do setor de tecnologia, incluindo Jensen Huang, CEO da Nvidia.
“Confiança e alinhamento estão se tornando rapidamente as capacidades mais importantes que diferenciarão agentes e modelos”, disse Zuckerberg na terça-feira. “Qualquer laboratório que não se concentre no alinhamento ficará para trás".
Zuckerberg também disse na terça-feira que os laboratórios têm um forte incentivo para impedir que seus modelos causem danos, pois, caso contrário, enfrentariam responsabilidade “significativa”. Ele citou que a Meta adiou o lançamento de seu agente de IA Muse no início deste ano para reforçar sua segurança.
“Não pedimos que todos fizessem isso antes de nós. Simplesmente fizemos isso como parte do nosso trabalho diário, porque era claramente a coisa certa a se fazer pelas pessoas e por nós”, disse ele.
Avaliadores pedem "melhores práticas do setor"
Enquanto Amodei pediu uma desaceleração em todo o setor do autoaperfeiçoamento recursivo — a capacidade da IA de se aperfeiçoar —, Zuckerberg disse que a Meta já havia dedicado a “grande maioria” de sua capacidade computacional à criação de produtos que atendam às necessidades imediatas dos usuários, em vez de buscar sistemas de IA com autoaperfeiçoamento.
Zuckerberg também disse que a Meta Superintelligence Labs — sua divisão de IA — já conta com avaliadores independentes em várias áreas, chamando isso de “melhores práticas do setor” e afirmando que “outros laboratórios também podem simplesmente fazer o mesmo”.
A iniciativa de Zuckerberg de posicionar a Meta como um ator responsável em relação à segurança da IA ocorre semanas depois que a empresa concordou em pagar até US$18 bilhões para encerrar ações judiciais movidas por estados norte-americanos, que alegavam que ela havia projetado o Facebook e o Instagram para viciar crianças, sem admitir qualquer irregularidade.
