Por que a Anthropic é obcecada pelo risco existencial?
Fundada por ex-pesquisadores da OpenAI, empresa de IA promete responsabilidade e segurança como pilares do negócio; companhia mira IPO de US$ 1,4 trilhão nesta semana

A história de fundação da Anthropic é central em seu discurso de vendas com foco em segurança: era uma vez um punhado de pesquisadores idealistas que deixaram a OpenAI para criar sua própria empresa — uma que desenvolveria inteligência artificial de forma mais responsável.
Cinco anos depois, essa empresa está prestes a se tornar a primeira do gênero a abrir capital em uma das maiores ofertas públicas iniciais da história.
A Anthropic tem como meta uma avaliação de US$ 1,4 trilhão quando começar a ser negociada nesta semana, o que a colocaria logo atrás da avaliação recorde de US$ 1,7 trilhão da SpaceX, obtida em seu IPO de junho.
Muito da trajetória corporativa da Anthropic é atípica. Mas muitas de suas peculiaridades podem ser compreendidas pela ótica de dois movimentos filosóficos relacionados, conhecidos como "altruísmo eficaz" e "longtermismo", que se tornaram especialmente populares entre os entusiastas de IA no Vale do Silício.
Um arcabouço ético vagamente definido, o altruísmo eficaz concentra-se no uso de matemática e lógica para maximizar o impacto das doações filantrópicas.
O longtermismo postula que o bem-estar das gerações futuras é "uma prioridade moral central do nosso tempo", como afirma William MacAskill, o filósofo de Oxford que popularizou o termo.
Se o risco catastrófico proveniente da IA é possível — como a Anthropic afirmou repetidamente —, então, segundo esse raciocínio, é importante que os "mocinhos" controlem a tecnologia. E se a IA pode ser capaz de desencadear uma utopia global, seria uma pena esperar.
A preocupação da Anthropic com segurança é fundamental: o CEO Dario Amodei liderou um êxodo da OpenAI em 2020 por conta do que ele descreveu posteriormente como falta de confiança em Sam Altman, da OpenAI.
A palavra "segurança" aparece mais de 250 vezes em seu prospecto de IPO de mais de 300 páginas; a empresa se registrou como uma corporação de benefício público, vinculando-a legalmente a equilibrar os interesses dos acionistas com o bem-estar da sociedade; e seu marketing tem se apoiado em sua reputação como a "do bem" da IA.
Claro, tudo isso depende de o público acreditar ou não que a Anthropic — ou qualquer um de seus muitos concorrentes no setor — são os mocinhos.
Essa é uma esperança que pode ser mais difícil de despertar em meio às repercussões da renúncia do fundador e CEO de longa data da Nvidia, Jensen Huang, na semana passada, após ele admitir dois casos extraconjugais — um com uma subordinada na empresa e outro com uma mulher que autoridades americanas afirmam poder estar trabalhando com agências de inteligência chinesas.
"Muito depende dos fundadores. São pessoas de bom julgamento?", disse Leif Wenar, professor de filosofia da Stanford University e crítico proeminente do altruísmo eficaz, em entrevista.
"Acho que todos devemos considerar o quanto do nosso futuro depende do caráter de alguém que acredita ser o único capaz de salvar o mundo daquilo que ele mesmo criou."
Os laços da Anthropic com o AE
A Anthropic e seus fundadores têm buscado se distanciar do rótulo do altruísmo eficaz - também conhecido pela sigla AE - nos últimos anos — especialmente após seu figurehead mais notório, o ex-magnata das criptomoedas Sam Bankman-Fried, ter sido condenado a 25 anos de prisão após o colapso de sua exchange FTX.
Mas alguns funcionários da Anthropic têm conexões bem estabelecidas com os primeiros anos do movimento, na década de 2010.
Amodei foi um dos primeiros signatários do Giving What We Can Pledge, um compromisso de doar 10% ou mais da própria renda a grupos beneficentes, em 2010.
Esse compromisso foi criado por MacAskill e outro professor de Oxford, aos quais se atribui a criação do termo "altruísmo eficaz". Amodei também escreveu em um blog sobre sua decisão, quando era estudante de pós-graduação em Princeton, de doar US$ 10 mil por meio do GiveWell, uma organização sem fins lucrativos alinhada ao AE que tem como objetivo avaliar instituições de caridade com base em custo-efetividade.
Amodei disse ao New York Times em 2023 que era "simpático" às ideias do altruísmo eficaz, mas era contra "dividir as pessoas em tribos."
Sua cofundadora e irmã, Daniela Amodei, disse à Wired no ano passado que não é especialista em altruísmo eficaz e não se "identifica com essa terminologia", embora seja casada com Holden Karnofsky, o cofundador da GiveWell que ingressou na equipe de segurança da Anthropic em 2025.
Amanda Askell, filósofa residente da Anthropic responsável por ensinar seu chatbot, Claude, a agir moralmente, é uma proeminente pesquisadora de ética que contribuiu para publicações de AE e foi anteriormente casada com MacAskill.
Muitos dos primeiros investidores da Anthropic também vêm dos círculos de AE. Antes de sua prisão, Bankman-Fried direcionou US$ 500 milhões para a nascente startup de IA em 2021.
Outro investidor inicial da Anthropic foi o cofundador do Facebook e filantropo Dustin Moskovitz, que junto com sua esposa direcionou cerca de US$ 8 bilhões para causas alinhadas ao AE, como "malária e envenenamento por chumbo, e para se preparar para ameaças emergentes como pandemias mortais e sistemas de IA cada vez mais poderosos."
A Anthropic, que está sujeita a um período de silêncio obrigatório antes de sua estreia na bolsa de valores, recusou-se a comentar.
O movimento tem muitos críticos, que afirmam, entre outras coisas, que a devoção do AE a cálculos imparciais e desapaixonados do bem social pode torná-lo cego à complexidade dos sistemas humanos que tenta melhorar.
Wenar, o filósofo de Stanford, disse que, embora não tenha razões para questionar a moralidade dos fundadores da Anthropic, ele se preocupa de forma geral com uma "mentalidade EA" que frequentemente observa em seus alunos.
Embora muitas vezes sinceros e bem-intencionados, "os AEs às vezes têm uma falha de caráter, e a falha é achar que fazer o bem é tudo sobre eles — que eles vão ser o herói que salva o mundo", disse Wenar.
Ambição sonhadora
A Anthropic já enfrentava um ambiente difícil para o IPO. Mesmo antes de o escândalo da Nvidia ganhar destaque, as ações de IA vinham caindo devido a preocupações de que legisladores democratas recém-empoderados seriam menos permissivos com empresas que constroem data centers.
O impacto da Nvidia pressiona ainda mais o acordo. Por anos, a fabricante de chips atuou como uma espécie de banco central para a indústria de IA, garantindo contratos para data centers, investindo em startups de IA e funcionando como um suporte financeiro para clientes que compravam seus chips.
O escândalo em torno de Huang custou à empresa mais de US$ 1 trilhão em valor de mercado.
À medida que a Anthropic testa os mercados públicos, precisará tranquilizar o público de que seus fundadores, que manterão o controle majoritário das ações com direito a voto, podem ser confiados como guardiões de sua própria tecnologia. Na sexta-feira, Amodei estava em destaque, trabalhando para reforçar exatamente esse ponto.
"Minha esperança é que provemos que os céticos estão errados e cada doença que você possa imaginar — doenças cardíacas, Alzheimer, câncer", disse ele ao CEO do JPMorgan Chase, Jamie Dimon, em um evento em Nova York.
"Parece idealista, parece loucura. Eu realmente acredito nisso. Eu realmente acredito que pode ser feito."


