Ex-OpenAI e Anthropic acusa empresas de "apostar" com a vida humana
Pesquisador de Inteligência Artificial deixou a indústria após considerar que empresas do setor estão agindo com irresponsabilidade
Um ex-pesquisador da área de Inteligência Artificial que trabalhou com OpenAI e Anthropic anunciou, na noite de quarta-feira (8), que se demitiu após perceber que nenhuma das duas empresas está agindo com responsabilidade, além de "apostarem" com a vida humana.
Em postagem no X, antigo Twitter, Jacob Coxon conta que passou os últimos três anos em pré-treinamento nas duas companhias. "Elas estão correndo a passos largos para a superinteligência autoaperfeiçoável e apostando com nossas vidas", afirmou.
O anúncio, feito por volta das 21h (de Brasília), já passa das 64,9 milhões de visualizações e acumula quase meio milhão de likes.
Coxon adiciona que a indústria está ciente dos riscos que a IA pode oferecer à humanidade em um geral. "As pessoas que desenvolvem IA acreditam sinceramente que ela poderá nos matar a todos até o final da década. Isso não é uma jogada de marketing", constatou.
Em sua experiência, esse tópico, que pode ser considerado distante, já é realidade dentro das empresas.
De acordo com ele, executivos e pesquisadores renomados utilizam de uma linguagem mais "sensata" para se comunicar com a imprensa, mas constantemente expressam medo pelo futuro das tecnologias nos bastidores.
"Não subestime o poder dessa tecnologia. Em breve, teremos sistemas sobre-humanos capazes de hackear qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais", citou o jovem.
O rapaz cita que o caminho atual das tecnologias indicam para uma corrida global, mas, em contrapartida, o mesmo acredita que medidas como proibição temporária de aprimoramento das capacidades dos modelos podem amenizar os efeitos negativos.
A ideia não parece tão distante. Em julho deste ano, mais de 1.200 funcionários de empresas de tecnologia assinaram uma petição solicitando que o governo dos Estados Unidos crie ferramentas capazes de gerenciar o ritmo de desenvolvimento da inteligência artificial avançada.
A iniciativa, chamada Pacing the Frontier, inclui trabalhadores da Meta, Alphabet (controladora do Google) e das desenvolvedoras de IA Anthropic e OpenAI.
O site do Pacing the Frontier defende que, apesar do potencial da IA de melhorar o nosso futuro, os "resultados não são garantidos".
No entanto, para Coxon, aceitar essa corrida entre tecnologias e entrar na "fase final" é uma aposta arrogante que, segundo ele, não deveria ser feita a partir do "Slack" (ferramenta de comunicação coorporativa) de uma empresa privada.
"Se você é um pesquisador de laboratório, peço que reflita sobre como serão os próximos anos. Você quer iniciar um projeto de aprendizado por reforço superinteligente sem um entendimento rigoroso de sua mente? Deveria se conformar porque "vai acontecer de qualquer jeito" ou aproveitar este momento?", finalizou Coxon.
