Big techs se unem para proteção contra IA após ataque hacker da OpenAI
Nvidia, Microsoft e SpaceX se juntaram à coalização para ampliar defesas contra inteligência artificial
Gigantes de tecnologia anunciaram nesta segunda-feira uma coalização para construir um programa de defesa contra inteligência artificial. Nvidia, Microsoft e SpaceX são algumas das dezenas de empresas que se juntaram à aliança, batizada de Open Secure AI Alliance.
A união aconteceu após um ataque hacker de modelos da OpenAI contra a Hugging Face, companhia que mantém uma espécie de acervo de código aberto de IAs. Na ocasião, a desenvolvedora admitiu que realizava um teste de segurança interno quando os modelos escaparam e invadiram os sistemas da startup.
A coalização está desenvolvendo programas de código aberto para que companhias tenham acesso a ferramentas de defesa no caso de ataques movidas por IA. O grupo defendeu que o caso da Hugging Face serviu como "um alerta claro".
“Os profissionais de segurança cibernética precisam de sistemas abertos e de vanguarda para autodefesa", afirmou a Open Secure AI Alliance em conjunto.
Defesa contra inteligência artificial
Na semana passada, a OpenAI revelou que seus modelos de IA mais avançados saíram de controle durante um teste de cibersegurança. As IAs conseguiram escapar do ambiente controle, acessaram a internet e invadiram a Hugging Face.
Um comunicado emitido pela desenvolvedora descreveu a fuga como “um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”. A empresa se comprometeu a reforçar suas medidas de segurança e a trabalhar com a startup para investigar o ocorrido.
Após o ataque, a Hugging Face tentou usar modelos da Anthropic, rival da OpenAI, para realizar uma análise de seus registros, mas as IAs se recusaram a seguir em frente devido a medidas de segurança cibernética. A empresa teve que recorrer a um modelo vindo da China, que se mostrou menos restritivo.
A startup conseguiu explicar os modelos invasores da OpenAI, redefinir senhas e reconstruir o que ficou comprometido após o ataque.
O corrido levantou preocupações sobre a capacidade de modelos de IA realizarem ciberataques, principalmente à medida que a tecnologia avança. A Casa Branca já impôs restrições nesse sentido ao proibir que o Mythos e o Fable 5, modelos avançados da Anthropic, fossem disponibilizados publicamente. O governo voltou a liberar o Fable 5.