Califórnia processa OpenAI por ciberataques de IA contra a Hugging Face

Estado é o primeiro a mover ação contra empresa de IA por ataques hackers

Diana Novak Jones, da Reuters

O procurador-geral da Califórnia, Rob Bonta, disse nesta segunda-feira (16) que seu escritório processou a OpenAI, acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados. A ação vem após relatos de que os modelos de IA realizaram ataques cibernéticos de forma independente.

O processo é o primeiro movido por um estado em relação aos ciberataques, que atraíram grande atenção desde a revelação, em julho, de que um agente autônomo, alimentado por modelos avançados da OpenAI, se descontrolou durante um teste de segurança e invadiu o sistema da startup de IA Hugging Face.

A ação, apresentada em um tribunal estadual em São Francisco, acusa a empresa de violar a lei de proteção ao consumidor da Califórnia e de criar um incômodo público ao colocar em risco a segurança pública.

“O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilidade — e este foi apenas um dos 80 incidentes conhecidos”, disse Bonta em um comunicado.

Após o incidente com a Hugging Face, a OpenAI afirmou em uma postagem no blog que a fuga foi "um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração".

A OpenAI reconheceu a necessidade geral de maior transparência em relação a comportamentos inadequados de IA e afirmou estar reforçando suas medidas de segurança. Em 16 de setembro, a empresa publicou uma nova estrutura para a divulgação desses incidentes, afirmando que priorizaria a transparência "mesmo quando a importância for incerta".

Pressão de montagem para regulação de IA

A OpenAI e outras empresas de IA divulgaram uma série de outras fugas de agentes de IA, muitas vezes semanas ou meses após terem ocorrido. E, em alguns casos, somente depois de serem descobertas por pesquisadores independentes.

O governo Trump e os legisladores americanos enfrentam crescente pressão para lidar com o risco, particularmente para os setores de energia e bancário e para os serviços de emergência.

Os legisladores dos EUA estão debatendo a regulamentação da IA, com alguns propondo um projeto de lei que exigiria que os desenvolvedores dos modelos de IA mais poderosos os submetessem a auditorias de segurança independentes.

A OpenAI também enfrenta processos judiciais de vários outros estados relacionados à segurança de seus modelos. No mês passado, um grupo bipartidário de oito estados processou a desenvolvedora em tribunais de todo o país, alegando que o ChatGPT instruía usuários, incluindo adolescentes, a se machucarem ou machucarem outras pessoas.

A empresa também é alvo de processos judiciais movidos por pessoas que alegam terem sido prejudicadas pelas ações do chatbot, incluindo mais de 30 processos relacionados ao massacre ocorrido em Tumbler Ridge, Colúmbia Britânica, em fevereiro. Um porta-voz da companhia classificou o massacre como uma tragédia e afirmou que a OpenAI reforçou as medidas de segurança do ChatGPT.

 

Acompanhe Economia nas Redes Sociais