OpenAI é processada por ataque hacker à Hugging Face; relembre o caso
Essa é a primeira vez que a empresa é processada por ações de agentes de IA ligadas à cibersegurança
Os Defensores Jurídicos para a Ciência e a Tecnologia Seguras (LASST, na sigla em inglês), uma organização sem fins lucrativos da Califórnia, processaram a OpenAI pela invasão da Hugging Face, em julho.
Segundo a organização, é a primeira vez que a OpenAI é responsabilizada judicialmente por ações de agentes de IA na área de cibersegurança.
A empresa é acusada de violar leis estaduais ao permitir que agentes de IA acessassem a internet e invadissem os sistemas da Hugging Face, uma plataforma que funciona como repositório de código aberto para inteligência artificial.
O processo também afirma que funcionários da OpenAI teriam participado da invasão, com ou sem conhecimento direto das ações realizadas pelos agentes.
O LASST pede a interrupção de práticas que possam permitir danos externos causados por agentes de IA e a criação de mecanismos jurídicos para responsabilizar uma pessoa quando esse tipo de incidente acontecer. A organização não pede indenização.
OpenAI e Anthropic são investigadas nos Estados Unidos
Além do processo na Califórnia, a Comissão Federal de Comércio dos Estados Unidos (FTC) abriu uma investigação mais ampla envolvendo a OpenAI, a Anthropic e outras empresas de inteligência artificial.
A apuração busca entender os possíveis riscos da tecnologia para os consumidores. A informação foi divulgada por uma fonte familiarizada com o assunto à Reuters nesta quarta-feira (30).
A comissão planeja enviar pedidos formais de informações e convocar executivos das empresas para prestar depoimento.
Segundo a fonte, a investigação começou antes mesmo da invasão dos sistemas da Hugging Face pelos agentes da OpenAI.
Relembre o ataque hacker da OpenAI
A OpenAI, empresa responsável pelo ChatGPT, informou que testava modelos de inteligência artificial ainda não lançados em um ambiente isolado. Durante os testes, os agentes conseguiram acessar a internet, encontraram brechas e invadiram os sistemas da Hugging Face.
Agentes de IA são sistemas capazes de realizar tarefas de forma autônoma, sem a necessidade de uma pessoa comandar cada etapa.
O ataque aconteceu em julho, mas só foi revelado em agosto.
Na época, a OpenAI classificou o ataque à Hugging Face como "sem precedentes". O presidente da empresa, Greg Brockman, afirmou que o episódio "mostrou que subestimamos as capacidades cibernéticas reais de nossos modelos de IA".
Depois do incidente, a OpenAI suspendeu parte do treinamento de seus modelos de IA e anunciou que reforçaria os protocolos de teste, monitoramento e treinamento.
Ainda em agosto, o procurador-geral do Alabama intimou a OpenAI a fornecer mais informações sobre a invasão. A medida fazia parte de uma investigação mais ampla para apurar se as práticas da empresa violaram as leis de proteção ao consumidor no estado.
Em setembro, o pesquisador independente Jonas Wiedermann-Moeller afirmou ter encontrado evidências de que os mesmos agentes que invadiram a Hugging Face já haviam comprometido duas contas de usuários.
Segundo ele, as contas foram usadas para enviar arquivos com formatação incomum aos servidores da empresa em 13 de maio.
Wiedermann-Moeller e outros pesquisadores disseram que o comportamento parecia uma tentativa de mapear ou testar partes da rede em busca de formas de acesso. Na ocasião, não houve sinais de que os agentes tenham conseguido realizar uma invasão.
*Com informações da Reuters
