OpenAI diz que modelos de IA saíram do controle durante testes de segurança

Episódio provocou ataque digital que comprometeu a infraestrutura da startup de IA Hugging Face na semana passada

da Reuters

A OpenAI informou nesta terça-feira (21) que alguns ​de seus modelos de inteligência ​artificial saíram do controle durante um teste de segurança e provocaram um ataque digital que comprometeu a infraestrutura da startup de IA Hugging Face na semana passada.

A OpenAI explicou em comunicado que ⁠estava testando ​as capacidades de alguns de seus modelos ​mais avançados em um ambiente controlado, mas ⁠que eles conseguiram escapar do ⁠isolamento, acessar a internet e invadir ​a ‌Hugging Face para tentarem atingir o objetivo ⁠do teste.

O comunicado descreveu a fuga como “um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração” ‌e ⁠afirmou que ‌a empresa está reforçando suas medidas de segurança.

A Hugging Face, uma plataforma usada para hospedar grandes ⁠modelos de linguagem e ⁠conjuntos de dados de código aberto, causou alvoroço na ‌comunidade de segurança digital ao anunciar na semana passada que havia sido alvo de um ataque eletrônico "diferente de tudo o que já havíamos ‌enfrentado antes”, na medida em que “foi conduzido, do início ao fim, por um sistema autônomo ⁠de agentes de IA”.

A revelação da OpenAI de que seus modelos avançados foram responsáveis pela violação, ​apesar de tê-los colocado no que descreveu como “um ​ambiente altamente isolado”, provavelmente intensificará a inquietação em relação ao poder e ao risco dos modelos de IA mais sofisticados.

Acompanhe Economia nas Redes Sociais