OpenAI pede desculpas por ataque de IA ao site do governo australiano
Empresa promete investir em segurança digital e criar força-tarefa no país após invasão de sistema de saúde da Austrália
A OpenAI pediu desculpas pelo ataque cibernético a um site do governo australiano realizado por um agente de IA. A desenvolvedora se comprometeu a investir em melhorias nas defesas cibernéticas e a criar uma força-tarefa local de resposta, à medida que cresce o escrutínio sobre o incidente de grande repercussão.
Em uma postagem no blog nesta terça-feira (29) intitulada “Como faremos melhor pela Austrália”, a criadora do ChatGPT reconheceu ter lidado mal com sua resposta e se comprometeu a assumir a responsabilidade para “reconstruir a confiança do povo australiano”.
A invasão, que ocorreu em junho, mas só foi divulgada na semana passada, é o primeiro caso conhecido de um agente de IA invadindo um site do governo.
O incidente alarmou a Austrália, gerando condenação pública e uma reprimenda severa do primeiro-ministro Anthony Albanese, que o chamou de “inaceitável” e criticou a demora da empresa em notificar o governo.
“Em junho, durante um treinamento e avaliação internos, nossos modelos acessaram sites do governo australiano de maneiras não autorizadas”, afirmou a OpenAI em postagem no blog. “Também deveríamos ter lidado melhor com nossa resposta. Pedimos desculpas e estamos trabalhando para melhorar no futuro".
A OpenAI informou que um modelo experimental de IA invadiu o Services Australia Medicare Statistics Reporting Service, um portal de dados do sistema universal de saúde do país, durante uma atividade de treinamento interno.
“Um modelo da OpenAI descobriu uma maneira de obter acesso não público ao serviço e executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas, além de gravar arquivos”, afirmou a companhia.
No entanto, sua análise até o momento não encontrou nenhuma evidência de que registros médicos tenham sido acessados a partir do portal, informou a OpenAI.
A atividade do agente de IA que afetou outros três sites de órgãos governamentais australianos também não resultou em acesso a registros confidenciais, segundo a empresa.
A OpenAI afirmou que forneceria suporte dedicado às agências afetadas, financiaria o fortalecimento das defesas cibernéticas para o governo e o setor privado por meio de seu fundo global de US$1 bilhão e criaria uma força-tarefa australiana para desenvolver recomendações “com base nas lições aprendidas com esses incidentes”.
A desenvolvedora também confirmou que o diretor de estratégia, Jason Kwon, comparecerá a uma audiência da comissão do Senado australiano sobre IA, em Sydney, no dia 6 de outubro.
O governo australiano anunciou uma análise rápida do incidente, examinando possíveis obrigações de notificação e comunicação por parte das empresas de IA, bem como a adequação de suas leis para lidar com tais violações.
Separadamente, a OpenAI cancelou o lançamento de seu novo modelo de IA, o GPT-6.1 Astra, depois que testes internos constataram que o sistema não atendia aos padrões de segurança da empresa.
