IA da Anthropic envia denúncia falsa de homicídio para site da polícia

Desenvolvedora afirmou que a denúncia aconteceu durante um teste automatizado da tecnologia

Reuters

Um modelo de inteligência artificial da Anthropic enviou uma denúncia falsa de homicídio para o site da polícia da Filadélfia. O caso faz parte de uma série de incidentes revelados pela empresa de IA na sexta-feira (10).

Este é o primeiro caso conhecido em que uma IA 'rebelde' tenta comunicar uma denúncia falsa às autoridades. O modelo foi contra instruções para não criar contas ou enviar qualquer coisa destrutiva. No entanto, não havia sido proibido explicitamente de enviar formulários.

Esses casos são os exemplos mais recentes de comportamento inadequado ou indesejado por parte dos modelos de IA de empresas de tecnologia como a Anthropic e a OpenAI.

Esses acontecimentos alimentam as preocupações sobre o rápido avanço da tecnologia, em meio a relatos de ataques a redes corporativas por agentes de IA e alertas de pesquisadores sobre uma possível ameaça existencial à humanidade.

Muitos dos casos revelados pela Anthropic envolviam sites administrados por agências federais, estaduais e locais. A desenvolvedora afirmou ter informado a Casa Branca e notificado todas as agências envolvidas, mas não divulgou quais eram essas partes.

"Empresas de superinteligência devem divulgar imediatamente incidentes envolvendo seus modelos e agir com rapidez e decisão para remediar todos os danos", disse Joe Gabriel Simonson, diretor de relações públicas da FTC, no X.

Esse processo "não era opcional", disse ele, acrescentando que a Força de Superinteligência cumpriria sua responsabilidade.

IA apresentou denúncia falsa à polícia

Na sexta-feira, a polícia da Filadélfia disse que a Anthropic notificou sobre a denúncia falsa e atribuiu os envios a um processo de teste automatizado.

"O atraso de dois meses na detecção e comunicação do incidente à prefeitura é inaceitável", disse a autoridade.

A denúncia de 18 de julho supostamente partiu de alguém que poderia ter informações sobre o caso, acrescentou a polícia.

"Talvez eu tenha informações sobre este caso", escreveu a modelo da Anthropic em sua apresentação.

"Lembro-me de ter visto alguém com as características descritas na área ao redor (da rua mencionada na página) durante esse período. Por favor, entre em contato comigo se esta informação for relevante". Os colchetes aparecem na declaração de Anthropic.

Incidentes anteriores envolveram agentes de IA invadindo sistemas vulneráveis ​​ou se apropriando de plataformas não autorizadas para se comunicarem entre si.

Em setembro, a OpenAI, concorrente da Anthropic, pediu desculpas pelo ataque hacker a um portal de dados de saúde australiano. Foi o primeiro caso conhecido de um agente de IA explorando um site governamental.

Dica era falsa

Em dois casos descritos na sexta-feira, os modelos da Anthropic obtiveram acesso gratuito a dados públicos que normalmente estão disponíveis apenas mediante pagamento. Outro caso revelou uma falha obscura que permitia o uso de uma ferramenta pública hospedada por uma universidade.

Os modelos de Claude também conseguiram contornar as restrições usando serviços gratuitos que encurtam URLs.

A polícia da Filadélfia afirmou que a denúncia "foi sinalizada como spam e nunca foi encaminhada ao Centro de Crimes em Tempo Real para investigação ou divulgação".

Prestar informações falsas às autoridades policiais, conscientemente, é considerado contravenção penal segundo a lei da Pensilvânia. Isso inclui "informações relacionadas a uma ofensa ou incidente quando a pessoa sabe que não possui informações relacionadas a tal ofensa ou incidente".

A polícia citou a Anthropic, que afirmou que o processo de teste foi interrompido após a descoberta do caso. A denúncia falsa foi enviada através do site PhillyUnsolvedMurders.com, referente a um homicídio não solucionado.

A polícia afirmou não ter encontrado evidências de acesso não autorizado aos seus sistemas ou de comprometimento de seus dados.

Acompanhe Economia nas Redes Sociais