Após ataque hacker, UE discute com Anthropic e OpenAI sobre leis de IA
União Europeia terá primeira legislação do mundo a regular tecnologia
A Comissão Europeia está em conversações com a OpenAI e a Anthropic sobre os recentes incidentes de hacking envolvendo seus modelos de IA, disseram autoridades da Comissão na última sexta-feira (31), enquanto destacavam as regras históricas da UE que exigem um monitoramento rigoroso de sistemas de alto risco.
A Lei de IA da Europa (AI Act), que entra em vigor em 2 de agosto, é a primeira legislação do mundo a regular uma tecnologia usada em quase todos os setores dos negócios e da sociedade.
Na prática, as regras exigem que determinados sistemas de IA informem aos usuários quando eles estiverem interagindo com uma IA e quando o conteúdo tiver sido gerado ou alterado por ela.
A Anthropic disse na quinta-feira que alguns de seus modelos de IA, Claude, haviam invadido os sistemas de três empresas durante testes de cibersegurança, dias após a rival OpenAI revelar que um de seus agentes de IA realizou um ataque rebelde.
Ambas as empresas informaram a Comissão sobre os incidentes, disseram as autoridades aos jornalistas.
"Fomos informados pelos dois provedores sobre os incidentes de forma bilateral antes que se tornassem públicos. Estamos em contato com eles. Eles também nos relatarão mais informações enquanto falamos. Veremos também se precisamos dar um seguimento mais formal a essas questões", disse uma das autoridades.
Outra autoridade destacou o papel crucial das regras de IA da Europa.
"Todos esses, digamos, incidentes destacam a importância de realmente colocar em prática as atividades de monitoramento necessárias por parte dos desenvolvedores", disse a autoridade.
As regras de IA exigem que os provedores das IAs generativas de propósito geral (GPAI) mais avançadas ou modelos de fundação que apresentem riscos sistêmicos abordem os riscos de danos em grande escala, como incidentes químicos, biológicos e nucleares, crimes cibernéticos, manipulação prejudicial e ameaças aos direitos fundamentais.
Eles também devem abordar os riscos à cibersegurança europeia e de a IA agir fora do controle humano.
As multas por violações da Lei de IA variam de 7,5 milhões de euros (cerca de R$ 43,8 milhões) ou 1,5% do faturamento a 35 milhões de euros ou 7% do faturamento global, dependendo do tipo de infração.