Falha na inteligência artificial: quem é culpado quando a IA erra?
Governança, auditoria e supervisão humana são essenciais para reduzir riscos de erros da IA
O uso disseminado de ferramentas de inteligência artificial ampliou o debate sobre quem é o responsável por um erro cometido por LLMs (large language models, na sigla em inglês). O avanço rápido dessa tecnologia trouxe preocupações com desinformação, decisões equivocadas e possíveis prejuízos jurídicos, reputacionais e operacionais para as companhias.
O debate sobre o tema começou a ganhar força porque os erros da inteligência artificial podem ter várias causas: pode estar relacionado aos dados usados para treinar os sistemas, à supervisão humana e ao modo como a tecnologia é incorporada.
Quando a IA erra, de quem é a culpa?
Com o avanço do uso da inteligência artificial em atividades importantes, especialistas defendem que o problema não está somente no sistema que apresenta uma resposta errada. Ele também envolve as decisões humanas sobre dados, regras, desenvolvimento, supervisão e controle.
Ou seja, quando alimentada por dados inconsistentes, colocada em processos desorganizados ou usada sem coordenação entre diferentes áreas, ela pode ampliar falhas que já existiam e transmitir uma falsa impressão de precisão.
Os efeitos desse problema também aparecem na disseminação de informações falsas. Segundo um levantamento da Agência Lupa, 81,2% dos casos de desinformação envolvendo inteligência artificial identificados em checagens aconteceram entre 2024 e março de 2026.
Um caso que aconteceu em São Paulo mostra como esse tipo de erro pode causar consequências graves. Ailton Alves de Sousa, morador de Heliópolis, foi conduzido quatro vezes à delegacia em sete meses após ser confundido com um foragido por alertas do sistema de reconhecimento facial Smart Sampa (que usa IA).
O episódio mostra que, sem mecanismos rápidos de correção, auditoria e revisão, as falhas da tecnologia podem causar danos no 'mundo real'.
IA: solução ou problema no mundo corporativo?
No ambiente corporativo, a situação é semelhante. Com o aumento do número de assistentes, agentes e projetos de inteligência artificial que não se comunicam entre si, também cresce o risco de falhas.
Por isso, a discussão sobre responsabilidade envolve uma questão mais ampla: quem definiu os dados, as regras, os limites, a supervisão e o controle do sistema que cometeu o erro?
Em mensagem à CNN Brasil, o vice-presidente de estratégia de crescimento e inovação da Keyrus no Brasil, Rodrigo Cruz, afirma que a falha não é da IA, mas da ausência de um sistema que a governe corretamente.
"Quando as empresas multiplicam assistentes, agentes e iniciativas de IA sem uma arquitetura que os coordene, o resultado é a proliferação de sistemas que não colaboram entre si. Cada ferramenta toma decisões de forma isolada, gerando inconsistência nos processos, fragmentação da governança e perda de controle estratégico", Cruz explica.
O que caracteriza uma inteligência artificial responsável?
Uma inteligência artificial responsável é aquela desenvolvida e operada com critérios claros de transparência, segurança, rastreabilidade e supervisão humana.
Por isso, não basta usar uma ferramenta moderna. É necessário entender como ela toma decisões, acompanhar seu funcionamento e permitir que seus resultados sejam auditados, principalmente quando afetam consumidores, trabalhadores ou cidadãos.
Nesse tipo de modelo, a responsabilidade não depende apenas do desempenho técnico da inteligência artificial. Também é preciso organizar dados, controlar os acessos, coordenar as decisões e garantir a supervisão humana durante todo o funcionamento do sistema.
Sem essa estrutura, a IA pode ser usada de forma improvisada, o que aumenta o risco de erros difíceis de identificar e corrigir. Além disso, a qualidade dos dados também é fundamental.
Como empresas podem usar a IA de forma responsável?
Desenvolver uma inteligência artificial responsável exige mais do que investir em tecnologia. As empresas também precisam organizar seus processos, definir regras de governança e preparar suas equipes.
Para o executivo da Keyrus, entre as medidas importantes estão:
- Identificar onde a IA já é usada;
- Envolver desde o início áreas como jurídico, segurança e tecnologia;
- Registrar como os modelos funcionam;
- e treinar os profissionais.
Assim, a adoção da ferramenta se torna mais segura e controlada, em vez de criar novos riscos para a organização.
"Quando a inteligência artificial opera com arquitetura sólida, ela devolve aos profissionais o espaço para o que nenhum sistema consegue replicar: compreender contextos, criar soluções e tomar decisões complexas. A IA bem arquitetada não substitui o humano, ela o libera para ser o arquiteto da diferenciação da empresa”, Cruz completa.
