Bancos alertam que compras online baseadas em IA aumentam riscos de golpes
Empresas de tecnologia estão promovendo cada vez mais os chatbots como ferramentas de compra, mirando em um futuro em que os consumidores usem IA para selecionarem produtos e fazerem compras em seu nome
O uso de agentes de inteligência artificial para compras online pode aumentar o risco de golpes, fraudes e violações de privacidade de dados, afirmaram nesta terça-feira (22) bancos como NatWest e Bank of America ao estabelecerem princípios para o desenvolvimento da tecnologia.
Empresas de tecnologia, como OpenAI, Anthropic, Google e Meta estão promovendo cada vez mais os chatbots de IA como ferramentas de compra, vislumbrando um futuro em que os consumidores usem agentes de IA para selecionarem produtos e fazerem compras em seu nome.
Enquanto isso, os varejistas correm para influenciar as recomendações dos chatbots.
A varejista britânica John Lewis informou em setembro que a participação de buscas criadas por agentes de IA subiram de 0,3% no ano anterior para 2,5%, com a tendência se acelerando.
O grupo de bancos, que também inclui ING, ASB Bank, da Nova Zelândia; Capital One e Commonwealth Bank of Australia, afirmou em um relatório que os clientes estão entusiasmados com o potencial do comércio por agentes e ansiosos para adotá-lo.
No entanto, eles alertaram que a tecnologia está avançando mais rapidamente do que os padrões de segurança do setor e do consumidor.
“Os consumidores não têm certeza se a IA agirá em seu interesse”, afirma o relatório. “Eles temem que os agentes de IA possam comprar o produto errado ou gastar demais, ou, pior ainda, perder seu dinheiro em golpes e fraudes. Não têm certeza se estarão protegidos nem a quem recorrerão caso algo dê errado.”
O relatório destaca riscos, incluindo a possibilidade de agentes de IA solicitarem dados de cartão dos clientes e inseri-los diretamente em sites, ou direcionarem os usuários para formas de pagamento que ofereçam proteções mais fracas.
Os bancos planejam discutir uma série de propostas com os formuladores de políticas, incluindo a exigência de divulgação quando um agente de IA estiver envolvido em uma transação, maior transparência sobre como os agentes de IA tomam decisões e medidas de segurança para proteger os dados dos clientes.
Consumidores e comerciantes também devem ter liberdade para escolher quais serviços de comércio eletrônico baseados em IA utilizarão, enquanto os diferentes sistemas devem ser interoperáveis, defende o relatório.
