Meta testa "concierges humanos" para o assistente de IA Muse

A Meta ​está testando um serviço ​de “concierge humano” para seu novo assistente pessoal de IA, o Muse, que consiste em ter contratados humanos lidando discretamente com algumas das chamadas telefônicas feitas por meio do agente digital, de acordo com publicações internas da empresa vistas pela Reuters.

A empresa proprietária do Facebook e do Instagram informou os funcionários sobre o teste na semana passada, pouco depois de a empresa lançar publicamente um recurso de chamadas telefônicas para o Muse.

O aplicativo Muse Agent, que liderou as listas de downloads nos EUA nas duas semanas desde seu lançamento, foi projetado para realizar tarefas autônomas como enviar e-mails, fazer compras e reservar viagens em nome de uma pessoa.

Com a funcionalidade de chamadas telefônicas, um usuário do Muse pode instruir o agente a discar números de telefone de empresas americanas e conversar com pessoas do outro lado da linha para realizar tarefas como agendar cortes de cabelo, verificar se uma loja tem um item em estoque ou obter orçamentos de diferentes fornecedores.

Alguns funcionários expressaram preocupações com a privacidade em relação aos atendentes humanos que lidam com essas chamadas, alertando que essa abordagem poderia resultar no compartilhamento não intencional de informações confidenciais com terceirizados em centrais de atendimento, conforme mostraram as postagens internas.

"É incompreensível para mim por que achamos que esse recurso vale o risco", escreveu um funcionário em uma publicação interna. "Estamos a um passo de ter informações desnecessárias vazadas para quem liga".

Outro funcionário, que havia pedido a Muse para ligar para um provedor de internet e TV a cabo para negociar sua conta, disse que uma transcrição mostrou que o contratado humano fez uma referência racista durante a ligação.

Em resposta, um vice-presidente da unidade Superintelligence Labs da Meta reconheceu que "foi um erro" começar a testar chamadas feitas por contratados sem as devidas divulgações e disse que a empresa "reverteu esse recurso" por enquanto.

A Meta ainda estava "aprimorando as chamadas de IA", acrescentou na postagem, observando que alguns testes indicaram que ter humanos fazendo as chamadas poderia elevar a taxa de sucesso para a faixa de 95% a 98%, em vez da "porcentagem menor de chamadas de IA".

Ela também pediu desculpas ao funcionário que relatou a menção de raça durante uma chamada da Muse e prometeu que o "agente humano" envolvido não trabalharia em nenhum projeto da Meta daqui para frente.

Trabalho humano por trás das promessas de IA

O teste do Muse oferece uma visão de como as empresas de tecnologia às vezes dependem do trabalho humano nos bastidores para cumprir as promessas da IA ​​autônoma, ao se depararem com a relutância por parte daqueles que recebem as ligações automáticas.

Isso remete a um experimento anterior realizado pela Meta há uma década, quando a empresa, então conhecida como Facebook, testou um assistente digital chamado "M" em seu serviço Messenger. Reportagens da mídia estimaram posteriormente que cerca de 70% das tarefas do agente eram, na verdade, realizadas por humanos.

Questionado sobre o plano de "concierge humano" do Muse, um porta-voz da Meta disse que a resposta dos funcionários foi "extremamente positiva" e que o objetivo do teste era "obter feedback para que possamos implementar proteções de segurança e privacidade e aprimorar os recursos antes de lançá-los publicamente".

"Estamos trabalhando com os comerciantes para continuar aprimorando esse potencial recurso de chamadas e só o implementaremos quando estiver pronto e com as devidas divulgações", disse o porta-voz, Daniel Roberts.

O agente Muse da Meta teve mais de 2,5 milhões de downloads desde o seu lançamento, de acordo com dados fornecidos pela empresa de inteligência de mercado Sensor Tower.

As ações da empresa dispararam mais de 20% desde o lançamento, adicionando mais de US$ 200 bilhões em capitalização de mercado e atingindo seu nível mais alto em mais de sete meses no último fechamento.

As ações, no entanto, caíram 0,6% na terça-feira.

Reduzir o preço de um ponto-chave de venda

Durante o lançamento, a Meta enfatizou bastante as medidas de segurança do assistente de IA, informando aos potenciais usuários que cada agente teria sua própria "máquina virtual" segura, ou seja, um computador dedicado na nuvem projetado para manter as sessões dos usuários isoladas, e que informações confidenciais, como senhas, seriam armazenadas em local seguro separado.

Os funcionários que criticaram o plano de concierge humano dentro da Meta citaram essas medidas de segurança em seus comentários, alertando que isso corria o risco de prejudicar um argumento de venda fundamental para o agente.

A Meta começou a testar a funcionalidade de chamadas telefônicas com seus funcionários em agosto e, gradualmente, iniciou a implementação para os usuários do Muse nos dias seguintes ao lançamento do aplicativo, conforme mostraram as postagens internas.

Alguns usuários relataram problemas com essas chamadas, incluindo um funcionário que disse ter tentado ligar para sua seguradora e "eles continuam desligando na cara da Muse quando ouvem que é inteligência artificial".

De acordo com publicações internas, a Meta habilitou o recurso de concierge humano, também conhecido como "chamadas com agente humano", para metade de seus funcionários na semana passada, a fim de solucionar esses problemas.

“Agora, a Muse consegue encaminhar as solicitações para um agente treinado, que realiza a ligação e resolve o problema”, dizia a publicação que anunciava o recurso aos funcionários.

De acordo com a publicação, os funcionários que não desejassem participar poderiam aderir a um grupo de exclusão.