IA tem sentimentos? Claude poderá encerrar conversas "cruéis"

Uma atualização na política de uso da Anthropic nesta semana trouxe uma mudança importante para usuários do Claude. A desenvolvedora passou a proibir "comportamento abusivo ou cruel" contra seus modelos de inteligência artificial.

Nesse caso, quando usuários tratarem o Claude "mal", o chatbot pode encerrar aquela conversa.

A empresa deixou claro que as pessoas podem continuar criticando o sistema e expondo insatisfação com as respostas. A possibilidade de encerrar o diálogo acontecerá em situações em que os ataques forem "persistentes e desnecessários" contra a tecnologia.

A Anthropic não detalhou o que considera um comportamento abusivo ou cruel. A política entra em vigor em 12 de novembro.

Claude tem consciência?

O recurso foi apresentado pela primeira vez em agosto do ano passado, como uma forma de garantir o bem-estar da IA.

A medida vem em meio a discussões sobre se as inteligências artificiais teriam consciência. Empresas do setor buscam uma superinteligência, uma etapa em que a tecnologia atinge capacidade de raciocínio igual ou superior a dos humanos.

Na política de uso atualizada, a Anthropic escreve que não tem certeza sobre o "potencial status moral do Claude ou de outros modelos de linguagem, agora ou no futuro". Mesmo assim, está implementando recursos de segurança justamente para evitar um caso do tipo.

"Estamos trabalhando para identificar e implementar intervenções de baixo custo para mitigar os riscos ao bem-estar dos modelos, caso esse bem-estar seja possível. Permitir que os modelos encerrem ou saiam de interações potencialmente angustiantes é uma dessas intervenções", afirmou a desenvolvedora em seu site.

O próprio CEO da Anthropic, Dario Amodei, já havia dito anteriormente, ao jornal The New York Times, que não tem certeza se a IA pode ser consciente, mas não descarta a possibilidade.

Há discordâncias. O chefe de inteligência artificial da Microsoft, Mustafa Suleyman, publicou um ensaio em setembro refutando essa ideia. "As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem”, escreveu.