Google ofereceu R$ 340 mil a um professor, mas ele recusou. Veja o motivo

Professor assistente da Western University em Ontário, Canadá, Stark estuda os impactos sociais e éticos da inteligência artificial (IA)

Por Rachel Metz, CNN Business
26 de março de 2021 às 05:00 | Atualizado 26 de março de 2021 às 08:11
Luke Stark
Luke Stark recusou uma bolsa de pesquisa de US$ 60 mil do Google, em apoio à equipe de IA ética demitida da empresa
Foto: Divulgação

(CNN Business) - Quando Luke Stark pediu dinheiro para o Google em novembro, não tinha ideia de que recusaria US$ 60 mil (cerca de R$ 340 mil) da gigante da tecnologia meses depois, em março.

Professor assistente da Western University em Ontário, Canadá, Stark estuda os impactos sociais e éticos da inteligência artificial (IA). No final de novembro, ele se inscreveu para o prêmio Google Research Scholar, uma bolsa de pesquisa de até US$ 60 mil para apoiar professores que estão no início de suas carreiras.

O canadense se candidatou ao prêmio “por causa da sensação na época de que o Google estava construindo uma equipe de IA ética realmente forte e potencialmente líder do setor”.

Logo depois, esse sentimento começou a se dissipar. No início de dezembro, Timnit Gebru, a colíder da equipe ética de IA do Google –uma mulher negra em ascensão em uma área predominantemente masculina de brancos–, deixou o Google de forma abrupta.

No dia 2 de dezembro, Gebru tuitou que ela fora “demitida imediatamente” por causa de um email que havia enviado para a lista de emails interna da empresa Brain Women and Allies do Google. No email, ela expressava consternação com a contínua falta de diversidade na empresa e frustração com um processo interno relacionado à revisão de pesquisa então inédita sobre os riscos de construir modelos de linguagem de IA cada vez maiores –um tipo de IA que é cada vez mais importante para o enorme negócio de pesquisa do Google.

Na época, Gebru disse que a liderança de IA do Google pedira para ela retirar o artigo da consideração para apresentação em uma conferência ou retirar seu nome do artigo. O Google disse que aceitou o pedido de demissão de Gebru por causa de uma lista de exigências que ela havia enviado por email para continuar trabalhando na empresa.

A demissão de Gebru deu início a uma crise na empresa que durou meses, incluindo saídas de funcionários, uma troca de cadeiras na liderança e um pedido de desculpas do CEO do Google pelas circunstâncias da saída de Gebru. O Google conduziu uma investigação interna sobre o tema. Os resultados foram anunciados no mesmo dia e o Google demitiu a colíder da equipe de Gebru, Margaret Mitchell, que havia criticado consistentemente a empresa no Twitter após a saída da colega. A empresa citou “violações múltiplas” de seu código de conduta para justificar a demissão.

Enquanto isso, pesquisadores de fora do Google, particularmente em IA, estão cada vez mais desconfiados da bolsa de estudos historicamente bem conceituada da empresa e irritados com o tratamento dado a Gebru e Mitchell.

Tudo isso entrou em foco para Stark no dia 10 de março, quando o Google lhe enviou uma nota de parabéns, oferecendo-lhe US$ 60 mil por sua proposta para um projeto de pesquisa que examinaria como as empresas estão implementando IA para detectar emoções. O canadense disse que imediatamente sentiu que precisava rejeitar o prêmio para mostrar seu apoio a Gebru e Mitchell, bem como àqueles que ainda permanecem na equipe ética de IA do Google.

“Meu primeiro pensamento foi que tinha de recusar a bolsa”, disse Stark ao CNN Business.

Stark está entre um número crescente de pessoas na academia que estão citando as saídas de Gebru e Mitchell por causa de decisões recentes de perda de fundos ou oportunidades oferecidas pela empresa. Alguns organizadores de conferências de IA estão repensando em ter o Google como patrocinador. Pelo menos um acadêmico que recebeu um grande cheque do Google no passado declarou que não buscará seu apoio financeiro até que as alterações sejam feitas na empresa.

“Em sã consciência, não posso mais aceitar financiamento de uma empresa que trata seus funcionários dessa maneira”, afirmou ao CNN Business Vijay Chidambaram, professor assistente da Universidade do Texas em Austin, que estuda sistemas de armazenamento. Chidambaram já havia recebido US$ 30 mil (cerca de R$ 170 mil) do Google em 2018 para um projeto de pesquisa.

O dinheiro envolvido é de pouca importância para o Google. Mas as consequências cada vez maiores das tensões do Google com sua equipe ética de IA representam agora um risco para a reputação e estatura da empresa na comunidade de IA, um fator crucial na busca do Google por talentos –tanto para contratá-los como funcionários da empresa como para ter conexões na comunidade acadêmica.

“Acho que isso é mais amplo do que a própria empresa imagina”, comentou Stark.

Solidariedade

Apesar de seu desejo inicial, Stark não recusou imediatamente o prêmio do Google. Ele falou aos colegas sobre o que planejava fazer (“As pessoas apoiaram qualquer decisão que eu tomasse”, disse) antes de enviar ao Google sua resposta dois dias depois do anúncio. Ele agradeceu à empresa pelo “voto de confiança” em sua pesquisa, mas escreveu que estava “recusando o prêmio em solidariedade às doutoras Gebru e Mitchell, seus companheiros de equipe e todos aqueles que já passaram por situações semelhantes”, segundo emails lidos pelo CNN Business.

“Estou ansioso pela possibilidade de colaborar novamente com o Google Research quando a organização e seus líderes refletirem sobre sua decisão neste caso, abordarem os danos que causaram e se comprometerem, por palavras e atos, a promover pesquisa crítica e produtos que apoiam a equidade e a justiça”, escreveu Stark.

Ele tuitou sobre sua decisão de rejeitar o prêmio e fazer isso publicamente, mas observou que muitas pessoas não podem recusar esse financiamento do Google ou de outras empresas. Stark pode abrir mão do dinheiro porque seu departamento na Western University tem fundos suficientes. Segundo ele, o prêmio do Google teria proporcionado dinheiro extra para pesquisa.

“Foi algo que eu senti que poderia fazer”, Stark tuitou.

Gebru disse que gostou da ação de Stark.

“Não é pouca coisa uma pessoa recusar o patrocínio do Google”, afirmou Gebru ao CNN Business. "Especialmente alguém que está no início de carreira."

Um porta-voz do Google disse que a empresa forneceu mais de 6.500 bolsas acadêmicas e de pesquisa para pessoas de fora, nos últimos 15 anos. Stark é o primeiro a recusar uma, de acordo com o porta-voz.

“Um fiasco”

No entanto, a decisão de Stark é apenas a mais recente demonstração de solidariedade com Gebru e Mitchell.

O primeiro sinal óbvio de raiva veio logo depois que Gebru deixou o Google. Um texto no site Medium criticando sua partida e exigindo transparência sobre a decisão do Google em relação à pesquisa que foi pivô da demissão rapidamente ganhou a adesão de funcionários e apoiadores do Google nas áreas acadêmica e de IA. No final de março, o número de apoiadores havia aumentado para quase 2.700 funcionários do Google e mais de 4.300 outros.

No início de março, a conferência para a qual Gebru e seus coautores enviaram o artigo, a Conferência ACM sobre Justiça, Responsabilidade e Transparência, ou FAccT, suspendeu seu contrato de patrocínio com o Google. Gebru é uma das fundadoras da conferência e atuou como membro do primeiro comitê executivo da FAccT. O Google patrocinava o evento desde que foi lançado, em 2018. 

Michael Ekstrand, copresidente da ACM FAccT Network, confirmou ao CNN Business que o patrocínio foi interrompido “no melhor interesse da comunidade” e que o grupo “revisitará” sua política de patrocínio para 2022. Ekstrand disse que Gebru não estava envolvida na decisão.

Também em março, dois acadêmicos protestaram contra as ações do Google, tuitando que decidiram não participar de um evento online de pesquisa em robótica somente para convidados. Um deles foi Hadas Kress-Gazit, professora de robótica da Cornell. Ela disse que foi convidada em janeiro, mas foi ficando mais reticente à medida que o evento se aproximava.

“A maneira como [Gebru e Mitchell] foram tratadas foi um fiasco. Ninguém se desculpou com elas ainda”, disse a professora. “Não quero interagir com empresas que se comportam dessa forma em relação aos pesquisadores de ponta”.

Expansão dos limites da IA

O Google está ciente de que sua reputação como instituição de pesquisa foi prejudicada nos últimos meses e afirmou que pretende consertá-la. Em uma recente sabatina, a empresa descreveu as mudanças que está fazendo em suas pesquisas internas e práticas de publicação acadêmica.

“Acho que a maneira de reconquistar a confiança é continuar a publicar trabalhos de ponta em muitas, muitas áreas, incluindo ultrapassar os limites em tópicos relacionados à IA responsável. Publicar coisas que são profundamente interessantes para a comunidade de pesquisa é uma das melhores maneiras de continuar a ser um líder no campo de pesquisa”, disse Jeff Dean, chefe de IA do Google. Ele estava respondendo à pergunta de um funcionário a respeito de pesquisadores externos, dizendo que lerão artigos do Google “com mais ceticismo agora”.

Gebru espera que, como o FAccT, mais conferências reavaliem suas relações com os laboratórios de pesquisa das empresas de tecnologia. Historicamente, muito do trabalho de desenvolvimento e estudo da IA foi realizado em ambientes acadêmicos. Mas, à medida que as empresas descobrem cada vez mais usos comerciais para a tecnologia, as linhas entre os mundos acadêmico e corporativo se confundem.

O Google é apenas uma das muitas empresas de tecnologia que exerce grande influência em conferências acadêmicas que publicam trabalhos de pesquisadores. Seus funcionários participam de painéis de conferências e a empresa patrocina inúmeras conferências todos os anos, investindo dezenas de milhares de dólares.

O Google e algumas subsidiárias de sua empresa controladora, a Alphabet, foram listados como patrocinadores do nível “platina” (US$ 20 mil, ou cerca de R$ 113 mil) e “ouro” (US$ 10 mil, cerca de R$ 56 mil) na Conferência Internacional sobre Aprendizado de Máquina, ou ICML, e na Conferência sobre Sistemas de Processamento de Informação Neural, ou NeurIPS, em 2020, as principais conferências de IA. Além disso, alguns funcionários da empresa participam de seus comitês organizadores.

O presidente do ICML, John Langford, disse que a conferência está “atualmente aberta ao patrocínio” do Google para sua conferência de 2021, marcada para julho.

“Há muita discussão em andamento sobre como o ICML deve encorajar uma boa cultura e práticas de aprendizado de máquina com futuras políticas de patrocínio", acrescentou.

A diretora executiva do NeurIPS, Mary Ellen Perry, disse que a conferência ainda não fez sua convocação anual para patrocínios, mas que os pedidos “serão avaliados de acordo com um conjunto de diretrizes de seleção estabelecidas pelos presidentes de patrocínio deste ano”. O NeurIPS está programado para dezembro.

Para Stark e outros na comunidade de pesquisa acadêmica, no entanto, seus critérios para aceitar fundos do Google já mudaram.

“Dinheiro extra para pesquisa seria ótimo”, disse Stark. “Mas isso era algo que eu sentia que simplesmente não podia suportar”.

(Texto traduzido. Clique aqui para ler o original em inglês).