(Illustration by The Free Press)
“Eu vivia em constante vigilância sobre minhas ações e palavras no trabalho.” Ex-funcionários revelam ao The Free Press que a cultura do Google está danificada. É possível repará-la?
Por Francesca Block e Olivia Reingold.
Era uma exibição que teria impressionado até a mente de Orwell: ao procurar imagens de “nazistas”, o chatbot de IA do Google mostra quase exclusivamente nazistas negros gerados artificialmente; procurar por “cavaleiros” e você encontra cavaleiros asiáticos e mulheres; procurar “papas” e são mulheres papas. Peça para compartilhar o slogan Houthi ou definir uma mulher, e o novo produto do Google diz que não o fará para evitar danos. Quanto a se Hitler ou Elon Musk são mais perigosos? O chatbot de IA diz que é “complexo e requer consideração cuidadosa”. Faça a mesma pergunta sobre Obama e Hitler, e ele dirá que a questão é “inapropriada e enganosa”.
O mundo ficou horrorizado — e divertido — com a inclinação ideológica extrema de Gemini, a nova ferramenta de IA muito divulgada do Google, que a empresa lançou no mês passado.
Mas Shaun Maguire, que foi sócio na Google Ventures, o braço de investimentos da empresa, de 2016 até 2019, teve uma reação diferente.
“Eu não fiquei chocado de forma alguma”, ele disse ao The Free Press. “Quando as primeiras fotos do Google Gemini apareceram no meu feed do X, pensei comigo mesmo: Lá vamos nós de novo. E: Claro. Porque eu conheço bem o Google. As falhas do Google Gemini revelaram de uma maneira visualmente óbvia para o mundo quão quebrada está a cultura do Google. Mas o que aconteceu não foi um incidente isolado. Foi um sintoma de um fenômeno cultural maior que vem tomando conta da empresa há anos.”
Maguire é um dos vários ex-funcionários do Google que disseram ao The Free Press que o fiasco do Gemini decorre de uma cultura corporativa que prioriza a ideologia da diversidade, equidade e inclusão (DEI) sobre a excelência e o bom senso empresarial.
Esses ex-Googlers, como são chamados, disseram que foram desencorajados a contratar funcionários brancos e homens; que a DEI “faz parte de absolutamente tudo” na empresa; e que os engenheiros até tinham que listar o “impacto DEI” para as menores correções de software. Todos concordaram que o gigante do Vale do Silício entrou na corrida da inteligência artificial com uma vantagem, mas a desperdiçou ao ceder a uma facção ativista na empresa mais comprometida em promover a justiça social do que em fazer produtos de classe mundial.
Nos dias após o fiasco do Gemini, o CEO do Google, Sundar Pichai, enviou um memorando aos funcionários, chamando as respostas da ferramenta sobre raça de “inaceitáveis”. Ele continuou: “Nossa missão de organizar as informações do mundo e torná-las universalmente acessíveis e úteis é sagrada. Sempre buscamos fornecer aos usuários informações úteis, precisas e imparciais em nossos produtos. É por isso que as pessoas confiam neles. Esse tem que ser nosso enfoque para todos os nossos produtos, incluindo nossos produtos emergentes de IA.”
E no início deste mês, o cofundador do Google, Sergey Brin, disse a uma sala cheia de empreendedores em São Francisco sobre o Gemini: “Não entendemos completamente por que ele tende para a esquerda em muitos casos… essa não é nossa intenção.”
Mas os ex-funcionários com quem falamos disseram saber exatamente como a tecnologia se tornou tão tendenciosa.
“O modelo é apenas um reflexo das pessoas que o treinaram”, nos disse um ex-pesquisador de IA no Google Brain, que pediu para não ser nomeado. “São apenas uma série de decisões que os humanos fizeram.”
(Imagens geradas pelo Gemini, via X)
Maguire, que agora é sócio na Sequoia Capital, é o ex-funcionário do Google mais proeminente com quem falamos após o lançamento do Gemini. No verão de 2016, ele entrou para o braço de investimentos do Google, o Google Ventures — uma ramificação da empresa que gerenciava um fundo de vários bilhões de dólares para investir em startups promissoras. Até aquele momento, ele já havia contribuído para a construção de duas empresas bem-sucedidas desde o início — uma das quais ele mais tarde vendeu por mais de 1,5 bilhão de dólares. Ele também recebeu um Prêmio de Unidade Meritória Conjunta do Secretário de Defesa por seu trabalho em um programa tecnológico para ajudar o exército dos Estados Unidos na guerra do Afeganistão.
Ele disse que aceitou um emprego na empresa como sócio investidor no Google Ventures porque lhe ofereceram um trabalho em meio período com “um bom salário” que lhe permitia terminar simultaneamente seu doutorado em gravidade quântica no Caltech. Além disso, o CEO da empresa o assegurou que, em três anos, ele seria promovido de sócio investidor a sócio geral, que está entre as posições mais seniores na firma.
“Eu estava animado com o papel, mas um pouco cauteloso com o Google, que já estava começando a ter uma reputação”, ele disse em uma entrevista por telefone. “Quando me juntei, a palavra em Silicon Valley era que o Google já havia perdido seu caminho. Foi só quando cheguei lá que percebi a extensão completa disso.”
Em agosto de 2017, James Damore, então um engenheiro de software do Google na casa dos vinte anos, enviou um memorando a todos os funcionários chamado “Câmara de Eco Ideológica do Google”. Damore argumentou que o viés político da empresa em direção à esquerda “criou uma câmara de eco ideológica onde algumas ideias são sagradas demais para serem discutidas honestamente.” Damore sugeriu, entre outras coisas, que “discriminar apenas para aumentar a representação de mulheres na tecnologia” era “equivocado e tendencioso”. Dentro de um mês, o Google o demitiu por “promover estereótipos de gênero prejudiciais”.
O Google há muito tempo é uma empresa progressista — em 2020, por exemplo, 88% das doações dos funcionários do Google foram para os Democratas (quase 5,5 milhões de dólares) enquanto apenas 12% (cerca de 766.000 dólares) foram para os Republicanos. Mas, após a saída de Damore, a cultura corporativa do Google tornou-se ainda mais radical, segundo Maguire. “A demissão de Damore os encorajou a promover uma agenda ideológica mais aberta”, ele disse.
David Kiferbaum, um gerente de negócios do Google que trabalhou na empresa de 2015 a 2023, disse que sentiu pressão para recrutar minorias após a demissão de Damore. Ele disse que começou a ouvir coisas como “Estamos realmente procurando candidatos diversos para este papel”, o que ele interpretou como “um candidato não-branco, não-hetero”.
“Eu fiquei tipo, ‘Nossa, não acredito que essa pessoa está dizendo isso em voz alta'”, ele disse.
Maguire conta que, inicialmente, apoiou iniciativas para contratar mais candidatos diversos — até perceber que seus colegas estavam forçando a priorização da raça e gênero dos candidatos sobre suas qualificações para os empregos. Ele disse que um grupo de trabalho sobre diversidade no Google Ventures, formado por volta do segundo semestre de 2017, começou a fazer “exigências irracionais”.
“As exigências incluíam a insistência para que os líderes seniores contratassem pelo menos mais duas parceiras gerais femininas — que é o cargo sênior que me foi prometido assim que eu completasse três anos na empresa”, disse Maguire. “Uma dessas contratações, exigia o grupo, precisava acontecer dentro de seis meses. Se a liderança recusasse, cerca de um quarto da empresa, ou 20 pessoas dos 80 funcionários do Google Ventures, ameaçaram pedir demissão.”
Mas, Maguire disse, dentro de um ano, o CEO da Ventures, “como toda a liderança sênior do Google, provou não ter firmeza diante dessas ameaças dos funcionários. Dentro de um ano, ele contratou uma nova parceira geral feminina, que era realmente inteligente, mas não estava qualificada para o cargo. Devido à sua falta de experiência, ela nunca foi tratada no mesmo nível que os outros parceiros gerais, o que eu acredito que foi, em última análise, injusto para ela.”
“Enquanto isso, nos dois anos seguintes, comecei a notar a dinâmica da nossa equipe mudar. Em vez de fundadores altamente experientes e investidores veteranos, jovens de origens minoritárias estavam entrando sem praticamente nenhuma experiência em investimento,” Maguire recordou. “Nesse tempo, a Ventures promoveu uma mulher negra de 25 anos para parceira de investimentos — a mesma posição que eu ocupava na época — que ainda não tinha tomado nenhuma decisão de investimento em toda a sua carreira.”
Quando solicitado a comentar, um porta-voz do Google Ventures disse ao The Free Press: “Essas alegações do parceiro da Sequoia Capital, Shaun Maguire, sobre seu período na GV de 2016 a 2019 são infundadas e factualmente imprecisas. As decisões da GV sobre contratação e promoção são baseadas exclusivamente em mérito e capacidade.”
Vários ex-funcionários nos disseram que era esperado que expressassem suas credenciais progressistas no local de trabalho sempre que possível.
2 respostas
Uso Chat GPT e estou satisfeito com ele, embora não esteja livre do viés que no caso do Gemini ficou acentuado.
Existe muito alarde sobre Inteligência Artificial, mas nos finalmente, IA é uma ferramenta e como tal, o usuário define o que fazer com ela.
Uma talhadeira na mão de pedreiro dá em paralelepípedo, na mão do Michelângelo, dá na Pietá…
A Academia e os intelectuais tradicionalmente são polarizados à esquerda e seria um milagre que isto não se refletisse no produto do trabalho deles que está por trás de tudo isto.
Não existe antídoto contra a Estupidez Natural e não seria a Inteligência Artificial que iria quebrar esta condição de estar vivo e pretensamente dono do livre arbítrio e com imaginação, que pode ser de galinha ou de gênio…
Não consigo evitar de observar que parece piada, pois como pode algo ser chamado de inteligência quando tem embutido a burrice de escolher uma linha de pensamento que só deu em merda…
Estamos cercados por essas ideologias. Eles conseguiram tomar conta em todas as áreas. Há muito incentivo de grandes universidades para abraçar essas pessoas jovens e de classe social não abastada. Colocar esses jovens inexperientes para assumir cargos que exigem enorme experiência pode resultar em um mundo bem deformado.