Novo chefe de IA do Google Cloud estuda IA ​​militar com o fundador do Project Maven

Quando a chefe do Google Cloud, Diane Greene, anunciou que Andrew Moore substituiria ainda este ano Fei-Fei Li como chefe de inteligência artificial do Google Cloud, ela mencionou que ele era reitor da escola de ciência da computação na Carnegie Mellon University e que trabalhou anteriormente no Google .

O que Greene não mencionou foi que Moore também é co-presidente de uma força-tarefa de IA criada pelo Center for a New American Security (CNAS), um think tank com fortes laços com os militares dos EUA. O co-presidente de Moore na força-tarefa é Robert Work, ex-vice-secretário de defesa, que o New York Times chamou de "a força motriz por trás da criação do Projeto Maven", o esforço militar dos EUA para analisar dados, como imagens de drones , usando IA.

O envolvimento do Google no Project Maven causou uma grande reação dentro da empresa no início deste ano, forçando o CEO Sundar Pichai a prometer que o Google nunca trabalharia em armas aprimoradas por IA.

A contratação de Moore certamente reacenderá o debate sobre o envolvimento do Google em certos mercados de inteligência artificial – uma das áreas mais quentes da tecnologia com um enorme potencial de negócios – e o relacionamento que a empresa mantém com os militares.

Durante seu mandato na Carnegie Mellon, Moore sempre discutiu o papel da IA ​​em aplicações defensivas e militares, como sua palestra de 2017 sobre Inteligência Artificial e Segurança Global:

“Poderíamos pagar, se quiséssemos e se precisássemos, para vigiar praticamente o mundo inteiro com drones autônomos de vários tipos”, disse Moore. "Não estou dizendo que gostaríamos de fazer isso, mas não há uma lacuna tecnológica onde eu ache que seja realmente muito difícil de fazer. Isso agora é prático."

A CNAS, a organização que formou os co-presidentes da força-tarefa de Moore, concentra-se em questões de segurança nacional e sua missão declarada é "desenvolver políticas de segurança e defesa nacionais fortes, pragmáticas e baseadas em princípios que promovam e protejam os interesses e valores americanos".

A decisão do Google de contratar Moore foi recebida com desagrado por pelo menos um ex-Googler que se opôs ao Projeto Maven.

"É preocupante observar, após a dissensão interna generalizada contra Maven, que o Google contrataria Andrew Moore", disse um ex-funcionário do Google. "Os googlers querem menos alinhamento com o complexo militar-industrial, não mais. Essa contratação é como um soco na cara dos mais de 4.000 googlers que assinaram a carta Cancel Maven."

Um porta-voz do Google se recusou a comentar.

Moore, que nasceu no Reino Unido, mas desde então se tornou cidadão americano, frequentemente fala sobre a necessidade de cautela ao tirar a IA do laboratório e colocá-la no mundo real. Quando a força-tarefa do CNAS foi anunciada em março, Moore enfatizou a importância de "garantir que tais sistemas funcionem com humanos de uma forma que capacite o humano, não substitua o humano e que mantenha a autoridade de decisão final com o humano".

E em um podcast recente do CNAS, ele descreveu o que chamou de sua visão "conservadora" sobre IA no mundo real: "Mesmo se eu soubesse que, por exemplo, lançar uma frota de veículos autônomos em uma cidade reduziria as mortes em 50%, eu Eu não quero lançá-lo até que eu encontre algumas provas formais de correção, o que me mostrou que absolutamente não estaria envolvido em mortes desnecessárias."

Ainda assim, ele não se esquivou de lidar com o setor militar.

A biografia de Carnegie Mellon de Moore menciona trabalhos anteriores envolvendo "detecção e vigilância de ameaças terroristas" e ele está listado como colaborador de investigação em um relatório consultivo de pesquisa naval de setembro de 2017 sobre "Sistemas autônomos e não tripulados no Departamento da Marinha".

Leia mais: Uma reunião interna tensa entre o CEO do Google, Sundar Pichai, e os funcionários foi para o lado enquanto os executivos abordavam rumores sobre os planos da empresa na China

Durante a palestra de 2017 sobre segurança global, ele mencionou a possibilidade de incorporar assistentes pessoais digitais, como os usados ​​em gadgets de consumo feitos pelo Google e Amazon, em aplicações militares. "Há uma questão em aberto sobre se, quando e como podemos desenvolver assistentes pessoais para combatentes e comandantes para ter esse conjunto completo de informações que ajuda a remover a 'névoa da guerra', sem atrapalhar com muita informação", disse. ele disse.