Pentágono busca ‘éticista’ para supervisionar inteligência artificial militar

Procura-se: “eticista” militar. Habilidades: processamento de dados, aprendizado de máquina, robôs matadores. Deve ter: cabeça fria, bússola moral e vontade de dizer não a generais, cientistas e até presidentes.

O Pentágono está procurando a pessoa certa para ajudá-lo a navegar nas águas moralmente sombrias da inteligência artificial (IA), anunciadas como o campo de batalha do século XXI.

“Uma das posições que vamos preencher será alguém que não está apenas olhando para os padrões técnicos, mas também ético”, disse a repórteres o tenente-general Jack Shanahan, diretor do Centro de Inteligência Artificial (JAIC) do Departamento de Defesa dos EUA. semana passada.

“Acho que é um ponto muito importante que não teríamos pensado nisso há um ano, serei sincero com você. No Maven [um projeto piloto de aprendizado de máquina de IA], essas perguntas realmente não surgiam todos os dias, porque ainda eram realmente humanos olhando para a detecção, classificação e rastreamento de objetos. Não havia armas envolvidas nisso.

Shanahan acrescentou: “Então, nós vamos trazer alguém que tenha um profundo conhecimento em ética e, em seguida, com os advogados do departamento, veremos como realmente levar isso para o futuro do Departamento de Defesa. . ”

O JAIC tem um ano e 60 funcionários. Seu orçamento no ano passado foi de US $ 93 milhões; o pedido deste ano foi de US $ 268 milhões. Seu foco vem do medo de que a China tenha ganhado uma vantagem inicial na corrida global para explorar o potencial militar da IA, incluindo comando e controle e armas autônomas.

Por mais que a frase “inteligência militar” tenha sido ridicularizada no passado, alguns críticos podem achar ironia a noção de militares que travaram guerra no Vietnã, Camboja e Iraque, mergulhando na filosofia ética. Shanahan insistiu que a ética estará no coração dos avanços dos EUA na IA, se não nos de seus rivais.

“Estamos pensando profundamente sobre o uso ético, seguro e legal da IA”, disse ele. “No fundo, estamos em um concurso pelo caráter da ordem internacional na era digital. Juntamente com nossos aliados e parceiros, queremos liderar e garantir que esse caráter reflita os valores e interesses das sociedades livres e democráticas. Não vejo a China ou a Rússia colocando o mesmo tipo de ênfase nessas áreas. ”

O uso de IA em armas, popularmente retratado em filmes como O Exterminador do Futuro, não seria necessariamente o topo da bandeja do especialista em ética oficial. Eles também podem ter que lidar com questões de coleta de dados e privacidade, não muito diferentes daquelas levantadas no setor comercial pela Amazon, Netflix e mídias sociais.

Lindsey Sheppard, membro associado do programa de segurança internacional do Centro de Estudos Estratégicos e Internacionais (CSIS) em Washington, disse: “Acho importante lembrar que, quando falamos sobre o Departamento de Defesa usando inteligência artificial, vai além da robótica e da autonomia.

“Os especialistas em ética da IA ​​no Pentágono teriam que ser capazes de suportar toda a variedade de aplicativos de IA, desde quando é aceitável usar inteligência artificial em um sistema de armas até como pensamos sobre os usos aceitáveis ​​e apropriados dos dados pessoais. “

Sheppard sugeriu que o novo nomeado estivesse disposto a “sujar as mãos” visitando a linha de frente.

“Particularmente para tecnologias como essa, há um imenso valor em ver e sempre ficar conectado aos usuários finais, se isso significa sair para o campo de batalha no Afeganistão, onde você tem homens e mulheres usando diretamente a tecnologia. Eles estão orientando como pensamos sobre o uso da tecnologia”.

Fonte: Guardian

In this article

Join the Conversation

Esse site utiliza o Akismet para reduzir spam. Aprenda como seus dados de comentários são processados.