Mais IA no campo de batalha tornará a névoa da guerra mais mortal

May 18, 2023

Cavaleiro

As forças armadas dos Estados Unidos já não são a força incomparável que já foram, mas Alexandr Wang, CEO da startup Scale AI, disse a um comité do Congresso na semana passada que poderia estabelecer uma nova vantagem ao aproveitar a inteligência artificial.

“Temos a maior frota de equipamento militar do mundo”, disse Wang ao Subcomitê de Serviços Armados da Câmara sobre Cibernética, Tecnologia da Informação e Inovação. “Se pudermos configurar e instrumentar adequadamente esses dados que estão sendo gerados... então poderemos criar uma vantagem de dados bastante intransponível quando se trata do uso militar da inteligência artificial.”

A empresa de Wang tem interesse nessa visão, uma vez que trabalha regularmente com o Pentágono no processamento de grandes quantidades de dados de formação para projetos de IA. Mas há uma convicção nos círculos militares dos EUA de que o aumento da utilização da IA ​​e da aprendizagem automática é virtualmente inevitável – e essencial. Escrevi recentemente sobre esse movimento crescente e como uma unidade do Pentágono está a utilizar robótica e software de IA disponíveis no mercado para vigiar de forma mais eficiente grandes áreas do oceano no Médio Oriente.

Além dos dados militares incomparáveis ​​do país, Wang disse na audiência do Congresso que os EUA têm a vantagem de abrigar os fabricantes de chips de IA mais avançados do mundo, como a Nvidia, e a melhor experiência em IA do mundo. “A América é o lugar preferido dos cientistas de IA mais talentosos do mundo”, disse ele.

Também vale a pena prestar atenção ao interesse de Wang pela IA militar porque a Scale AI está na vanguarda de outra revolução da IA: o desenvolvimento de modelos de linguagem grandes e poderosos e chatbots avançados como o ChatGPT.

Ninguém está pensando em recrutar o ChatGPT para o serviço militar ainda, embora tenham havido alguns experimentos envolvendo o uso de grandes modelos de linguagem em jogos de guerra militares. Mas os observadores veem os recentes saltos das empresas norte-americanas no desempenho da IA ​​como outra vantagem importante que o Pentágono poderá explorar. Dada a rapidez com que a tecnologia está a desenvolver-se – e o quão problemática ainda é – isto levanta novas questões sobre quais as salvaguardas que poderão ser necessárias em torno da IA ​​militar.

Este salto nas capacidades da IA ​​ocorre num momento em que as atitudes de algumas pessoas em relação ao uso militar da IA ​​estão a mudar. Em 2017, o Google enfrentou uma reação negativa por ajudar a Força Aérea dos EUA a usar IA para interpretar imagens aéreas por meio do Projeto Maven do Pentágono. Mas a invasão da Ucrânia pela Rússia suavizou as atitudes públicas e políticas em relação à colaboração do sector privado com empresas tecnológicas e demonstrou o potencial dos drones autónomos baratos e da IA ​​comercial para análise de dados. As forças ucranianas estão usando algoritmos de aprendizagem neural profunda para analisar imagens e filmagens aéreas. A empresa norte-americana Palantir disse que está fornecendo software de segmentação para a Ucrânia. E a Rússia está cada vez mais focada na IA para sistemas autónomos.

Gregório Barbeiro

Adriane So

Julian Chokkatu

Matt Simão

Apesar dos receios generalizados sobre “robôs assassinos”, a tecnologia ainda não é suficientemente fiável para ser utilizada desta forma. E ao reportar sobre as ambições de IA do Pentágono, não encontrei ninguém dentro do Departamento de Defesa, das forças dos EUA, ou de startups focadas em IA ansiosas por libertar armas totalmente autónomas.

Mas uma maior utilização da IA ​​criará um número crescente de encontros militares em que os humanos serão removidos ou abstraídos da equação. E embora algumas pessoas tenham comparado a IA com armas nucleares, o risco mais imediato é menos o poder destrutivo dos sistemas militares de IA do que o seu potencial para aprofundar o nevoeiro da guerra e aumentar a probabilidade de erros humanos.

Quando falei com John Richardson, um almirante de quatro estrelas reformado que serviu como chefe de operações navais da Marinha dos EUA entre 2015 e 2018, ele estava convencido de que a IA terá um efeito no poder militar semelhante ao da revolução industrial e da era atómica. E destacou que o lado que melhor aproveitou essas revoluções anteriores venceu as duas últimas guerras mundiais.

Mas Richardson também falou sobre o papel das conexões humanas na gestão de interações militares impulsionadas por tecnologia poderosa. Enquanto servia como chefe da Marinha, ele se esforçou para conhecer seus homólogos nas frotas de outras nações. “Cada vez que nos encontrávamos ou conversávamos, tínhamos uma noção melhor um do outro”, diz ele. “O que eu realmente queria fazer era ter certeza de que, caso algo acontecesse – algum tipo de erro de cálculo ou algo assim – eu pudesse ligar para eles em um prazo relativamente curto. Você simplesmente não quer que essa seja sua primeira ligação.”