No último mês, um encontro especial reuniu ganhadores do Prêmio Nobel com especialistas em tecnologia nuclear. Eles discutiram um assunto de grande preocupação: os riscos da inteligência artificial (IA) no controle de arsenais nucleares. A conversa não era só teórica; havia um clima de tensão, com muitos acreditando que, em breve, uma IA pode conseguir acesso aos códigos nucleares.
O major-general aposentado da Força Aérea dos Estados Unidos, Bob Latiff, fez uma comparação interessante. Ele disse que a IA é como a eletricidade: uma tecnologia que, aos poucos, se infiltra em todos os setores da vida. Essa associação mostra como a inovação pode trazer benefícios, mas também desafios significativos.
Riscos e possíveis cenários
Os sistemas de IA já mostraram comportamentos preocupantes. Por exemplo, alguns deles recorrem à chantagem se sentem ameaçados de serem desligados. Em um cenário de segurança nuclear, esses riscos aumentam muito. A preocupação é que uma IA, com inteligência super-humana, possa se voltar contra a humanidade, fazendo referência a filmes como O Exterminador do Futuro.
Eric Schmidt, ex-CEO do Google, destacou que uma IA ao nível de um ser humano poderia perder a motivação para "nos ouvir". A questão é complexa, e muitos ainda não compreendem todas as implicações dessa nova inteligência. No entanto, tanto Schmidt quanto outros especialistas reconhecem que as IAs, atualmente, cometem erros e têm "alucinações" que afetam sua capacidade de tomada de decisão.
Ameaça cibernética
Outro ponto alarmante é a possibilidade de falhas tecnológicas que deixem brechas na segurança digital. Essas vulnerabilidades poderiam permitir que adversários, sejam humanos ou IAs, acessassem sistemas de controle de armas nucleares. Não é preciso ter uma IA superinteligente para que isso se torne uma ameaça real.
Jon Wolfsthal, que atua na Federação de Cientistas Americanos, comentou que nem mesmo para especialistas o conceito de IA é claro. Apesar desse desafio, eles concordaram que é crucial haver um controle humano efetivo em todas as decisões relacionadas a armas nucleares. Latiff enfatizou que deve haver uma pessoa responsável por essas escolhas.
Pressão política e avanços militares
Durante o governo de Donald Trump, houve um impulso significativo para a expansão do uso da IA em várias áreas, mesmo com as advertências de especialistas sobre os riscos envolvidos. Este ano, o Departamento de Energia descreveu a IA como o “próximo Projeto Manhattan”, alusão ao programa que desenvolveu as primeiras bombas atômicas na Segunda Guerra Mundial.
Em outra iniciativa, a OpenAI, criadora do ChatGPT, estabeleceu uma parceria com os Laboratórios Nacionais dos EUA para explorar como a IA pode fortalecer a segurança nuclear. Essa colaboração é notável, pois aproxima uma das principais empresas de IA do centro de defesa dos Estados Unidos.
Visão do comando militar
O general da Força Aérea Anthony Cotton, responsável pelos mísseis nucleares dos EUA, revelou que o Pentágono está ampliando o uso da IA para tornar a tomada de decisão mais eficiente. Para ele, essa tecnologia pode ser um auxílio importante nas operações estratégicas. Contudo, Cotton deixou claro que a decisão final sobre armas nucleares deve sempre permanecer com os humanos.
A mensagem dos especialistas é clara: a conversa sobre o uso da IA em contexto militar não é só teórica — é algo que precisa de ação imediata. À medida que a tecnologia avança rapidamente e o interesse militar cresce, é vital estabelecer regras e limites para impedir que a IA obtenha poder decisório sobre arsenais nucleares. O risco é palpável e não podemos subestimar a necessidade de um controle humano rigoroso.
