O Pentágono revelou uma iniciativa controversa que busca inundar as mídias sociais com perfis falsos e conteúdo gerado por inteligência artificial (IA), incluindo deepfakes, para realizar operações secretas por seus agentes. A informação vem de um documento obtido pelo The Intercept, que detalha que esse plano faz parte dos esforços das Forças de Operações Especiais dos EUA (JSOC), que estão empregando esses métodos para coletar informações e manipular discussões em fóruns e redes. Isso gerou preocupações dentro e fora das forças armadas, devido ao impacto que poderia ter sobre a confiança nas informações que circulam na Internet e o potencial de desinformação.
Deepfakes são conteúdos manipulados digitalmente por IA para parecerem reais. Podem ser imagens, vídeos ou áudios que mostram pessoas dizendo ou fazendo coisas que nunca fizeram de fato. Essa tecnologia avançou rapidamente nos últimos anos e, embora possa ter usos legítimos, como no entretenimento, também provou ser um vetor perigoso para a desinformação. O Pentágono reconheceu seu interesse em usar essa tecnologia para criar perfis falsos confiáveis para ajudar em suas operações.
O uso de deepfakes pelo Pentágono levanta questões éticas porque, embora possa ser usado para fins de inteligência, corre o risco de exacerbar a crise de confiança nas informações on-line. Esse tipo de tecnologia já foi usado por agentes mal-intencionados, estatais e não estatais, para divulgar notícias falsas, manipular a opinião pública ou difamar figuras políticas.
Objetivos do Pentágono
O documento revela que as operações do Pentágono se concentrariam na criação de perfis falsos para se envolver em conversas e fóruns de mídia social, reunindo informações úteis para seus objetivos. Esses perfis não se limitariam apenas a contas fictícias comuns, mas seriam criados usando IA para produzir imagens realistas de pessoas inexistentes, vídeos falsos e até mesmo interações automatizadas. A sofisticação dessas operações poderia tornar os perfis extremamente difíceis de serem detectados como falsos, permitindo-lhes influenciar discussões ou acessar informações importantes sem levantar suspeitas.
Um ponto importante é o fato de que o Pentágono vê essa técnica como uma ferramenta de coleta de inteligência em situações em que seria difícil obter informações de maneira mais tradicional. Entretanto, essa abordagem também abre a porta para usos mais obscuros, como a manipulação direta da opinião pública, tanto dentro quanto fora dos EUA, injetando narrativas falsas ou tendenciosas em fóruns e plataformas onde questões sensíveis são debatidas.
Crise de informações
O uso de deepfakes por instituições governamentais levantou sérias preocupações sobre o precedente que isso poderia estabelecer. As organizações de direitos digitais alertaram que essas iniciativas poderiam exacerbar a crise de desinformação que já existe na Internet. Ao criar contas falsas e disseminar conteúdo manipulado, a mídia social corre o risco de se tornar um espaço ainda mais difícil de navegar, onde a linha entre fato e ficção está cada vez mais tênue.
Alguns críticos também apontam que essas táticas, empregadas por um dos exércitos mais poderosos do mundo, poderiam incentivar outros países a usar métodos semelhantes. Isso poderia desencadear uma espécie de “corrida armamentista” digital, na qual governos, empresas e agentes mal-intencionados competem para ver quem consegue manipular melhor a opinião pública e controlar as narrativas on-line.
Por outro lado, os defensores da medida argumentam que o Pentágono está agindo em resposta a um ambiente de guerra digital no qual atores como a Rússia e a China, que têm sido repetidamente acusados de usar desinformação e perfis falsos de mídia social para influenciar eventos globais, já estão operando. Sob essa perspectiva, o uso de deepfakes pelos EUA seria uma forma de nivelar o campo de atuação e proteger seus interesses de segurança nacional.