Exclusivo: EUA detectaram deepfakes da China e Irã que visavam afetar eleições
Agentes que trabalham para os governos da China e Irã prepararam conteúdo falso com IA para influenciar eleitores em 2020, mas nunca divulgaram o deepfake, dizem autoridades dos EUA
Agentes que trabalham para os governos chinês e iraniano prepararam conteúdo falso gerado por inteligência artificial como parte de uma campanha para influenciar os eleitores dos Estados Unidos nas últimas semanas da campanha eleitoral de 2020, disseram à CNN ex-funcionários e atuais dos EUA informados sobre a inteligência.
Os agentes chineses e iranianos nunca divulgaram publicamente o áudio ou vídeo deepfake, mas os detalhes, que somente agora vêm à tona, demonstram preocupações que as autoridades norte-americanas tinham há quatro anos sobre a vontade das potências estrangeiras de amplificar informações falsas sobre o processo de votação.
A Agência de Segurança Nacional (NSA) recolheu informações que deram às autoridades dos EUA perspectivas sobre as capacidades da China e do Irã na produção de deepfakes, disse uma das fontes.
Agora, com áudio e vídeo deepfake muito mais fáceis de produzir e com as eleições presidenciais a apenas seis meses de distância, as autoridades norte-americanas estão cada vez mais preocupadas com a forma como uma campanha de influência estrangeira pode explorar a inteligência artificial para enganar os eleitores.
Em um exercício na Sala de Situação da Casa Branca em dezembro passado, em preparação para as eleições de 2024, funcionários do alto escalão dos EUA lutaram para saber como responder a um cenário em que agentes chineses criam um vídeo falso gerado por inteligência artificial retratando um candidato ao Senado destruindo cédulas, como a CNN já havia reportado.
Em um briefing na semana passada, funcionários do FBI alertaram que a IA aumenta a capacidade dos estados estrangeiros de espalharem desinformação eleitoral.
Não está claro o que foi retratado nos deepfakes que os agentes chineses e iranianos prepararam em 2020, de acordo com as fontes, ou por que razão não foram finalmente colocados em prática durante as eleições.
Na época, algumas autoridades dos EUA que analisaram a informação não ficaram impressionadas, acreditando que esta mostrava que a China e o Irã não tinham capacidade para implantar deepfakes de uma forma que teria um impacto sério nas eleições presidenciais de 2020, disse um ex-funcionário do alto escalão dos EUA à CNN.
“A tecnologia tem que ser boa; não acho que tenha sido tão boa”, disse o ex-funcionário. “Em segundo lugar, é preciso ter apetite pelo risco. China, não. Irã, provavelmente sim”.
De olho nos adversários
A NSA continuou a coletar informações sobre adversários estrangeiros que desenvolvem deepfakes e a ameaça potencial que representam para as eleições nos EUA, agora que a tecnologia avançou dramaticamente nos últimos quatro anos, acrescentou o ex-funcionário, apontando que em 2020, não havia, por exemplo, um grande modelo de linguagem como ChatGPT que era fácil de usar.
A CNN solicitou comentários da NSA.
As autoridades dos EUA mantiveram um alto nível de visibilidade sobre a IA e os avanços deepfake feitos por países como China, Irã e Rússia desde as eleições de 2020.
Mas colocar essa inteligência em uso dentro dos EUA continua a ser um desafio, disse o ex-funcionário.
“A questão é com que rapidez podemos detectar uma anomalia e depois compartilhá-la rapidamente dentro dos Estados Unidos”, disse o ex-funcionário à CNN. “Estamos vencendo a corrida contra uma série de adversários que podem operar nos EUA? Esse é o desafio”.
A ameaça de deepfakes e influência estrangeira será colocada em pauta na audiência do Comitê de Inteligência do Senado na quarta-feira (15), quando os legisladores terão a rara oportunidade de interrogar publicamente o diretor de inteligência nacional e outros funcionários do alto escalão sobre ameaças estrangeiras às eleições.
Embora não tenham implantado seus deepfakes em 2020, agentes do governo iraniano empreenderam uma tentativa descarada naquele ano de influenciar os eleitores, imitando o grupo de extrema direita Proud Boys e divulgando um vídeo que pretendia mostrar o hackeamento de um banco de dados de registro eleitoral dos EUA, de acordo com os promotores dos EUA.
“O fato de os iranianos terem usado a porcaria dos Proud Boys, mas não terem tentado falsificações profundas, foi uma falta de fé nas capacidades ou um sinal de falta de orientação interna clara”, disse uma pessoa familiarizada com a inteligência à CNN.
Perdido na tradução
Para que as operações de influência estrangeira sejam eficazes, também precisam ter repercussão com o público americano, algo com que a China tem lutado, disse o ex-funcionário do alto escalão dos EUA.
“Acho que é claramente uma peça cultural”, disse o ex-funcionário. “Eles realmente têm uma compreensão muito difícil das questões que causam divisão ou necessariamente de como lidar com essas questões, o que os russos não têm”.
A IA generativa, ou IA usada para criar vídeo, áudio, imagens ou texto, tornou os atores de influência estrangeiros mais eficientes na criação de conteúdo, mas “não há evidências de que tenha tornado eles ou suas campanhas mais eficazes”, disse Lee Foster, um especialista em rastrear operações de influência estrangeira online.
“Até agora, a IA generativa não ajudou os atores a resolver o principal gargalo que enfrentam: a distribuição”, disse Foster, cofundador da empresa de segurança de inteligência artificial Aspect Labs.
“Os atores raramente tiveram dificuldade em criar conteúdo. Colocá-lo diante dos olhos certos em uma escala significativa foi e continua a ser o ponto de discórdia, que a IA até agora não os ajudou a superar”.
Foster e outros especialistas alertaram contra o exagero do impacto das operações de influência estrangeira, incluindo aquelas que utilizam IA, porque isso beneficia os próprios propagandistas.
Desinformação nos EUA
Mas os EUA continuam a ser um terreno fértil para teorias da conspiração, sejam de origem nacional ou estrangeira.
Quase 70% dos republicanos e de tendência republicana disseram que a vitória do presidente Joe Biden nas eleições de 2020 não foi legítima, de acordo com uma pesquisa da CNN divulgada em agosto.
E as opiniões positivas de muitas instituições governamentais estão “em mínimos históricos”, com apenas 16% do público afirmando que confia sempre ou na maior parte do tempo no governo federal, de acordo com uma pesquisa do Pew Research Center divulgada em setembro.
As eleições de 2024 nos EUA apresentarão novas oportunidades para operações de influência estrangeira.
A ajuda militar dos EUA à Ucrânia está essencialmente em risco, com os democratas apoiando amplamento Biden na questão da Ucrânia e alguns líderes republicanos, incluindo o ex-presidente Donald Trump, se afastando cada vez mais da ajuda externa.
Funcionários do FBI estão preocupados que a guerra na Ucrânia – e o apoio dos EUA a Kiev – possa ser um “evento animador para os russos” em termos de condução de operações de interferência ou influência destinadas às eleições nos EUA, disse um funcionário do alto escalão do FBI aos repórteres na semana passada.
