Deepfakes de estrelas de Bollywood geram preocupações em eleições na Índia

Em vídeos falsos que se tornaram virais na internet, dois dos principais atores de Bollywood são vistos criticando o primeiro-ministro da Índia, Narendra Modi, e pedindo às pessoas que votem no oposicionista Partido do Congresso nas eleições gerais em andamento no país.

Em um vídeo de 30 segundos com Aamir Khan e outro de 41 segundos com Ranveer Singh, os dois atores supostamente dizem que Modi não cumpriu suas promessas de campanha e não abordou questões econômicas críticas durante seus dois mandatos como primeiro-ministro.

Os dois vídeos gerados por inteligência artificial terminam com o símbolo eleitoral do Partido do Congresso e o slogan: “Vote por Justiça, Vote no Congresso”.

Os dois vídeos foram vistos nas redes sociais mais de meio milhão de vezes desde a semana passada, segundo uma análise da Reuters.

A disseminação destaca o papel potencial que o conteúdo gerado por IA pode desempenhar nas eleições indianas que começaram na sexta-feira (19) e continuarão até junho. A IA e as falsificações geradas por IA, ou deepfakes, estão sendo cada vez mais usadas em eleições em outras partes do mundo, inclusive nos Estados Unidos, Paquistão e Indonésia.

As campanhas eleitorais na Índia há muito tempo se concentram em divulgação de porta em porta e comícios públicos, mas o uso extensivo do WhatsApp e do Facebook como ferramentas de campanha começou em 2019. O pleito deste ano – em que se espera que Modi garanta um raro terceiro mandato — é o primeiro em que a IA está sendo usada.

Uma porta-voz do Partido do Congresso, Sujata Paul, compartilhou o vídeo do ator Singh com seus 16.000 seguidores no X em 17 de abril e, no sábado (20), sua publicação havia sido compartilhada novamente 2.900 vezes, curtida 8.700 vezes e recebido 438.000 visualizações.

Paul disse à Reuters por telefone que estava ciente de que o vídeo estava marcado como “mídia manipulada” pelo X, mas não quis excluí-lo porque, ao postar, achou que a pessoa era parecida com Singh e “com certeza tem criatividade”.

A publicação não estava mais visível no X no domingo (21), horas depois que a Reuters enviou um pedido de comentário ao chefe da unidade de mídia social do Partido do Congresso, que não respondeu.

Os dois atores disseram que os vídeos são falsos. O Facebook, o X e pelo menos oito sites de verificação de fatos disseram que eles foram alterados ou manipulados, o que a unidade de verificação digital da Reuters também confirmou.

A Reuters não conseguiu determinar quem criou os vídeos. Khan ficou “alarmado” com o vídeo viral “falso” e a equipe de Singh estava investigando o assunto, de acordo com um porta-voz de ambos os atores. Singh escreveu no X na sexta-feira: “Cuidado com os deepfakes, amigos”.

O escritório de Modi e o chefe de tecnologia da informação de seu partido, o Partido do Povo Indiano, não responderam aos pedidos de comentários.