Como uma deepfake com o ator Tom Cruise criou uma empresa de IA

No início deste ano, vídeos de Tom Cruise começaram a aparecer no TikTok com o ator fazendo algumas coisas surpreendentemente não-Tom Cruise: brincando em uma loja de roupas masculinas de luxo; exibindo um truque de moedas; rosnando de brincadeira durante uma curta versão de “Crash Into Me” da Dave Matthews Band.

Em um vídeo, ele morde um pirulito e fica surpreso ao encontrar chiclete no centro. “Mmmmm”, diz ele para a câmera. “Isso é incrível. Como é que ninguém nunca me disse que há chiclete? Incrível!”

Apesar do cabelo de estrela de cinema, dos olhos semicerrados e daquela gargalhada típica de mostrar os dentes, não era realmente Cruise. Os 10 vídeos, que foram postados entre fevereiro e junho, apresentavam um sósia gerado por inteligência artificial para se parecer com ele.

Os deepfakes – uma combinação dos termos em inglês “aprendizado profundo” e “falso” – foram criados pelo artista de efeitos visuais e Inteligência Artificial (IA) Chris Umé com a ajuda de um substituto de Cruise, o ator Miles Fisher.

Este Cruise foi tão popular, acumulando dezenas de milhões de visualizações no TikTok, que inspirou Umé a se juntar a outros para lançar uma empresa chamada Metaphysic em junho. Ele usa a mesma tecnologia deepfake para fazer anúncios impossíveis de outra forma e restaurar filmes antigos.

Os projetos falsos da Metaphysic para clientes incluem uma campanha para a Gillette que recriou um jovem Deion Sanders – jogador de futebol americano –  junto com seu visual do dia de sua seleção em 1989, e uma campanha para a Federação Belga de Futebol que trouxe de volta à vida dois dirigentes de seleções da Bélgica já falecidos.

Muita atenção foi dada ao potencial de uso de deepfakes para propósitos nefastos e por boas razões. Os primeiros exemplos conhecidos de vídeos deepfake, postados no Reddit em 2017, apresentavam rostos de celebridades trocados por estrelas pornôs.

Desde então, a tecnologia tem sido frequentemente usada para criar pornografia não consenual. Os legisladores também alertaram que deepfakes podem ser usados para enganar o público americano.

Mesmo assim, Umé e seus sócios estão entre um número crescente de pessoas que estão convencidas de que a tecnologia também pode ser divertida e realizar feitos incríveis para filmes, anúncios e outras formas de mídia que antes eram impensáveis, mesmo com os melhores efeitos especiais.

Os fundadores do Metaphysic preveem o uso de deepfakes para fazer tudo, desde fazer os artistas mais velhos parecerem mais jovens até a criação de dublês de pessoas famosas que podem ser usados para fazer comerciais – ou qualquer tipo de conteúdo – sem a necessidade deles estarem fisicamente no set.

Mas, como mostra uma recente controvérsia sobre o uso de uma voz gerada por IA do falecido chef e personalidade da TV Anthony Bourdain, até mesmo o uso de entretenimento de tal tecnologia controversa pode levantar sobrancelhas e preocupações éticas.

“A tecnologia está avançando, quer alguém goste ou não”, disse o co-fundador da Metaphysic, Tom Graham, empresário de tecnologia que mora em Londres, ao CNN Business. O objetivo da empresa, disse ele, é “realmente focar em tentar desenvolver nosso produto de uma maneira” que evite adicionar aos deepfakes prejudiciais já criados por outros.

Umé, que já trabalhou no episódio piloto da série “Sassy Justice” (dos criadores de “South Park”), acredita que o futuro da tecnologia é realmente brilhante. “É um futuro onde você tem mais liberdade e mais possibilidades criativas”, disse ele.

Deepfakes apoiados por esforço real

Tornou-se fácil encontrar deepfakes online. Alguns aplicativos de smartphone permitem que você mesmo os faça. Mas muitas vezes é possível dizer que os vídeos resultantes foram manipulados.

O tipo de trabalho que Umé e a Metaphysic fazem é diferente, sem falar que é difícil e demorado. Eles não estão apenas tentando criar deepfakes – que os fabricantes disseram ao CNN Business que exigem muito esforço simplesmente para parecer apresentável – mas aqueles que parecem o mais perfeitos possível.

Para os vídeos de Cruise que Umé fez, ele disse que primeiro passou cerca de dois meses e meio treinando um modelo de Inteligência Artificial (IA) em vídeos e imagens da estrela de Hollywood, tentando capturá-lo de tantos ângulos e em tantas condições de iluminação quanto possível.

De acordo com Umé, isso permite que o modelo de IA aprenda como a pele do ator deve reagir em diferentes tomadas. Como o objetivo era fazer vídeos aparentemente sinceros e falsos de Cruise, em vez de cenas dramáticas de ação, o material de treinamento também incluiu muitas entrevistas públicas de Cruise, disse Umé.

Umé também precisava gravar vídeos básicos para o deepfake. Fisher, dublê de corpo (e voz) de Cruise, veio com os conceitos para os vídeos, segundo Umé. Em seguida, Umé levou dois a três dias para gerar um vídeo deepfake combinando imagens de Fisher com o rosto de Cruise, além de outras 24 horas usando ferramentas de IA para fazer coisas como melhorar a qualidade do vídeo.

Às vezes, Umé adiciona floreios baseados em IA complicados. Por exemplo, este vídeo falso que supostamente é de um Cruise bigodudo exibindo sua coleção de CDs é, na verdade, uma combinação de Fisher, Cruise e um terceiro cara (o bigode vem do DJ holandês Bram Krikke).
Esses detalhes, ele pensa, mostram quão bem a IA pode ser usada para mudar a aparência de um ator – ao invés de usar efeitos visuais tradicionais para alterar meticulosamente um vídeo, um quadro de cada vez.

“Eu serei o primeiro a retirá-lo”

Devido ao quão nova esta tecnologia é, não existem regras claras sobre como os deepfakes devem ser feitos e compartilhados. Ainda não está claro, por exemplo, se ou quando os espectadores devem ser informados de que estão olhando para um deepfake, ou quais diretrizes devem reger o processo de consentimento para o assunto de um deepfake.

Nick Diakopoulos, professor associado em estudos de comunicação e ciência da computação na Northwestern University, acha que podemos olhar para a mídia existente em busca de algumas dicas.

Se você está assistindo a um sucesso de bilheteria em um cinema, está acostumado a ver a realidade misturada com efeitos especiais e entende que os anúncios são feitos para serem altamente manipuladores. Mas os deepfakes também podem ser personalizados para atrair pessoas em diferentes grupos demográficos, observou ele, ou uma celebridade que você vê endossando um produto em um anúncio deepfake pode ser escolhida de acordo com seus interesses. Nessas situações, ele acha que uma divulgação pode ser necessária para que o espectador não se sinta manipulado.

“Acho que essas questões éticas são realmente complicadas porque não existem regras rígidas e rápidas onde você pode traçar uma linha clara e dizer: ‘Nunca cruzaremos essa linha'”, disse Diakopoulos.

Umé, que mora em Bangkok, e seus co-fundadores da Metaphysic – o irmão de Umé, Kevin, que está na Bélgica, e Graham – enfatizaram que estão tentando estar atentos à necessidade de grades de proteção nessa tecnologia movida a IA. Ou seja, eles querem ter certeza de que é usado de forma ética e adequada.

A empresa está trabalhando diretamente com clientes que querem deepfakes e usando sua própria tecnologia para que saiba que tem algum controle sobre a produção, disse Graham. Além disso, requer consentimento do sujeito para projetos comerciais.

As preocupações são oportunas, após a revelação de que um novo documentário sobre Bourdain continha três fragmentos de diálogos gerados por IA que pareciam ser dele falando. O uso de IA não foi inicialmente esclarecido aos telespectadores e a ex-esposa de Bourdain mais tarde se manifestou contra isso no Twitter.

Umé não ouviu nenhuma reclamação de Cruise ou de outras celebridades que ele parodiou usando IA. Ele disse que entrou em contato com a gerência de Cruise, oferecendo-se para retirar os vídeos e entregar o controle da conta da TikTok se Cruise não aprovasse o que eles estavam fazendo. Umé disse que simplesmente recebeu uma resposta indicando que a mensagem havia sido recebida. Cruise não comentou publicamente sobre os deepfakes, e os representantes da Cruise não responderam aos pedidos de comentários do CNN Business.

Devido ao status de Cruise como uma figura pública e ao fato de que os vídeos são paródias alegres, eles parecem não entrar em conflito com uma regra do TikTok que proíbe “conteúdo sintético ou manipulado que engana os usuários, distorcendo a verdade dos eventos de uma forma que poderia causar danos. “

“Se alguma dessas celebridades se sentir mal com o que estou fazendo, serei o primeiro a tirar, porque essa não é minha intenção”, disse Umé. “Mas eu gosto de hipnotizar as pessoas.”

Enquanto isso, no TikTok, a conta deeptomcruise adicionou deepfakes de outras celebridades, incluindo um vídeo da cantora Mariah Carey no final de julho. Vestida em couro preto enquanto está sentada em uma motocicleta, ela veste um capacete preto com orelhas de gato. “Aposto que você nunca pensou que veria isso, hein?” ela diz com um sorriso, antes de sair de um estacionamento.

(Texto traduzido. Para ler o original, clique aqui)