TikTok rotulará imagens e vídeos gerados por inteligência artificial
Nova ferramenta irá adotar marca d'água digital para identificar vídeos que foram criados ou editados com o uso de IA
O TikTok anunciou nesta quinta-feira (09) que começará a usar uma tecnologia destinada a identificar imagens e vídeos gerados por inteligência artificial (IA). Com isso, os vídeos passarão a carregar rótulos marcando que foram feitos com o uso da tecnologia.
A rede social explicou que adotará “Credenciais de Conteúdo“, uma marca d’água digital que indica como as imagens foram criadas e editadas. A tecnologia foi liderada pela Adobe, mas está aberta para uso de outras empresas e já foi adotada por companhias como a OpenAI, criadora do ChatGPT.
Pesquisadores têm expressado preocupação com o fato de que o conteúdo gerado por IA pode ser usado como arma de desinformação principalmente em períodos eleitorais. Os Estados Unidos terão eleições no final deste ano, por exemplo, enquanto o Brasil terá as eleições municipais.
O TikTok já faz parte de um grupo de 20 empresas de tecnologia que, no início deste ano, assinou um acordo comprometendo-se a combater a prática de propagação de informações falsas.
YouTube e a Meta, dona do Instagram e do Facebook, também disseram que planejam usar a tecnologia de “Credenciais de Conteúdo”.
Para que o sistema funcione, tanto o criador quanto a plataforma usada para distribuir o conteúdo devem concordar em usar o padrão. Se uma pessoa usa a ferramenta Dall-E da OpenAI para gerar uma imagem, por exemplo, a OpenAI anexa uma marca d’água à imagem resultante. Se essa imagem for carregada no TikTok, ela será automaticamente rotulada como gerada por IA.
O TikTok já rotula o conteúdo gerado por IA feito com ferramentas dentro do aplicativo, mas a última medida aplicará um rótulo ao conteúdo gerado fora do serviço.
“Também temos políticas que proíbem o uso de IA realista que não esteja rotulada, portanto, se a IA realista (conteúdo gerado) aparecer na plataforma, nós a removeremos por violar nossas diretrizes da comunidade”, disse Adam Presser, chefe de operações e segurança do TikTok.
