O que saber sobre o Lensa, app de IA que transforma usuários em “avatares mágicos”
Imagens estilizadas e sensuais preocupam especialistas em privacidade, artistas digitais e usuários já que app retornou imagens nuas de fotos enviadas sem nudez, o que poderia provocar a "pornografia de vingança"
Se você se conectou a qualquer aplicativo de mídia social esta semana, provavelmente já viu fotos de seus amigos, mas reimaginados como princesas, fadas, personagens de anime ou seres celestiais.
Tudo por causa do Lensa, um aplicativo que usa inteligência artificial para renderizar imagens digitais com base nas fotos enviadas pelos usuários.
Com retratos atraentes e altamente estilizados, o Lensa também se tornou objeto de preocupação de especialistas em privacidade, artistas digitais e usuários que notaram que o aplicativo tornava sua pele mais pálida ou seus corpos mais magros.
Aqui está tudo o que você precisa saber sobre o Lensa:
Como obter seu próprio “avatar mágico”
As imagens que circulam online são produtos da função “Magic Avatars” do Lensa. Para experimentá-lo, primeiro você precisa baixar o aplicativo Lensa em seu telefone. Uma assinatura anual do aplicativo, que também oferece serviços de edição de fotos, custa US$ 35,99 (aproximadamente R$ 170) . Mas você pode usar o aplicativo gratuitamente por uma semana, se quiser testá-lo antes.
Gerar os avatares mágicos requer uma taxa adicional. Contanto que você tenha uma assinatura ou avaliação gratuita, você pode obter 50 avatares por US$ 3,99 ( R$ 18,88), 100 por US$ 5,99 ( R$ 28,35) ou 200 por US$ 7,99 (R$ 37,8).
O Lensa recomenda que os usuários enviem de 10 a 20 selfies para obter os melhores resultados. As fotos devem ser closes do seu rosto com uma variedade de planos de fundo, expressões faciais e ângulos diferentes. O app também estipula que deve ser usado apenas por pessoas com 13 anos ou mais.
O Lensa é um produto da Prisma, que alcançou popularidade pela primeira vez em 2016 com uma função que permite aos usuários transformar suas selfies em imagens no estilo de artistas famosos.
O aplicativo explica em sua política de privacidade que eles usam a tecnologia TrueDepth API, e as fotos fornecidas pelo usuário, ou “dados faciais”, são usadas “para treinar nossos algoritmos para um melhor desempenho e mostrar melhores resultados”.
Testamos o aplicativo para ver como é
Para testar o aplicativo, selecionei 20 selfies que achei que mostravam uma variedade de expressões e ângulos e escolhi a opção de 100 avatares. Demorou cerca de 20 minutos para o Lensa devolver meus avatares, que se enquadravam em 10 categorias: fantasia, princesa fada, foco, pop, estiloso, animé, leve, kawaii, furta-cor e cósmico.
Em geral, senti que o aplicativo fez um trabalho decente produzindo imagens artísticas com base em minhas selfies. Não consegui me reconhecer na maioria dos retratos, mas pude ver de onde eles vinham.
Parecia reconhecer e repetir certos traços, como minha pele pálida ou meu nariz redondo, mais do que outros. Alguns deles tinham um estilo mais realista e estavam próximos o suficiente para que eu pudesse pensar que eram fotos minhas se visse de longe. Outros eram significativamente mais estilizados e artísticos, então pareciam menos específicos para mim.
Para algumas mulheres, o app produz imagens sexualizadas
Um dos desafios que encontrei no aplicativo foi descrito por outras mulheres online. Mesmo que todas as imagens que carreguei fossem totalmente vestidas e principalmente closes do meu rosto, o aplicativo retornou várias imagens com nudez implícita ou real.
Em uma das imagens mais desorientadoras, parecia que uma versão do meu rosto estava em um corpo nu. Em várias fotos, parecia que eu estava nua, mas com um cobertor estrategicamente colocado, ou a imagem apenas cortada para esconder algo explícito. E muitas das imagens, mesmo onde eu estava totalmente vestida, apresentavam uma expressão facial sensual, decote significativo e roupas minúsculas que não combinavam com as fotos que enviei.
Isso foi surpreendente, mas não sou a única mulher que passou por isso. Olivia Snow, pesquisadora do centro para investigação crítica da internet e dominatrix profissional da UCLA, disse à CNN que o aplicativo retornou imagens nuas, mesmo quando ela enviou fotos de si mesma quando criança, uma experiência que ela documentou para a WIRED.
Snow disse que a tecnologia de inteligência artificial como que o Lensa usa pode ser usada para gerar “pornografia de vingança”, ou seja, fazer imagens nuas de alguém sem seu consentimento. Para Snow, a saída foi um sinal da “completa falta de moderação de conteúdo” no aplicativo. Ela também pediu maior regulamentação de aplicativos de IA como o Lensa.
O Lensa não respondeu a um pedido da CNN para comentar sobre o aplicativo produzir imagens nuas ou sexualizadas.
Outros usuários documentaram diferentes formas de viés produzidos em suas imagens, como usuários negros que são “esbranquiçados” e mostrados como mais pálidos do que realmente são. Da mesma forma, Aubrey Gordon, escritora e ativista dos direitos da gordura, escreveu em seu Instagram verificado que o aplicativo produzia imagens que a faziam parecer muito mais magra do que realmente é.
“O Lensa está realmente fazendo horas extras para transformar a IA em uma pessoa magra”, escreveu ela.
Artistas digitais dizem que o aplicativo coopta seu trabalho
A tecnologia da Lensa conta com um modelo de deep learning chamado Stable Diffusion, de acordo com sua política de privacidade. A Stable Diffusion usa uma enorme rede de arte digital extraída da internet, de um banco de dados chamado LAION-5B, para treinar sua inteligência artificial. Atualmente, os artistas não podem optar por ter ou não sua arte incluída no conjunto de dados e, portanto, usada para treinar o algoritmo.
Isso levantou preocupações de alguns artistas, que dizem que a Stable Diffusion depende de suas obras de arte para fazer suas próprias imagens, mas não são creditados ou compensados por seu trabalho.
No início deste ano, a CNN noticiou vários artistas que ficaram chateados quando descobriram que seu trabalho havia sido usado sem seu consentimento ou pagamento para treinar a rede neural para Stable Diffusion.
Vários dos artistas expressaram preocupação de que os aplicativos também possam ameaçar seus meios de subsistência. Os artistas digitais não podem competir com os preços baixos e a inteligência artificial rápida permite um retrato digital, disseram na época.
Proprietária do Lensa, a Prisma, tentou amenizar as preocupações sobre a tecnologia que elimina o trabalho de artistas digitais.
“Embora tanto os humanos quanto a IA aprendam sobre estilos artísticos de maneiras semi-semelhantes, existem algumas diferenças fundamentais: a IA é capaz de analisar e aprender rapidamente com grandes conjuntos de dados, mas não tem o mesmo nível de atenção e apreciação pela arte como ser humano”, escreveu a empresa no Twitter em 6 de dezembro.
E “as saídas não podem ser descritas como réplicas exatas de qualquer obra de arte em particular”.
