Austrália investiga criação de pornografia infantil com inteligência artificial
Episódio pressiona autoridades australianas a combaterem violência de gênero no país
As autoridades australianas estão investigando a distribuição de imagens pornográficas falsas de cerca de 50 estudantes, supostamente criadas por um adolescente usando inteligência artificial.
A descoberta ocorre no momento em que o governo federal pressiona por novas leis para impor penas de prisão aos infratores que criam e compartilham imagens feitas por ferramentas de IA para humilhar vítimas.
Outros países, incluindo os Estados Unidos, também tentam abordar um aumento alarmante da pornografia deepfake, em que são criados e compartilhados falsos nudes de estudantes – em alguns casos, as falsificações são feitas por colegas de escola.
A Polícia de Victoria confirmou que prendeu e libertou um adolescente “em relação a imagens explícitas circulando online” enquanto se aguarda novas investigações.
As imagens foram supostamente criadas a partir de fotos postadas nas redes sociais de 50 alunas da Bacchus Marsh Grammar, nos arredores de Melbourne, em Victoria.
O diretor da escola, Andrew Neal, disse à Australian Broadcasting Corporation (ABC) que as vítimas eram meninas do 9º ao 12º ano, indicando uma possível faixa etária entre 14 e 18 anos.
A idade e a identidade do menino são desconhecidas, mas Neal disse à ABC que “a lógica sugere que o [agressor] é alguém da escola”.
Em declarações à ABC na quarta-feira (12), a mãe de uma estudante da Bacchus Marsh Grammar de 16 anos, cuja imagem não foi usada, disse que sua filha vomitou ao ver as fotos.
“Fui buscar minha filha em uma festa do pijama e ela estava muito chateada, vomitando e foi incrivelmente gráfico”, disse a mãe à ABC Radio Melbourne, citando apenas seu primeiro nome, Emily.
A escola disse em comunicado que estava oferecendo aconselhamento aos alunos e auxiliando a polícia em sua investigação.
“O bem-estar dos alunos da Bacchus Marsh Grammar e de suas famílias é de suma importância para a escola e está sendo abordado”, disse o comunicado.
Luta legal para impedir deepfakes
As empresas de redes sociais, incluindo a X e a Meta, afirmam que toda a pornografia não consensual é proibida nas suas plataformas, mas as imagens explícitas geradas pela IA continuam a se espalhar rapidamente online.
Em novembro passado, a estudante do ensino médio de Nova Jersey, Francesca Mani, de 14 anos, liderou demandas públicas por uma repressão federal nos EUA contra a pornografia deepfake gerada por IA, dizendo que imagens dela e de dezenas de seus colegas de classe na Westfield High School haviam sido manipuladas.
Vítimas de destaque de imagens explícitas adulteradas incluem Taylor Swift e a congressista de Nova York Alexandria Ocasio-Cortez.
Em março, Ocasio-Cortez sugeriu uma legislação federal – a Lei Disrupt Explicit Forged Images and Non-Consensual Edits Act de 2024 (DEFIANCE Act) – para dar às vítimas o poder de processar pessoas que criem deepfakes não consensuais delas.
No entanto, a legislação bipartidária, apoiada por republicanos sêniores, não conseguiu aprovar uma moção de consentimento unânime na quarta-feira, de acordo com uma declaração da Comissão do Senado sobre o Judiciário.
Victoria é o único estado australiano onde o compartilhamento de pornografia deepfake é crime.
Em 2022, o governo estadual introduziu penas de prisão de três anos para o uso de tecnologia para gerar ou compartilhar material de abuso infantil ou material sexualmente explícito sem consentimento.
Este mês, o governo australiano também deu início ao processo legislativo que deve criminalizar a distribuição de pornografia deepfake em todo o país.
De acordo com a lei proposta, os infratores podem pegar até seis anos de prisão por compartilharem material deepfake não consensual, sexualmente explícito.
Se o infrator também tiver criado conteúdo deepfake compartilhado sem permissão, a pena poderá subir para sete anos de prisão.
Faz parte da resposta do país à violência baseada no género que o primeiro-ministro Anthony Albanese chamou de “crise nacional”.
Até agora, este ano, 35 mulheres foram mortas, de acordo com o projecto Counting Dead Women – muitas alegadamente por parceiros atuais ou antigos.
No mês passado, o governo estadual nomeou um Secretário Parlamentar para a Mudança de Comportamento dos Homens, uma novidade australiana.
Na sua nomeação, o deputado Tim Richardson disse que se concentraria no impacto da Internet e das redes sociais nas atitudes dos homens em relação às mulheres.
Num comunicado divulgado na quarta-feira, a premiê do estado de Victoria, Jacinta Allan, disse que as supostas ações do adolescente eram “vergonhosas e misóginas”.
“Mulheres e meninas merecem respeito nas aulas, online e em qualquer outro lugar da nossa comunidade, e é por isso que criamos leis contra este comportamento e estamos ensinando relações respeitosas nas escolas para acabar com a violência antes que ela comece”, disse Allan.
