Gravação falsa com deepfake gera ameaças a diretor de colégio nos EUA
Áudio foi feito por um funcionário da instituição após confronto com diretor
A gravação viralizou em janeiro, provocando revolta nos subúrbios de Baltimore.
Parecia que o diretor da escola Pikesville, Eric Eiswert, tinha sido pego fazendo comentários racistas e antissemitas. Chamadas furiosas inundaram a recepção. Os funcionários sentiram medo. A segurança foi reforçada.
Eiswert foi colocado em licença administrativa aguardando uma investigação. Ele recebeu várias ameaças de violência. Segundo um relatório policial, alguém disse a ele que “o mundo seria um lugar melhor se você estivesse do outro lado da terra (enterrado)”.
Em todos os momentos, Eiswert negou ter feito os comentários ofensivos. Ele disse que não era a sua voz na gravação e que acreditava que era um “deepfake” de inteligência artificial (IA). E na quinta-feira (25), as autoridades policiais anunciaram que acreditavam que ele estava certo.
A gravação era falsa, de acordo com a polícia de Baltimore. E o homem acusado de fazê-la – um funcionário da escola que tido um confronto com o diretor – foi preso sob acusações que incluem perturbar o funcionamento de uma escola.
“Hoje nos sentimos aliviados por termos esclarecido um pouco a origem deste áudio”, disse na quinta-feira o chefe executivo do condado de Baltimore, Johnny Olszewski, em uma entrevista coletiva na qual sugeriu as preocupantes possibilidades da IA. “No entanto, está claro que também estamos entrando em uma nova fronteira profundamente preocupante”.
A origem da gravação
Foi assim que tudo aconteceu, de acordo com os funcionários do condado e um depoimento da polícia.
Em dezembro, na escola secundária de Pikesville, cerca de 15 quilômetros a noroeste de Baltimore, o diretor Eiswert estava investigando um possível roubo envolvendo o diretor esportivo da escola, Dazhon Darien. Um pagamento não autorizado de quase dois mil dólares foi feito ao colega de quarto de Darien, que também era treinador de basquete na escola, “sob o pretexto” de que o colega também havia trabalhado como assistente do treinador de futebol feminino, de acordo com um relatório policial.
Mas quando o diretor e um colega investigaram, descobriram que o suposto assistente do treinador “nunca havia comparecido durante a temporada de futebol”. Eiswert confrontou Darien sobre o pagamento, segundo o relatório, e Darien disse que foi “um erro”.
Este não foi o primeiro confronto entre Eiswert e Darien. O relatório indicava que Darien havia demitido anteriormente um treinador sem a aprovação de Eiswert. Depois disso, o diretor conversou com Darien sobre a não renovação de seu contrato, segundo o relatório, devido a “frequentes problemas de desempenho no trabalho”.
Em 16 de janeiro, um usuário do Gmail identificado como TJFOUST9 enviou um e-mail para três professores, incluindo Darien, em seus endereços de e-mail da escola.
O assunto dizia: “Diretor de Pikesville – Gravação perturbadora”. Um arquivo de áudio foi anexado. Um homem podia ser ouvido falando. Entre outros comentários depreciativos, incluindo um sobre dois professores e outro sobre os judeus, o homem dizia que os alunos negros não poderiam “sair de um saco de papel”.
A gravação se espalhou. Uma professora que não se dava bem com Eiswert admitiu tê-la compartilhado com uma aluna “que ela sabia que disseminaria rapidamente a mensagem em várias redes sociais e por toda a escola”, segundo o relatório. A professora também enviou a gravação para a imprensa e para a Associação Nacional para o Avanço das Pessoas de Cor (NAACP).
À medida que a indignação crescia, os professores se perguntavam se dispositivos de gravação secretos haviam sido instalados na escola. Um funcionário começou a atender chamadas delicadas em seu veículo, no estacionamento.
Billy Burke, representante do sindicato de administradores escolares, foi um dos funcionários que imediatamente questionaram a autenticidade da gravação.
“O áudio parece um diálogo, mas não se ouvem outras vozes ou ruído ambiente”, disse à CNN. “As escolas e os escritórios são lugares barulhentos e ruidosos, mas nada disso é percebido no áudio. Isso me pareceu suspeito. O conteúdo do áudio parecia roteirizado no sentido de que as declarações, se tornadas públicas, difamariam o interlocutor, de alguma forma protegeriam os mencionados e insultariam a comunidade”.
Burke disse que se reuniu com Eiswert e os administradores da escola. “Pude ouvir em suas vozes e em suas histórias que essa fita não era real”, disse.
No entanto, Eiswert foi temporariamente substituído por outros dois administradores. Em entrevistas sobre a gravação, ele negou que fosse sua voz. Ele suspeitava que Darien estivesse por trás disso, segundo o relatório, explicando que Darien “tinha conhecimentos tecnológicos” e aparentemente “estava familiarizado com a IA“.
Ordem de prisão
Os investigadores procuraram a origem da gravação. Por meio de uma intimação ao Google, um detetive encontrou o endereço IP em que o e-mail TJFOUST9 foi criado.
O detetive rastreou esse endereço IP até um parente de Darien. A conta do Gmail tinha um número de telefone de recuperação. Um detetive rastreou esse número até Dazhon Darien.
Os investigadores compartilharam o arquivo de áudio com dois especialistas forenses, incluindo um contratado pelo FBI. Um deles disse que parecia que “a gravação continha vestígios de conteúdo gerado por IA com edição humana posterior, que adicionava ruídos de fundo para torná-la mais realista”. Outro especialista disse que parecia “que a gravação tinha sido manipulada e que várias gravações foram unidas usando um software desconhecido”.
Na quarta-feira (23), as autoridades obtiveram um mandado de prisão contra Darien por acusações de roubo, assédio, retaliação contra uma testemunha e perturbação do funcionamento de uma escola.
Na quinta-feira, de acordo com o chefe de polícia, Darien foi ao Aeroporto Internacional de Baltimore/Washington e tentou embarcar em um voo com destino a Houston. Ele estava portando uma arma e os agentes de segurança o abordaram para fazer perguntas sobre como ela estava embalada. Foi então que descobriram o mandado de prisão. A polícia disse que não tinham certeza se Darien estava tentando fugir.
Darien foi preso na quinta-feira com uma fiança fixada em cinco mil dólares. Na sexta-feira de manhã, um funcionário do centro de detenção do condado de Baltimore disse que Darien não estava lá. A CNN não conseguiu determinar se ele tem um advogado, e as ligações para seu celular não foram retornadas.
Eiswert não estava disponível para uma entrevista na quinta-feira. Na coletiva de imprensa, a superintendente da escola, Myriam Rogers, disse que “o Sr. Eiswert ainda é um funcionário das Escolas Públicas do Condado de Baltimore”, mas outros dois administradores ainda estão à frente da Pikesville High. A superintendente disse que em breve haveria uma reunião com Eiswert para determinar os próximos passos.
Quase no final da coletiva de imprensa, um jornalista perguntou à superintendente por que as autoridades escolares esperaram três meses para defender publicamente o diretor.
“Deixamos claro que não podíamos garantir a veracidade da gravação”, disse Rogers. “Pedimos a todos que não se apressassem em julgar, mas nosso papel e nossa responsabilidade são com os alunos, a comunidade e a verdade”.
“Espero que possamos encontrar lições no meio do dano que isso causou”, disse Burke, o representante sindical. “Espero que aprendamos que as pessoas são inocentes até que se prove o contrário”.
