Após a investigação oficial, o diretor atlético da escola foi preso no final do mês passado por causa do clipe.
Washington, Estados Unidos:
Um clip de áudio fabricado de um diretor de uma escola secundária nos EUA provocou uma torrente de indignação, deixando-o a lutar contra acusações de racismo e anti-semitismo num caso que provocou um novo alarme sobre a manipulação da IA.
A polícia acusou um funcionário descontente da escola de Maryland de fabricar a gravação que surgiu em janeiro – supostamente do diretor Eric Eiswert discursando contra judeus e “crianças negras ingratas” – usando inteligência artificial.
O clipe, que deixou os administradores da Pikesville High School recebendo uma enxurrada de ligações furiosas e ameaças, ressalta a facilidade com que a IA e as ferramentas de edição amplamente disponíveis podem ser mal utilizadas para se passar por celebridades e cidadãos comuns.
Num ano de grandes eleições a nível mundial, incluindo nos Estados Unidos, o episódio também demonstra os perigos dos deepfakes realistas à medida que a lei tenta recuperar o atraso.
“Você precisa de uma imagem para colocar uma pessoa em um vídeo, você precisa de 30 segundos de áudio para clonar a voz de alguém”, disse à AFP Hany Farid, especialista em perícia digital da Universidade da Califórnia, Berkeley.
“Não há quase nada que você possa fazer a não ser se esconder debaixo de uma pedra.
“O vetor de ameaça passou dos Joe Bidens e dos Taylor Swifts do mundo para diretores de escolas secundárias, jovens de 15 anos, repórteres, advogados, chefes, avós. Todos estão agora vulneráveis.”
Após a investigação oficial, o diretor atlético da escola, Dazhon Darien, 31, foi preso no final do mês passado por causa do clipe.
Documentos de acusação dizem que os funcionários da Pikesville High School se sentiram inseguros depois que o áudio foi divulgado. Os professores temiam que o campus estivesse grampeado com dispositivos de gravação enquanto mensagens abusivas iluminavam as redes sociais de Eiswert.
O “mundo seria um lugar melhor se você estivesse do outro lado da terra”, escreveu um usuário do X a Eiswert.
Eiswert, que não respondeu ao pedido de comentário da AFP, foi colocado em licença pela escola e precisava de segurança em sua casa.
‘Dano’
Quando a gravação chegou às redes sociais em janeiro, impulsionada por uma conta popular no Instagram cujas publicações atraíram milhares de comentários, a crise colocou a escola no centro das atenções nacionais.
O áudio foi amplificado pelo ativista DeRay McKesson, que exigiu a demissão de Eiswert para seus quase um milhão de seguidores no X. Quando as acusações surgiram, ele admitiu que havia sido enganado.
“Continuo preocupado com os danos que estas ações causaram”, disse Billy Burke, diretor executivo do sindicato que representa Eiswert, referindo-se à gravação.
A manipulação ocorre no momento em que várias escolas dos EUA lutam para conter a pornografia deepfake habilitada por IA, levando ao assédio de estudantes em meio à falta de legislação federal.
Scott Shellenberger, procurador do estado do condado de Baltimore, disse em entrevista coletiva que o incidente de Pikesville destaca a necessidade de “atualizar a lei com a tecnologia”.
Seu escritório está processando Darien por quatro acusações, incluindo perturbação de atividades escolares.
‘Um milhão de diretores’
Os investigadores vincularam o áudio ao diretor atlético, em parte conectando-o ao endereço de e-mail que o distribuiu inicialmente.
A polícia diz que a suposta difamação veio em retaliação a uma investigação que Eiswert abriu em dezembro sobre se Darien autorizou um pagamento ilegítimo a um treinador que também era seu colega de quarto.
Darien fez pesquisas por ferramentas de IA por meio da rede da escola antes do áudio ser lançado e estava usando “grandes modelos de linguagem”, de acordo com os documentos de cobrança.
Um professor da Universidade do Colorado que analisou o áudio para a polícia concluiu que “continha vestígios de conteúdo gerado por IA com edição humana após o fato”.
Os investigadores também consultaram Farid, escrevendo que o especialista da Califórnia descobriu que foi “manipulado e várias gravações foram unidas usando software desconhecido”.
O conteúdo gerado por IA – e especialmente o áudio, que os especialistas dizem ser particularmente difícil de detectar – gerou alarme nacional em janeiro, quando uma chamada automática falsa se passando por Biden instou os residentes de New Hampshire a não votarem nas primárias do estado.
“Isso impacta tudo, desde economias inteiras até democracias, até o diretor do ensino médio”, disse Farid sobre o uso indevido da tecnologia.
O caso de Eiswert foi um alerta em Pikesville, revelando como a desinformação pode perturbar até mesmo “uma comunidade muito unida”, disse Parker Bratton, treinador de golfe da escola.
“Há um presidente. Há um milhão de diretores. As pessoas pensam: ‘O que isso significa para mim? Quais são as possíveis consequências para mim quando alguém simplesmente decide que quer encerrar minha carreira?'”
“Nunca seremos capazes de escapar dessa história.”
(Exceto a manchete, esta história não foi editada pela equipe da NDTV e é publicada a partir de um feed distribuído.)
Esperando por resposta para carregar…
