As consequências de fazer um deepfake não consensual

O advogado Sean Smith viu de perto como deepfakes não consensuais, uma forma de abuso sexual baseado em imagens, podem arruinar vidas.

Smith, advogado de direito de família do escritório Brach Eichler, de Roseland, Nova Jersey, representou recentemente tanto as famílias de vítimas menores quanto dos agressores em processos disciplinares educacionais.

Seus clientes incluíam adolescentes cujas imagens foram tiradas de redes sociais e depois “despidas” digitalmente por seus colegas homens, que usaram software alimentado por inteligência artificial.

Os aplicativos e sites capazes de criar deepfakes explícitos não consensuais geralmente se promovem como algo que satisfaz uma curiosidade ou fornece entretenimento. Como resultado, os usuários provavelmente não entendem que as imagens resultantes podem infligir traumas dolorosos e duradouros à pessoa cuja imagem foi roubada — que quase sempre é uma menina ou mulher. A vítima pode nunca conseguir remover todas as fotos ou vídeos sintéticos da internet, dada a dificuldade de rastrear e excluir esse tipo de conteúdo.

Isso pode levar à devastação profissional, pessoal e financeira para os sobreviventes. O mesmo pode ser verdade para os perpetradores quando seu nome e reputação são associados à criação de deepfakes não consensuais. Eles podem enfrentar suspensão ou expulsão se forem estudantes, e também enfrentar penalidades criminais e civis, dependendo de onde moram.

“Isso destrói vidas por todos os lados”, disse Smith ao Mashable.

Isso normalmente não fica claro para usuários jovens e adultos que praticam abuso sexual baseado em imagens.

É ilegal fazer um deepfake?

Apesar da ausência de informação sobre as consequências dos deepfakes não consensuais, a sua ascensão tem motivado vários estados aprovarão legislação que criminaliza eles.

Entretanto, o Congresso introduziu, mas ainda não votou, uma projeto de lei que daria às vítimas o direito para entrar com uma ação civil contra os perpetradores. A projeto de lei federal separado criminalizaria a publicação de imagens íntimas não consensuais, incluindo aquelas criadas por IA, e exigir que as empresas de mídia social removam esse conteúdo a pedido da vítima.

Em alguns estados, os infratores podem enfrentar penalidades civis caso a vítima os processe com sucesso por danos. Seus salários podem ser penhorados ou suas propriedades apreendidas para pagar por tais danos.

No ano passado, Illinois alterou uma lei existente para tornar os infratores de deepfake responsáveis ​​quando distribuem imagens sintéticas não consensuais. Um sobrevivente pode processar a pessoa que dissemina o conteúdo por danos, que podem resultar de sofrimento emocional, custo de tratamento de saúde mental, perda de emprego e outros custos relacionados.

“Quando as leis forem aplicadas, isso deixará uma marca negra que perseguirá a pessoa por muito tempo…”

Em Nova York, a disseminação de deepfakes não consensuais podem levar a um ano de prisão, uma multa e um processo civil. A Flórida impõe sanções criminais e civis para a “promoção” de material sintético não consensual. A lei estadual também expandiu a definição de “pornografia infantil” para incluir deepfakes de menores envolvidos em conduta sexual.

Indiana, Texase Virgínia estão entre os estados que tornaram a criação de deepfakes não consensuais punível com pena de prisão.

Muitos estados, no entanto, ainda não têm leis que tornem a criação ou distribuição de deepfakes ilegal, ou que deem às vítimas o direito de processar. Além disso, pode ser difícil para as vítimas buscarem penalidades criminais ou civis contra a pessoa que promoveu o conteúdo porque sua identidade é desconhecida, ou porque a polícia não tem pessoal suficiente para investigar crimes em potencial.

Mas Matthew B. Kugler, professor de direito na Universidade Northwestern, diz que isso não deve dar às pessoas uma falsa sensação de segurança.

“Quando as leis forem aplicadas, será uma marca negra que seguirá uma pessoa por muito tempo, e ninguém se sentirá mal pelo fato de essa marca negra seguir [the offender] por muito tempo”, diz Kugler.

Em 2020, Bolas estudou atitudes públicas em relação a vídeos deepfake sexualmente explícitos e não consensuais em uma pesquisa com 1.141 adultos nos EUA. A grande maioria dos entrevistados queria criminalizar o ato.

Há outra possível consequência legal na criação de imagens deepfake não consensuais, independentemente de o estado do infrator impor sanções criminais ou civis.

Adam Dodge, advogado e fundador da Acabar com o abuso por meio da tecnologia (EndTAB)diz que uma vítima pode pedir uma ordem de proteção ou restrição se souber quem é o responsável pela criação ou distribuição das imagens. Em muitas jurisdições, o abuso baseado em imagens se qualifica como uma forma de assédio.

Essas ordens de restrição podem ser descobertas em buscas de antecedentes conduzidas por potenciais empregadores, diz Dodge. Uma ordem de restrição também pode ser aplicada a um jovem infrator. Embora o registro legal de um menor deva ser selado, Dodge viu casos em que as informações se tornam públicas.

O que acontece com menores que criam ou compartilham um deepfake não consensual

Adolescentes que encontram aplicativos ou sites deepfake, seja por meio do boca a boca ou de estratégias implacáveis ​​de marketing na Internet e de busca, geralmente não percebem as possíveis consequências para as vítimas ou para si mesmos, diz Smith.

Ele observa que, como o fenômeno é tão novo, a disciplina escolar pode variar muito. Em escolas públicas, que são legalmente obrigadas a manter os alunos matriculados na medida do possível, a punição pode variar de suspensões breves dentro ou fora da escola.

Mas Smith diz que escolas particulares, com seus próprios códigos de conduta, podem rapidamente evoluir para a expulsão.

Os pais da vítima também podem entrar com uma ação legal em um esforço para responsabilizar o perpetrador e sua família. Embora Smith ainda não tenha visto um caso assim, ele espera que alguns pais comecem a entrar com ações civis contra os pais de um perpetrador com base em supervisão negligente. Quaisquer danos ganhos podem ser potencialmente cobertos pelo seguro residencial, a menos que a operadora dos pais restrinja tais reivindicações.

Adolescentes também podem estar sujeitos a penalidades criminais, incluindo aquelas relacionadas à pornografia infantil e outros estatutos criminais. Smith está ciente de processos juvenis contra adolescentes que criaram deepfakes não consensuais. Embora não tenham cumprido pena na prisão, os infratores entraram em um acordo privado com o estado como culpabilidade por suas ações.

Na Flórida, no entanto, dois adolescentes foram presos e acusados ​​de crimes graves em dezembro passado por disseminar deepfakes não consensuais.

Smith diz que pais e adolescentes precisam entender urgentemente essas e outras consequências.

“O problema com essa tecnologia é que os pais e as crianças não percebem o quão grande é o erro que é usar a tecnologia”, diz Smith. “Como apenas a introdução da tecnologia em um celular… pode criar esse erro muito maior para a vida toda.”

Se você teve imagens íntimas compartilhadas sem seu consentimento, ligue para a linha direta 24/7 da Cyber ​​Civil Rights Initiative no número 844-878-2274 para obter suporte gratuito e confidencial. O site do CCRI também inclui informação util bem como uma lista de recursos internacionais.