O Microsoft Bing agora tem mais poder para impedir que imagens geradas por IA ou deepfake, uma forma de abuso de imagem íntima não consensual (NCII), apareçam no mecanismo de busca, enquanto a empresa anuncia uma nova parceria sem fins lucrativos.
Uma colaboração com uma ferramenta de defesa das vítimas PareNCII, A Microsoft está complementando seus relatórios de usuários com uma abordagem mais “centrada na vítima”, incorporando uma processo de detecção mais aprofundadoexplicou a empresa. StopNCII, uma plataforma administrada pela organização sem fins lucrativos do Reino Unido SWGFL-Fluxo de ar e a Revenge Porn Helpline, oferece aos indivíduos a capacidade de criar e adicionar impressões digitais (também conhecidas como “hash”) a imagens íntimas, que podem então ser rastreadas para remover imagens conforme elas aparecem em determinadas plataformas.
Com base em um piloto que ocorreu em agosto, o novo sistema da Microsoft aproveita o banco de dados do StopNCII para sinalizar imediatamente imagens íntimas e evitar que elas apareçam nos resultados do Bing. A Microsoft diz que já “tomou medidas” em 268.000 imagens explícitas.
Os hashes do StopNCII são usados por sites sociais como Facebook, Instagram, TikTok, Threads, Snapchat e Reddit, bem como plataformas como Bumble, OnlyFans, Aylo (proprietária de vários sites populares de pornografia, incluindo PornHub) e até mesmo Niantic, a desenvolvedora de RA por trás do Pokémon Go. O Bing é o primeiro mecanismo de busca a se juntar à coalizão de parceiros.
Velocidade da luz Mashable
Golpistas estão usando fotos da sua casa para amplificar ameaças de sextorsão
O Google, também lutando contra conteúdo deepfake não consensual, tomou medidas semelhantes para lidar com o aparecimento de imagens deepfake nos resultados da Pesquisa, além de imagens reais não consensuais. No último ano, a empresa vem reformulando seu sistema de classificação de Pesquisa para diminuir o conteúdo sintético explícito nos resultados, substituindo os resultados exibidos por “conteúdo não explícito de alta qualidade”, explicou a empresa, como artigos de notícias. O Google anunciou que também estava simplificando seu processo de relatórios e revisão para ajudar a agilizar a remoção desse conteúdo — a plataforma de pesquisa já tem um sistema semelhante para remoção de imagens reais não consensuais ou pornografia deepfake.
Mas ainda não se juntou ao StopNCII e utilizou sua tecnologia de hash. “Os mecanismos de busca são inevitavelmente a porta de entrada para que as imagens sejam encontradas, então esta medida proativa do Bing está colocando o bem-estar daqueles diretamente afetados em primeiro plano”, disse Sophie Mortimer, gerente da Revenge Porn Helpline.
A Microsoft tem processos de denúncia semelhantes para abuso de NCII baseado em imagens reais, bem como políticas de conduta rigorosas contra extorsão íntima, também conhecida como sextortion. No início deste ano, a Microsoft forneceu à StopNCII sua tecnologia interna PhotoDNA, uma ferramenta de “impressão digital” semelhante que tem sido usada para detectar e ajudar a remover material de abuso sexual infantil.
Como as Big Techs estão abordando deepfakes explícitos e não consensuais
Como denunciar imagens íntimas com o StopNCII
Se você acredita que sua imagem (explícita ou não explícita) corre o risco de ser divulgada ou manipulada por pessoas mal-intencionadas, você pode adicionar sua própria impressão digital ao StopNCII para detecção futura. A ferramenta não exige que você carregue ou armazene fotos ou vídeos pessoais no site. Em vez disso, as imagens são retidas em seu dispositivo pessoal.
-
Visita Stopncii.org.
-
Clique em “Criar seu caso” no canto superior direito.
-
Navegue pelos prompts personalizados, que reúnem informações sobre o conteúdo da imagem ou do vídeo.
-
O site então pedirá que você selecione fotos ou vídeos da biblioteca de fotos do seu dispositivo. O StopNCII então escaneia o conteúdo e cria hashes para cada imagem. Os hashes são então enviados para as plataformas participantes. Nenhuma imagem ou vídeo será compartilhado.
-
Salve o número do seu caso, que permitirá que você verifique se sua imagem ou vídeo foi detectado online.
Se você teve imagens íntimas compartilhadas sem seu consentimento, ligue para a linha direta 24/7 da Cyber Civil Rights Initiative no número 844-878-2274 para obter suporte gratuito e confidencial. O site do CCRI também inclui informação útil bem como uma lista de recursos internacionais.
