Você está fazendo compras, cuidando da sua vida, quando de repente o segurança aparece e declara que você é um Criminoso.
Esse é exatamente o cenário em que uma mulher se encontrou devido a um erro cometido por um software de reconhecimento facial em uma loja Home Bargains.
E à medida que a tecnologia é cada vez mais implementada, todos correm o risco de fazer parte de uma “linha policial digital” sem o seu conhecimento, de acordo com o responsável de uma instituição de caridade para as liberdades civis.
No caso de Sara, que quer manter o anonimato, ela foi abordada por um funcionário da loja que disse ‘Você é ladrão, precisa sair da loja’. Sua bolsa foi revistada antes de ela ser levada para fora da loja.
Em declarações à BBC, ela disse: ‘Eu estava chorando e chorando durante toda a viagem para casa… pensei: “Oh, minha vida será a mesma? Serei visto como um ladrão de lojas quando nunca roubei”.’
Sara foi identificada erroneamente por um software de reconhecimento facial chamado Facewatch, que é usado em várias lojas no Reino Unido junto com a Home Bargains, incluindo Sports Direct, Budgens e Costcutter.
Embora o Facewatch tenha escrito para Sara e reconhecido o erro, ele se recusou a comentar com a BBC. A Home Bargains também não quis comentar.
O caso é apenas um entre um número crescente em que pessoas inocentes são acusadas de crimes que não cometeram.
Desde o Carnaval de Notting Hill em 2016, o A Polícia Metropolitana tem usado tecnologia de reconhecimento facial ao vivo (LFR) tanto em grandes eventos quanto como parte da vigilância geral nas ruas.
Em Janeiro, a força revelou que tinha detido mais de uma dúzia de pessoas depois de ter destacado a LFR durante dois dias em Croydon, incluindo aqueles que não compareceram em tribunal e um homem procurado para ser retirado da prisão.
A BBC também se juntou ao Met durante uma mobilização da LFR, durante a qual foram feitas seis detenções, incluindo duas pessoas que violaram os termos das suas ordens de prevenção de danos sexuais.
No início deste mês, uma postagem no X da Polícia de Tower Hamlets alertou os moradores sobre o uso do software no bairro.
“Estaremos usando a tecnologia de reconhecimento facial ao vivo em locais importantes em Tower Hamlets hoje (15 de maio)”, afirmou.
‘Esta tecnologia ajuda a manter os londrinos seguros e será usada para encontrar pessoas que ameaçam ou causam danos, aqueles que são procurados ou que têm mandados de prisão pendentes emitidos pelo tribunal.’
No total, o Met fez 192 prisões este ano como resultado da tecnologia.
Porém, assim como no caso do Facewatch, o software do Met, fornecido pela NEC, também não é infalível.
Shaun Thompson, que trabalha para o grupo de defesa dos jovens Streetfathers, foi identificado erroneamente ao passar por uma van LFR perto da Ponte de Londres, em fevereiro.
“Recebi uma cutucada no ombro, dizendo que naquele momento eu era procurado”, disse Shaun à BBC.
Ele foi detido por 20 minutos e solicitado a fornecer impressões digitais, só sendo liberado após entregar uma cópia do passaporte.
‘Parecia uma intrusão… Fui tratado como culpado até que se provasse minha inocência’, disse ele.
A BBC disse que entende que o caso pode ter sido devido à semelhança familiar.
Como funciona o reconhecimento facial ao vivo?
O reconhecimento facial começa identificando o rosto em uma foto ou vídeo – escolhendo quais pixels constituem um rosto e quais são o corpo, o fundo ou qualquer outra coisa.
Em seguida, mapeia o rosto, medindo a distância entre certas características, para criar uma “expressão numérica” para um indivíduo.
Isso pode então ser rapidamente comparado a grandes bancos de dados para tentar encontrar uma correspondência entre rostos que já foram mapeados.
No entanto, os casos de erro de identidade servem como um lembrete claro de que qualquer pessoa que passe por um veículo que opere LFR terá o seu rosto escaneado, muito provavelmente sem o seu conhecimento.
Silkie Carlo, diretora do Big Brother Watch, observa há anos implantações de reconhecimento facial.
‘Minha experiência [is that] a maioria do público não sabe realmente o que é o reconhecimento facial ao vivo”, disse ela, em declarações à BBC, acrescentando que, ao serem escaneados, eles fazem efetivamente parte de uma formação policial digital.
“Se eles acionarem um alerta de jogo, a polícia entrará, possivelmente os deterá e os interrogará e pedirá que provem sua inocência”.
Embora a Polícia Metropolitana afirme que apenas cerca de uma em cada 33 mil pessoas vigiadas pelas suas câmaras é identificada incorretamente, quando alguém é realmente sinalizado, o número aumenta, com um em cada 40 alertas este ano em casos de erro de identidade.
O software de reconhecimento facial, como acontece com toda a tecnologia, está em constante evolução e levou décadas para chegar a um ponto em que as autoridades do Reino Unido estejam suficientemente confiantes nas suas capacidades para o utilizarem na aplicação da lei.
Muitos, no entanto, argumentariam que ainda não é suficientemente preciso para ser utilizado em público, deixando de lado o argumento da privacidade.
Historicamente, o reconhecimento facial tem mostrado um preconceito racial significativo, enquanto estudos também têm mostrado problemas na identificação de mulheres, embora um estudo do ano passado realizado pelo Laboratório Nacional de Física (NPL) tenha descoberto que os algoritmos utilizados pelas forças do Reino Unido não discriminavam com base no género, idade ou etnia.
Juntamente com o Met, a Polícia de Gales do Sul usa tecnologia de reconhecimento facial, inclusive em grandes eventos – ela será implantada em um show do Take That no próximo mês.
A força tem uma lista clara dos próximos destacamentos, permitindo ao público ver quando e onde os seus rostos poderão ser escaneados. O Met não parece oferecer um calendário de vigilância facilmente acessível.
Até o momento, não existem regras que determinem se aqueles que usam o LFR devem alertar as pessoas que seus rostos estão sendo escaneados.
Michael Birtwhistle, chefe de pesquisa do grupo de pesquisa do Instituto Ada Lovelace, disse à BBC que as leis ainda não acompanharam a tecnologia.
“Acho que é absolutamente um Velho Oeste no momento”, disse ele. «É isso que cria esta incerteza jurídica quanto a saber se as utilizações atuais são ilegais ou não.»
Por enquanto, a Polícia Metropolitana e de Gales do Sul continuam a ser as únicas forças que utilizam regularmente a tecnologia. Mas com relatórios positivos regulares sobre o número de detenções efectuadas, não é difícil imaginar que a sua utilização irá aumentar.
Na China, o software de reconhecimento facial registou quase todos os cidadãos do país e utiliza uma vasta rede de câmaras para capturar os seus residentes cometendo até mesmo os mais pequenos delitos, desde andar sem ser visto até usar demasiado papel higiénico numa casa de banho pública.
Embora pareça pouco provável que estes exemplos apareçam no Reino Unido, Carlo, da Big Brother Watch, alerta que o país não deve ser complacente ao permitir a propagação descontrolada da LFR.
‘Quando a polícia puder dizer que está tudo bem, que isso é algo que podemos fazer rotineiramente, por que não colocar isso nas redes de câmeras fixas?’ ela disse.
O debate, no entanto, não é unilateral. O uso do reconhecimento facial conta com o apoio de alguns membros do público que estão dispostos a abrir mão de parte da sua privacidade em troca de ruas mais seguras.
Equilibrar a privacidade e a segurança pública não é uma questão nova para a polícia, mas uma questão que a tecnologia do século XXI torna consideravelmente mais complexa.
MAIS: Adorei que ele fosse policial até abusar desse poder
MAIS: Alexa, você pode me ajudar com a lição de casa do meu filho?
MAIS: A visão geral da IA do Google já está ficando um pouco confusa
Receba as últimas notícias, histórias alegres, análises e muito mais
Este site é protegido pelo reCAPTCHA e pelo Google política de Privacidade e Termos de serviço aplicar.
