A inteligência artificial tem estado no mira de governos preocupados com a forma como poderão ser utilizados indevidamente para fraude, desinformação e outras atividades maliciosas em linha; agora, no Reino Unido, um regulador está a preparar-se para explorar a forma como a IA é utilizada na luta contra algumas destas situações, especificamente no que se refere a conteúdos prejudiciais às crianças.
Ofcomo regulador encarregado de fazer cumprir as leis do Reino Unido Lei de Segurança Onlineanunciou que planeia lançar uma consulta sobre como a IA e outras ferramentas automatizadas são utilizadas hoje, e podem ser utilizadas no futuro, para detetar e remover proativamente conteúdos ilegais online, especificamente para proteger as crianças de conteúdos nocivos e para identificar abuso sexual infantil. material anteriormente difícil de detectar.
As ferramentas fariam parte de um conjunto mais amplo de propostas que o Ofcom está elaborando com foco na segurança infantil online. As consultas para as propostas abrangentes começarão nas próximas semanas, com a consulta sobre IA chegando ainda este ano, disse o Ofcom.
Mark Bunting, diretor do Grupo de Segurança Online da Ofcom, diz que seu interesse na IA começa com uma análise de quão bem ela é usada como ferramenta de triagem hoje.
“Alguns serviços já usam essas ferramentas para identificar e proteger as crianças desse conteúdo”, disse ele em entrevista ao TechCrunch. “Mas não há muita informação sobre quão precisas e eficazes são essas ferramentas. Queremos analisar formas de garantir que a indústria avalia [that] quando os utilizam, certificando-se de que os riscos à liberdade de expressão e à privacidade estão sendo gerenciados.”
Um resultado provável será o Ofcom recomendar como e quais plataformas devem avaliar, o que poderia levar não apenas à adoção de ferramentas mais sofisticadas pelas plataformas, mas também a multas se não conseguirem fornecer melhorias no bloqueio de conteúdo ou na criação de melhores maneiras de manter os usuários mais jovens. de ver isso.
“Tal como acontece com muitas regulamentações de segurança online, a responsabilidade recai sobre as empresas para garantir que estão tomando as medidas apropriadas e usando ferramentas apropriadas para proteger os usuários”, disse ele.
Haverá críticos e apoiadores das medidas. Os pesquisadores de IA estão descobrindo maneiras cada vez mais sofisticadas de usar a IA para detectar, por exemplo, deepfakes, bem como para verificar usuários online. No entanto, existem tantos céticos que observam que a detecção por IA está longe de ser infalível.
A Ofcom anunciou a consulta sobre ferramentas de IA ao mesmo tempo em que publicou sua pesquisa mais recente sobre como as crianças estão interagindo online no Reino Unido, que descobriu que, no geral, há mais crianças mais novas conectadas do que nunca, tanto que a Ofcom está agora estourando a atividade entre faixas etárias cada vez mais jovens.
Quase um quarto, 24%, de todas as crianças entre os 5 e os 7 anos possui agora os seus próprios smartphones e, quando se incluem os tablets, os números sobem para 76%, de acordo com um inquérito realizado a pais norte-americanos. Essa mesma faixa etária também usa muito mais mídia nesses dispositivos: 65% fizeram chamadas de voz e vídeo (contra 59% há apenas um ano) e metade das crianças (contra 39% há um ano) assistem mídia transmitida .
As restrições de idade em torno de alguns aplicativos de mídia social convencionais estão diminuindo, mas, sejam quais forem os limites, no Reino Unido elas não parecem ser atendidas de qualquer maneira. Cerca de 38% das crianças de 5 a 7 anos usam as redes sociais, descobriu o Ofcom. O WhatsApp da Meta, com 37%, é o aplicativo mais popular entre eles. E possivelmente no primeiro caso em que o principal aplicativo de imagem do Meta ficou aliviado por ser menos popular do que a sensação viral do ByteDance, descobriu-se que o TikTok é usado por 30% das crianças de 5 a 7 anos, com o Instagram em “apenas” 22%. Discord completou a lista, mas é significativamente menos popular, com apenas 4%.
Cerca de um terço, 32%, das crianças desta idade acessam a Internet por conta própria, e 30% dos pais disseram que não se importavam com o fato de seus filhos menores terem perfis nas redes sociais. O YouTube Kids continua sendo a rede mais popular para usuários mais jovens, com 48%.
Os jogos, um eterno favorito das crianças, passaram a ser usados por 41% das crianças de 5 a 7 anos, com 15% das crianças dessa faixa etária jogando jogos de tiro.
Embora 76% dos pais entrevistados tenham dito que conversaram com seus filhos pequenos sobre como permanecer seguros online, há pontos de interrogação, aponta o Ofcom, entre o que uma criança vê e o que ela pode relatar. Ao pesquisar crianças mais velhas com idades entre 8 e 17 anos, o Ofcom as entrevistou diretamente. Descobriu-se que 32% das crianças relataram ter visto conteúdo preocupante online, mas apenas 20% dos pais disseram ter relatado alguma coisa.
Mesmo tendo em conta algumas inconsistências nos relatórios, “a investigação sugere uma desconexão entre a exposição das crianças mais velhas a conteúdos potencialmente prejudiciais online e o que partilham com os pais sobre as suas experiências online”, escreve o Ofcom. E conteúdo preocupante é apenas um desafio: deep fakes também são um problema. Entre as crianças de 16 a 17 anos, disse o Ofcom, 25% disseram não estar confiantes em distinguir o falso do real online.
