A segurança online das crianças necessita drasticamente de uma redefinição – não apenas aos olhos de muitos pais, mas também aos olhos de governos, reguladores e jovens que tiveram experiências negativas ao usar as redes sociais.
Nos EUA, o presidente Biden apelou a restrições mais rigorosas às empresas de redes sociais e a Lei de Segurança Online para Crianças tem vindo a ganhar força no Senado. Mas os EUA ainda estão um passo atrás do Reino Unido, que anunciou na quarta-feira um novo projeto de regras que forçará as empresas de tecnologia a tomar novas medidas para manter as crianças seguras, ou correrão o risco de multas ou proibições. O regulador Ofcom descreveu 40 passos práticos ao abrigo da Lei de Segurança Online que as empresas de redes sociais terão de seguir para manter as crianças seguras nas suas plataformas.
Existem dois aspectos nas novas regras. Em primeiro lugar, exigirão que as empresas tecnológicas que possam ter crianças a utilizar as suas plataformas apliquem uma verificação de idade mais rigorosa para evitar que os jovens acedam a conteúdos impróprios para a idade. Em segundo lugar, devem melhorar a moderação e “domar algoritmos tóxicos”, filtrando ou desclassificando conteúdos, incluindo pornografia, ou referências a automutilação, suicídio e distúrbios alimentares.
As empresas de tecnologia que não cumprirem as regras enfrentarão multas ou até pena de prisão para os executivos. Embora só sejam aplicáveis no Reino Unido, o Ofcom espera que a severidade das sanções faça com que as pessoas nos conselhos de administração e nos gabinetes executivos das maiores plataformas de redes sociais priorizem a manutenção das crianças seguras de forma mais resoluta do que fizeram no passado. Se for esse o caso, quaisquer alterações introduzidas pelas plataformas poderão ter efeitos de longo alcance que impactarão os jovens utilizadores das redes sociais em todo o mundo.
As plataformas de mídia social há muito enfrentam acusações de que estão contribuindo para problemas de saúde mental ao não protegerem as crianças de encontrarem conteúdos nocivos. Em alguns casos, incluindo a morte da adolescente britânica Molly Russell, isto teve consequências trágicas. Russell morreu por suicídio em novembro de 2017, aos 14 anos, depois de ver um extenso material relacionado a automutilação no Instagram e no Pinterest. O legista do caso dela concluiu que o conteúdo que Russell viu foi responsável pela sua morte e recomendou que os sites de redes sociais introduzissem disposições mais rigorosas para proteger as crianças.
Ao longo dos anos, as empresas de tecnologia intensificaram os seus esforços de moderação e introduziram novos recursos, ferramentas e recursos educacionais para manter as crianças seguras. Mas, como muitas crianças e pais sabem muito bem, muitos problemas permanecem. As crianças ainda estão expostas a conteúdos prejudiciais ao seu bem-estar e correm o risco de serem exploradas por adultos que utilizam as mesmas plataformas que elas. Não são apenas os adultos que estão fartos.
Ao projetar as novas regras do Reino Unido, o Ofcom consultou mais de 15.000 crianças, disse o Diretor do Grupo de Segurança Online do regulador, Gill Whitehead. “Quando falamos com crianças e você pergunta a elas: ‘o que vocês querem mudar no serviço de mídia social?’ Eles dizem que têm muitas ideias”, disse ela. É o feedback das crianças que informa regras, como ter o poder de recusar automaticamente convites para bate-papo em grupo e poder dizer que desejam ver menos tipos específicos de conteúdo em seus feeds.
Após uma consulta, o Ofcom espera publicar o seu novo código de segurança infantil dentro de um ano. De acordo com as novas regras, as empresas de tecnologia terão então três meses para avaliar o risco que representam para as crianças e relatá-lo publicamente. Eles também terão que ser transparentes sobre as medidas que estão tomando para mitigar esse risco.
À medida que as regras entrarem em vigor, o Ofcom planeia continuar a consultar os jovens, não só para ver se as medidas introduzidas pelas empresas de tecnologia são eficazes, mas para identificar novas ameaças à medida que surgem. O regulador já está a planear uma consulta adicional sobre as ameaças que a IA generativa pode representar para as crianças.
“Expusemos hoje uma série de mensagens sobre como esses canais de comunicação para empresas de tecnologia devem ser melhorados”, disse Whitehead. “Mas, em última análise, se o feedback vier quando falamos com as crianças de que esses canais de denúncia são ineficazes, então isso fará parte do plano de ação que temos com as empresas maiores e mais arriscadas sobre como elas vão lidar com isso.”
