Em um anúncio recente, o gigante da mídia social Snapchat revelou seus planos de incorporar marcas d’água em imagens geradas por IA em sua plataforma. Esta medida visa aumentar a transparência e proteger contra o uso indevido de conteúdo gerado por IA.
Implementação de marcas d’água
O Snapchat divulgou que a marca d’água apresentará uma versão translúcida do logotipo do Snap acompanhada por um emoji brilhante. Ele será aplicado automaticamente a qualquer imagem gerada por IA, exportada do aplicativo ou salva no rolo da câmera. Além disso, a empresa enfatizou que a remoção dessas marcas d’água das imagens será considerada uma violação de seus termos de uso.
Tendências da indústria
O Snapchat se junta a outros líderes da indústria de tecnologia, como Microsoft, Meta (antigo Facebook) e Google, na tomada de medidas para rotular ou identificar conteúdo gerado por IA. Estes esforços sublinham um compromisso mais amplo de toda a indústria com a transparência e a responsabilização no domínio das tecnologias alimentadas pela IA.
Experiência do usuário e segurança
Atualmente, o Snapchat oferece recursos alimentados por IA, incluindo o recurso “Dreams” focado em selfies, que permite aos usuários aprimorar suas fotos com efeitos gerados por IA. A empresa implementou marcadores visuais, como um emoji brilhante, para denotar recursos alimentados por IA, como lentes. Além disso, o Snapchat introduziu cartões de contexto para imagens geradas por IA criadas com ferramentas como o Dream, com o objetivo de fornecer aos usuários informações e contexto adicionais.
Compromisso com a segurança da IA
As iniciativas do Snapchat para melhorar a segurança e moderação da IA seguem incidentes anteriores, incluindo controvérsias em torno de seu chatbot “My AI”. Em resposta às preocupações levantadas sobre conteúdo impróprio, particularmente relacionado a interações envolvendo temas delicados, o Snapchat introduziu controles no Family Center para permitir que pais e responsáveis monitorem e regulem as interações de seus filhos com a IA.
A decisão do Snapchat de introduzir marcas d’água em imagens geradas por IA reflete seu compromisso em aumentar a transparência e a responsabilidade em sua plataforma. Ao implementar estas medidas, o Snapchat pretende promover uma experiência de utilizador mais segura e informada, ao mesmo tempo que se alinha com os esforços de toda a indústria para enfrentar os desafios associados às tecnologias de IA.
