Os usuários do Snapchat agora verão uma imagem fantasmagórica pairando sobre suas imagens geradas por IA, à medida que o Snapchat se junta a outras grandes empresas de tecnologia usando tecnologia de marca d’água para combater a desinformação e deepfakes da IA.
Imagens feitas com ferramentas de IA do Snapchat, como as do aplicativo estender ferramenta e foi lançado recentemente Recurso de sonhosvai ser carimbado com uma marca d’água transparente (logotipo fantasma do Snapchat) depois de exportado ou baixado do aplicativo. Os usuários que recebem imagens geradas por IA também podem ver o logotipo fantasma e o ícone “brilhante” de IA do aplicativo.
A IA é boa ou ruim? A resposta é mais complicada do que “sim” ou “não”.
Atualmente, o Snapchat marca o conteúdo gerado por IA, incluindo conversas de texto com seu chatbot My AI, de várias maneiras. As imagens criadas usando Dreams são acompanhadas por um “cartão de contexto” que explica o recurso e a IA generativa. Minhas conversas de IA e a ferramenta de extensão usam ícones “contextuais”, como o símbolo de brilho, para
“Também tomamos muito cuidado para examinar todos os anúncios políticos por meio de um rigoroso processo de revisão humana, incluindo uma verificação completa de qualquer uso enganoso de conteúdo, incluindo IA para criar imagens ou conteúdo enganoso”, escreveu a plataforma. “A adição dessas marcas d’água ajudará a informar a quem a visualiza que a imagem foi feita com IA no Snapchat.”
Junto com a nova ferramenta de transparência, o Snapchat também se comprometeu com esforços contínuos de alfabetização em IA. Até agora, isso implica apenas uma Perguntas frequentes sobre IA generativa disponível em seu site de suporte.
“Embora todas as nossas ferramentas de IA, tanto baseadas em texto quanto visuais, sejam projetadas para evitar a produção de material incorreto, prejudicial ou enganoso, ainda podem ocorrer erros”, escreveu a empresa. “Os Snapchatters podem denunciar conteúdo e agradecemos esse feedback.”
Os vigilantes da IA dizem que a tecnologia de marca d’água não é uma solução segura, no entanto, mesmo que os grandes players da tecnologia dependam dela suas apostas do lado do usuário.
Em fevereiro, a OpenAI anunciou que adicionaria marcas d’água de metadados às imagens geradas pelo DALL-E 3. O Google lançou seu SynthID, uma ferramenta que adiciona marcas d’água invisíveis semelhantes às imagens de IA, em agosto. Enquanto isso, o YouTube está aplicando penalidades contra usuários que não utilizam seu sistema de rotulagem para conteúdo alterado digitalmente.
