Empresa de mídia social Snap disse Terça-feira que planeja adicionar marcas d’água às imagens geradas por IA em sua plataforma.
A plataforma está adicionando o logotipo de um pequeno fantasma com um ícone brilhante para denotar uma imagem gerada por IA. A empresa disse que a marca d’água apareceria quando a imagem fosse exportada ou salva no rolo da câmera.
Snap planeja mostrar um logotipo do Ghost com brilho em imagens geradas por IA usando suas ferramentas. Créditos da imagem: Foto
Em sua página de suporte, a empresa disse que remover a marca d’água Ghost do Snap com brilhos viola seus termos. Não está claro como o Snap planeja detectar a remoção da marca d’água. Pedimos mais detalhes à empresa e atualizaremos a história quando recebermos resposta.
Outros gigantes da tecnologia, como Microsoft, Meta e Google, também tomaram medidas para rotular ou identificar imagens criadas com ferramentas baseadas em IA.
Atualmente, o Snap permite que os usuários criem ou editem imagens geradas por IA com Snap AI para usuários pagos e um recurso focado em selfie chamado Dreams.
Em seu postagem no blog Descrevendo suas práticas de segurança e transparência em torno da IA, a empresa explicou que mostra recursos alimentados pela geração de IA, como lentes, com marcadores visuais como um logotipo brilhante.
Snap lista indicadores para recursos alimentados por IA generativa. Créditos da imagem: Foto
A empresa também adicionou cartões de contexto com imagens geradas por IA a partir de ferramentas como Dream selfies para melhor informar o usuário.
Em fevereiro, a Snap fez parceria com HackerOne para enfatizar suas ferramentas de geração de imagens de IA, adaptando um programa de recompensas por bugs. A empresa disse que também criou um processo de revisão para remover problemas problemáticos quando lentes alimentadas por IA estão em desenvolvimento.
“Queremos que Snapchatters de todas as esferas da vida tenham acesso e expectativas equitativos ao usar todos os recursos do nosso aplicativo, especialmente nossas experiências baseadas em IA. Com isso em mente, estamos implementando testes adicionais para minimizar resultados de IA potencialmente tendenciosos”, disse a empresa em seu blog.
O Snapchat caiu em maus lençóis logo após lançar o chatbot “My AI” no ano passado. A Washington Post relatório observou que o bot estava retornando respostas inadequadas aos usuários. Mais tarde, a empresa implementou controles no Family Center para que pais e responsáveis monitorem e restrinjam as interações de seus adolescentes com a IA.
