Nas redes sociais, encontramos diversas fotos e vídeos bons demais para serem verdade ou, em muitos casos, chocantes. Em alguns casos, simplesmente passamos por uma imagem sem nem perceber que é uma deepfake. Nesses casos, muitos são vítimas de notícias falsas e começam a virar tendência devido aos múltiplos compartilhamentos. Portanto, para combater deepfakes e desinformação, o fabricante do ChatGPT, OpenAI, anunciou o desenvolvimento de uma ferramenta para autenticidade de conteúdo e detecção de imagens geradas por IA.
Ferramenta da OpenAI para detectar deepfakes e imagens geradas por IA
De acordo com o blog OpenAI publicar, a empresa desenvolverá uma ferramenta para rastreamento e detecção de imagens geradas artificialmente. O objetivo de desenvolver tal ferramenta é educar as pessoas sobre o conteúdo gerado por IA e evitar casos de deepfakes. A OpenAI está colaborando com o comitê da Coalition for Content Provenance and Authenticity (C2PA), que cria rótulos claros para conteúdo gerado por IA. A OpenAI disse: “À medida que o conteúdo audiovisual gerado se torna mais comum, acreditamos que será cada vez mais importante para a sociedade como um todo adotar novas tecnologias e padrões que ajudem as pessoas a compreender as ferramentas usadas para criar o conteúdo que encontram online”.
A nova ferramenta será integrada à ferramenta de geração de imagens da OpenAI, Dall-E 3. Notavelmente, a ferramenta fornecerá informações relacionadas a como o conteúdo foi desenvolvido junto com a origem de uma imagem. Além disso, o conteúdo gerado artisticamente pela ferramenta OpenAI também consistirá em uma marca d’água invisível e resistente a adulterações. Espera-se que a ferramenta forneça 98% de precisão com imagens geradas pelo Dall-E e 5 a 10% com outras ferramentas de geração de imagens, como Midjourney ou Adobe Firefly. Portanto, a ferramenta simplesmente não funcionará com outras ferramentas de geração de imagens, tornando-a menos útil. No entanto, é o primeiro passo e mostra o esforço da empresa para combater deepfakes e disseminação de desinformação online.
Alegadamente, a OpenAI disponibilizou a ferramenta a um público muito limitado e convidou laboratórios de investigação e organizações sem fins lucrativos de jornalismo baseadas em investigação para testar a ferramenta e fornecer o seu feedback antes da sua ampla implementação. Essas ferramentas de detecção de IA podem permitir que indivíduos identifiquem deepfakes gerados por políticos e celebridades.
Mais uma coisa! Agora estamos nos canais do WhatsApp! Siga-nos lá para nunca perder nenhuma atualização do mundo da tecnologia. Para acompanhar o canal HT Tech no WhatsApp, clique aqui para aderir agora!
