O Google está expandindo esforços para rotular adequadamente o conteúdo gerado por IAatualizando sua ferramenta interna “Sobre esta imagem” com um padrão global para detectar as origens de uma imagem editada por IA.
O novo rótulo foi formulado como parte do trabalho do Google com a Coalizão global para Proveniência e Autenticidade de Conteúdo (C2PA). Os membros do C2PA se comprometeram a desenvolver e adotar um processo padronizado de detecção e certificação de IA, habilitado por uma tecnologia de verificação conhecida como “Credenciais de Conteúdo”. No entanto, nem todos os membros do C2PA, que incluem Amazon, Meta e OpenAI, implementaram os padrões de autenticação.
O Google está dando o primeiro passo entre os principais participantes, integrando o novo padrão 2.1 do C2PA em produtos como o Google Search e, eventualmente, o Google Ads (o prompt “Sobre esta imagem” é encontrado clicando nos três pontos verticais localizados acima de uma foto descoberta em uma pesquisa). Este padrão inclui uma “Lista de confiança” oficial de dispositivos e tecnologia que podem ajudar a verificar a origem de uma foto ou vídeo por meio de seus metadados. “Por exemplo, se os dados mostram que uma imagem foi tirada por um modelo de câmera específico, a lista de confiança ajuda a validar que essa informação é precisa”, disse Laurie Richardson, vice-presidente de confiança e segurança do Google, ao Beira“Nosso objetivo é aumentar isso ao longo do tempo e usar os sinais do C2PA para informar como aplicamos políticas importantes.”
Velocidade da luz Mashable
Sam Altman deixa o cargo de chefe do grupo de segurança da OpenAI
Após se juntar ao C2PA em maio, o TikTok se tornou a primeira plataforma de vídeo a implementar as Credenciais de Conteúdo do C2PA, incluindo um sistema de rotulagem automática para ler os metadados de um vídeo e sinalizar como IA. Com o lançamento das Credenciais de Conteúdo para plataformas do Google, o YouTube está pronto para seguir seus passos.
O Google tem falado abertamente sobre a rotulagem e regulamentação generalizadas de IA, especialmente em seus esforços para conter a disseminação de desinformação. Em 2023, o Google lançou o SynthID, sua própria ferramenta de marca d’água digital projetada para ajudar a detectar e rastrear conteúdo gerado por IA feito usando o gerador de texto para imagem do Google DeepMind, Imagen. Ele introduziu mandatos de rotulagem de IA (limitados) para vídeos do YouTube no início deste ano e se comprometeu a abordar o conteúdo deepfake gerado por IA na Pesquisa Google.
A empresa juntou-se ao comité de direção do C2PA em fevereiro, um grupo que inclui outros grandes players da indústria e até mesmo organizações de notícias, como a BBC.
