O Google está expandindo suas operações para marcar corretamente o conteúdo gerado pela inteligência artificialatualizando a ferramenta interna “Sobre esta imagem” com um padrão global para detectar a origem de uma imagem editada por IA.
O novo rótulo foi desenvolvido como parte da colaboração do Google com a Coalizão global sobre Proveniência e Autenticidade de Conteúdo (C2PA). Os membros do C2PA se comprometeram a desenvolver e adotar um processo padronizado de certificação e detecção de IA, habilitado por uma tecnologia de verificação conhecida como “Credenciais de Conteúdo”. No entanto, nem todos os membros do C2PA, incluindo Amazon, Meta e OpenAI, implementaram padrões de autenticação.
O Google está dando o primeiro passo entre os principais players ao integrar o novo padrão 2.1 C2PA em produtos como a Pesquisa Google e, eventualmente, o Google Ads (o prompt “Sobre esta imagem” pode ser encontrado clicando nos três pontos verticais localizados acima da imagem descoberta na pesquisa). Este padrão inclui uma “lista confiável” oficial de dispositivos e tecnologias que podem ajudar a verificar a origem de uma foto ou vídeo por meio de seus metadados. “Por exemplo, se os dados mostram que uma foto foi tirada com um modelo de câmera específico, a Lista de Confiança ajuda a confirmar que esta informação é precisa”, disse Laurie Richardson, vice-presidente de confiança e segurança do Google. Borda“Nosso objetivo é ampliar gradualmente isso e usar sinais C2PA para informar como aplicar políticas importantes.”
Velocidade da luz mashável
Sam Altman está deixando o cargo de chefe do grupo de segurança da OpenAI
Depois de ingressar na C2PA em maio, a TikTok se tornou a primeira plataforma de vídeo a implementar as credenciais de conteúdo da C2PA, incluindo um sistema de rotulagem automatizado para ler metadados de vídeo e marcá-los como IA. Com o lançamento das Credenciais de Conteúdo para plataformas Google, espera-se que o YouTube siga o exemplo.
O Google tem falado abertamente sobre a rotulagem e regulamentação generalizada da IA, especialmente nos seus esforços para conter a propagação de desinformação. Em 2023, o Google lançou o SynthID, sua própria ferramenta de marca d’água digital projetada para detectar e rastrear conteúdo gerado por IA usando o gerador de texto para imagem do Google DeepMind, Imagen. No início deste ano, introduziu mandatos (limitados) de rotulagem de IA para vídeos do YouTube e comprometeu-se a combater o conteúdo deepfake gerado por IA na Pesquisa Google.
Negócios juntou-se ao comitê diretor do C2PA em Fevereiro, um grupo que incluía outros grandes intervenientes da indústria e até organizações de notícias como a BBC.