O Google anunciou na terça-feira que os usuários têm novas maneiras de descobrir se uma imagem foi criada usando inteligência artificial generativa (IA). Embora a gigante da tecnologia tenha trabalhado para desenvolver ferramentas internas para marcar conteúdo gerado por IA, ela também se juntou à Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA) como membro do comitê diretor em fevereiro. Depois de trabalhar com outras empresas do setor para desenvolver o novo padrão técnico, a empresa agora os integra às imagens disponíveis em suas ferramentas.
Google ajudará usuários a identificar imagens geradas por inteligência artificial
O risco das imagens geradas por IA é que muitas imagens criadas e aprimoradas digitalmente sejam indistinguíveis das reais. Por esta razão, o problema dos deepfakes disparou, onde se acredita que uma imagem realista de uma pessoa, lugar ou evento gerada por IA é real, a fim de espalhar desinformação.
Google declarou em postagem no blog que no primeiro semestre do ano trabalhou com outros membros da coligação para desenvolver uma nova versão (2.1) de uma norma técnica denominada Credenciais de Conteúdo. Diz-se que é mais seguro contra vários tipos de manipulação e possui requisitos técnicos mais rigorosos. Este padrão agora é adicionado às imagens que podem ser pesquisadas nas ferramentas do Google.
A gigante da tecnologia disse que as credenciais de conteúdo serão integradas às imagens que aparecem no Google Images, Lens e Circle to Search. Isso significa que quando os usuários acessam a seção “Sobre esta imagem”, eles podem verificar os metadados C2PA para confirmar se a imagem foi criada ou editada usando ferramentas de IA.
Além disso, o Google anunciou que pretende integrar metadados C2PA através de seus sistemas de publicidade. Esses dados informarão as principais políticas e estratégias de fiscalização da empresa no futuro. Além disso, a empresa também está procurando maneiras de comunicar informações C2PA aos espectadores do YouTube para ajudá-los a saber se um vídeo foi gravado na câmera ou feito digitalmente.
Notavelmente, a gigante da tecnologia desenvolveu um sistema interno de marca d’água tecnologia para conteúdo de IA chamado SynthID. Este sistema foi criado pelo Google DeepMind e incorpora informações nos pixels da imagem de forma que permaneçam invisíveis aos olhos, mas apareçam quando inspecionados com ferramentas especiais.
