O Google anunciou na terça-feira que os usuários podem descobrir se uma imagem foi criada usando inteligência artificial generativa (IA) de uma nova maneira. Embora a gigante da tecnologia esteja trabalhando no desenvolvimento de ferramentas internas para marcar conteúdo gerado por IA, ela também se juntou à Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA) como membro do comitê diretor em fevereiro. Depois de trabalhar com outros players do setor para desenvolver o novo padrão técnico, a empresa agora está integrando-o às imagens disponíveis em suas ferramentas.
Google ajudará usuários a identificar imagens geradas por inteligência artificial
O risco das imagens geradas por IA é que muitas imagens criadas e aprimoradas digitalmente não podem ser distinguidas das reais. Devido a isso, aumentou o problema dos deepfakes, em que se acredita que uma imagem realista gerada pela inteligência artificial de uma pessoa, lugar ou evento seja real para espalhar desinformação.
Google declarou em A postagem no blog que no primeiro semestre do ano trabalhou com outros membros da coligação para desenvolver uma nova versão (2.1) de uma norma técnica denominada Credenciais de Conteúdo. Diz-se que é mais seguro contra vários tipos de manipulação e possui requisitos técnicos mais rigorosos. Este padrão agora está sendo adicionado às imagens que podem ser pesquisadas usando as ferramentas do Google.
A gigante da tecnologia disse que as credenciais de conteúdo serão integradas às imagens exibidas no Google Images, Lens e Circle to Search. Isso significa que quando os usuários navegarem até a seção “Sobre esta imagem” de uma imagem, eles poderão verificar os metadados C2PA, confirmando se a imagem foi criada ou editada usando ferramentas de IA.
Além disso, o Google declarou que pretende integrar metadados C2PA em seus sistemas de publicidade. Esses dados orientarão as principais políticas e estratégias de fiscalização da empresa no futuro. Além disso, também está explorando maneiras de fornecer informações C2PA aos espectadores do YouTube para ajudá-los a saber se um vídeo foi gravado na câmera ou digitalmente.
Vale ressaltar que a gigante da tecnologia está trabalhando em sua própria marca d’água tecnologia para conteúdo de IA chamado SynthID. Este sistema foi criado pelo Google DeepMind e incorpora informações nos pixels da imagem de forma que permaneçam invisíveis a olho nu, mas sejam visíveis quando inspecionados com ferramentas especiais.
