O anúncio não é a primeira vez que uma empresa de tecnologia compartilha planos para ajudar a identificar falsificações em tempo real. Em 2022, a Intel se apresentou Ferramenta FakeCatcher para detectar falsificações profundas. O FakeCatcher foi projetado para analisar mudanças no fluxo sanguíneo facial para determinar se um participante do vídeo é real. A ferramenta Intel também não está disponível.
Os investigadores académicos também estão a explorar diferentes abordagens para lidar com este tipo específico de ameaça profunda de contrafação. “Esses sistemas estão ficando muito sofisticados para a criação de grãos de café. Precisamos de menos dados agora”, diz Govind Mittal, PhD em ciência da computação pela Universidade de Nova York. “Se eu tiver 10 fotos minhas no Instagram, alguém pode tirá-las. Eles podem atingir pessoas comuns.”
Os deepfakes em tempo real não estão mais limitados a bilionários, figuras públicas ou pessoas com grande presença online. A pesquisa de Mittal em Nova York com os professores Chinmay Hegde e Nasir Memon sugere um potencial. abordagem baseada em problemas para bloquear bots de IA em videochamadas nas quais os participantes devem passar por algum tipo de teste de vídeo CAPTCHA antes de se conectarem.
Enquanto o Reality Defender trabalha para melhorar a precisão de seus modelos, Coleman diz que o acesso a mais dados é um desafio importante a ser superado – um refrão comum no atual lote de startups focadas em IA. Ele espera que mais parcerias preencham essas lacunas e, sem ser específico, sugere alguns novos acordos que provavelmente surgirão no próximo ano. Depois que a ElevenLabs se conectou à chamada de voz profunda do presidente dos EUA, Joe Biden, a startup de áudio de IA fez um acordo com o Reality Defender para minimizar o uso indevido potencial.
O que você pode fazer agora para se proteger contra golpes de videochamada? Tal como acontece com a principal dica da WIRED sobre como evitar golpes de correio de voz de IA, não se deixe enganar se você consegue ou não detectar vídeos deepfakes, é importante evitar golpes. A tecnologia neste espaço está evoluindo rapidamente e quaisquer marcadores nos quais você confia atualmente para identificar IA artificial podem não ser tão confiáveis na próxima atualização dos modelos originais.
“Não queremos que nossa mãe de 80 anos tenha um ransomware sinalizado em um e-mail”, diz Coleman. “Porque ele não é um especialista em ciência da computação.” No futuro, é possível que a autenticação de vídeo em tempo real, se a detecção de IA continuar a melhorar e se provar precisa, seja considerada um dado adquirido, com um scanner de malware zumbindo silenciosamente no fundo da sua caixa de entrada de e-mail.
