Imagens e vídeos gerados por IA sobre o furacão Milton podem não ser apenas um irritante clickbait. Também podem estar ligados a fraudes e campanhas de desinformação.
Na sequência de um furacão de categoria 3 que devastou partes da Florida, plataformas de redes sociais como X, TikTok e Facebook foram inundadas com conteúdo gerado por IA. Algumas imagens e vídeos gerados por IA são mais fáceis de detectar do que outros, como aqueles que são claramente destinados ao riso foto mostrando uma garota abraçando um jacaré em um barco sob forte chuva.
O tweet pode ter sido excluído
Outros são mais convincentes, como as imagens geradas por IA de um Disney World inundado que inicialmente enganou muitos – até mesmo comum pela propaganda russa.
O tweet pode ter sido excluído
O resultado pode ser simplesmente a disseminação de desinformação, o que já é suficientemente mau, mas o lixo da Internet gerado pela IA também é utilizado para atrair pessoas para fraudes.
Como identificar imagens geradas por IA
O furacão Milton AI está em toda parte
Neste ponto, muitos viram fotos falsas das passarelas da Disney World debaixo d’água. Mas avancemos para o TikTok pode ser visto Imagens geradas por IA do furacão Milton causando estragos.
Alguns vídeos são marcados com hashtags ou legendas como vídeos gerados por IA, mas é fácil imaginar como eles poderiam ser compartilhados e usados por outra pessoa. Karen Panetta, bolsista do IEEE e professora de engenharia elétrica e de computação na Tufts University, descreve como o conteúdo gerado por IA pode ser transformado em arma para causar pânico e confusão. “Menos de 30% da população adulta entende o que a inteligência artificial pode fazer. Se espalharmos desinformação ao público em geral com uma manchete assustadora, muitas pessoas entrarão em pânico”, disse Panetta.
Velocidade variável da luz
Para ser claro, os danos reais causados pelo furacão Milton são devastadoramente reais. Mas quando o conteúdo gerado por IA entra em ação, os usuários questionam a realidade. Isto, por sua vez, pode criar desconfiança e terreno fértil para teorias conspiratórias sobre furacões. Um X é um exemplo usuário alegou que a filmagem do astronauta da NASA Matthew Dominick era falsa e até sugeriu que Dominick não estava no espaço. Desde então, surgiram filmagens verificado como autêntico.
O tweet pode ter sido excluído
Mas para aumentar a confusão, algumas imagens de satélite que pretendiam mostrar o furacão Milton foram desmascaradas. Snopes como escrito incorretamente ou gerado por inteligência artificial.
Cuidado com golpes que usam imagens geradas por IA
Além da desinformação e da desinformação após o furacão Milton, os especialistas dizem que é importante estar atento a fraudes. Comissão Federal de Comércio lançado um comunicado à imprensa um dia antes de Milton chegar ao continente alertou os consumidores para ficarem atentos a “indivíduos que buscam tirar vantagem de desastres naturais, envolvendo-se em possíveis fraudes ou aumento de preços”.
De acordo com Panetta, golpes como instituições de caridade falsas podem se tornar mais eficazes usando inteligência artificial generativa. “Em todo desastre, sempre acontece alguma coisa [scammers] eles estão tentando criar sites de arrecadação de fundos que não são legais”, disse Panetta. “O que está acontecendo agora é que, devido ao fácil acesso às imagens geradas pela IA, eles as usam para criar credibilidade e dizer: ‘Olha, não estou apenas pedindo dinheiro. Veja como é terrível.”
A imagem viral gerada por IA de uma menina segurando um cachorrinho e chorando após o furacão Helene é um exemplo perfeito de como uma imagem pode tocar o coração e despertar o desejo de doar, mesmo que seja falsa. Embora usuários experientes da Internet possam perceber que isso é falso, outros podem não saber e essas pessoas são alvos fáceis de fraude.
Algumas imagens do furacão Milton geradas por IA podem parecer exemplos inofensivos de uma criança querendo mostrar suas habilidades generativas de IA. Mas nem sempre é esse o caso. Uma falsa sensação de inocência pode ser uma forma de induzir as pessoas a baixarem a guarda. “Essa é toda a estratégia. Como atrair pessoas? E uma vez que eu convenço você de que estou certo, surge a questão”, disse Panetta.
“Sempre há dinheiro no final”, acrescentou ela.
Embora desastres naturais como o furacão Milton possam tornar as pessoas extremamente vulneráveis, é ainda mais importante pensar criticamente e pensar duas vezes antes de reagir a qualquer coisa online. A FTC afirma que os golpistas muitas vezes insistem em pagar por transferência bancária, cartão-presente, aplicativo de pagamento, criptomoeda ou dinheiro, e recomenda verificar recursos sobre como evitar fraudes após uma emergência climática.
Tópicos
Inteligência artificial
