A Meta disse na quarta-feira que encontrou conteúdo “possivelmente gerado por IA” em suas plataformas Facebook e Instagram sendo usado de maneira enganosa, incluindo comentários elogiando a forma como Israel lidou com a guerra em Gaza, postados em postagens de organizações de notícias globais e legisladores dos EUA.
Num relatório trimestral de segurança, a empresa de redes sociais disse que as contas apresentavam estudantes judeus, afro-americanos e outros cidadãos preocupados e públicos-alvo nos Estados Unidos e no Canadá. Ela atribuiu a campanha à empresa de marketing político STOIC, em Tel Aviv.
O STOIC não respondeu imediatamente a um pedido de comentário sobre as alegações.
Por que isso é importante?
Embora Meta tenha encontrado fotos de perfil primárias geradas por IA em operações de influência desde 2019, o relatório é o primeiro a revelar o uso de tecnologia generativa de IA baseada em texto desde seu surgimento no final de 2022.
Os cientistas temem que a inteligência artificial generativa, que pode criar de forma rápida e barata textos, imagens e sons semelhantes aos humanos, possa levar a campanhas de desinformação mais eficazes e influenciar as eleições.
Numa chamada de imprensa, os executivos de segurança da Meta disseram que já tinham removido a campanha israelita e não acreditavam que as tecnologias de inteligência artificial de ponta prejudicassem a sua capacidade de perturbar as redes de influência, que são tentativas coordenadas de transmitir mensagens.
Os executivos disseram não ter visto redes implantando imagens de políticos geradas por IA que fossem realistas o suficiente para serem confundidas com fotos reais.
Citação chave
“Existem vários exemplos dessas redes que usam ferramentas generativas de IA para criar conteúdo. Talvez isso lhes dê a capacidade de fazer isso mais rápido ou em um volume mais alto. Mas isso realmente não afetou nossa capacidade de detectá-los”, disse Meta, chefe de investigações de ameaças, Mike Dvilyanski.
Pelos números
O relatório destacou seis operações secretas de influência que a Meta interrompeu no primeiro trimestre.
Além da rede STOIC, a Meta encerrou uma rede baseada no Irão focada no conflito Israel-Hamas, embora não tenha identificado qualquer utilização de IA generativa nessa campanha.
Contexto
A Meta e outros gigantes da tecnologia têm considerado como lidar com o potencial uso indevido de novas tecnologias de inteligência artificial, especialmente durante as eleições.
Os pesquisadores encontraram exemplos de geradores de imagens de empresas como OpenAI e Microsoft que produzem imagens contendo desinformação eleitoral, embora as empresas tenham políticas que proíbem tal conteúdo.
As empresas têm enfatizado os sistemas de etiquetagem digital para marcar o conteúdo gerado pela IA à medida que é criado, embora estas ferramentas não funcionem em texto e os investigadores tenham dúvidas sobre a sua eficácia.
Qual é o próximo
A meta enfrenta testes importantes na sua defesa com eleições na União Europeia no início de Junho e nos Estados Unidos em Novembro.
©ThomsonReuters 2024
