Kate Ruane, diretora do Projeto Liberdade de Expressão do Centro para Democracia e Tecnologia, diz que a maioria das plataformas tecnológicas agora tem políticas que proíbem a distribuição indireta de imagens íntimas, o que muitos dos maiores concordar com os princípios de combate aos deepfakes. “Eu diria que não está muito claro se a criação ou distribuição de imagens íntimas é proibida na plataforma”, diz Ruane. Termos de Serviço do Telegramque são menos detalhados do que outras plataformas tecnológicas importantes.
A abordagem do Telegram para remover conteúdo prejudicial tem sido criticada há muito tempo por grupos da sociedade civil, já que a plataforma historicamente hospedou golpistas, grupos de extrema direita e conteúdo relacionado ao terrorismo. Desde que Pavel Durov, CEO e fundador do Telegram, foi preso na França em agosto sob a acusação de uma série de supostos crimes, o Telegram começou a fazer algumas alterações em seus termos de serviço e a fornecer informações às autoridades. A empresa não respondeu às perguntas da WIRED sobre se proíbe expressamente “deepfakes”.
Faça o dano
Ajder, o pesquisador que descobriu o bot Deepfake do Telegram há quatro anos, diz que o aplicativo está quase exclusivamente posicionado para abuso de deepfake. “O Telegram oferece uma função de pesquisa, permitindo identificar comunidades, chats e bots”, diz Ajder. “Ele fornece funcionalidade de hospedagem de bot, então é um lugar que fornece ferramentas em ação. Além disso, é também um lugar onde você pode compartilhá-las e realmente causar danos em termos do resultado final.”
No final de setembro, vários canais deepfake postaram que o Telegram havia deletado seus bots. Ainda não está claro o que motivou a demissão. No dia 30 de setembro, um canal com 295 mil inscritos postou que o Telegram havia “banido” seus bots, mas postou um novo link de bot para os usuários. (O canal foi removido depois que a WIRED enviou perguntas ao Telegram.)
“Uma das coisas que é realmente preocupante em programas como o Telegram é que é muito difícil rastrear e monitorar, especialmente do ponto de vista dos sobreviventes”, diz Elena Michael, cofundadora e diretora do #NotYourPorn, um grupo de defesa dedicado a protegendo as pessoas. de agressão sexual baseada em imagem.
Michael diz que o Telegram tem sido “notoriamente difícil” para resolver questões de segurança, mas observa que a empresa fez alguns progressos nos últimos anos. No entanto, ele afirma que a empresa precisa ser mais proativa na moderação e filtragem de conteúdo.
“Imagine se você fosse um sobrevivente que tivesse que fazer isso sozinho, certamente o fardo não deveria recair sobre uma pessoa”, diz Michael. “Certamente o ônus de implantar algo deveria recair sobre a empresa, não sobre o jato.”
