Dois estudantes de engenharia de Harvard usaram óculos inteligentes Ray-Ban Meta para criar um aplicativo que pode revelar informações confidenciais sobre pessoas sem o seu conhecimento. Os alunos publicaram um vídeo de demonstração na plataforma X (anteriormente conhecida como Twitter) e demonstraram os recursos do aplicativo. É importante ressaltar que o aplicativo não é disponibilizado publicamente aos usuários; em vez disso, pretende destacar os perigos dos dispositivos vestíveis alimentados por IA, que utilizam câmaras discretas que podem capturar fotos e imagens de pessoas.
O aplicativo, chamado I-Xray, usa inteligência artificial (IA) para reconhecer rostos e depois aplica os dados visuais processados a pessoas específicas. Doxxing, uma gíria popular na Internet, abreviação de “descartar um dox (documento ou documentos informais)”, é o ato de divulgar informações pessoais de uma pessoa sem o seu consentimento.
Ele foi integrado aos óculos inteligentes Ray-Ban Meta, mas os desenvolvedores disseram que funcionaria com qualquer óculos inteligente com câmeras discretas. Ele usa um modelo de IA semelhante ao PimEyes e FaceCheck para reconhecimento facial reverso. A tecnologia pode combinar o rosto de uma pessoa com fotos dela disponíveis publicamente na Internet e URLs de pesquisa.
Esses endereços são então inseridos em outro modelo de linguagem grande (LLM) e um prompt automático é gerado para o nome, ocupação, endereço e outros dados semelhantes da pessoa. O modelo de IA também analisa dados governamentais disponíveis publicamente, como bancos de dados de registro eleitoral. Além disso, uma ferramenta online chamada FastPeopleSearch também foi utilizada para esse fim.
Em um breve vídeo de demonstração, os estudantes de Harvard AnhPhu Nguyen e Caine Ardayfio também demonstraram como o aplicativo funciona. Eles poderiam encontrar estranhos com a câmera já ligada e perguntar-lhes seu nome, e um aplicativo baseado em IA poderia assumir a busca pelas informações pessoais de uma pessoa.
No Google Docs arquivoos desenvolvedores afirmam: “Essa sinergia entre o LLM e a pesquisa facial reversa permite a extração de dados totalmente automática e abrangente que anteriormente não era possível usando apenas métodos tradicionais”.
Os estudantes disseram que não tinham intenção de disponibilizar o aplicativo publicamente e que o desenvolveram apenas para aumentar a conscientização sobre os riscos associados a um dispositivo vestível habilitado para IA que pudesse gravar pessoas discretamente. No entanto, isso não significa que os malfeitores não possam criar um aplicativo semelhante usando uma metodologia semelhante.
