Los estudiantes de Harvard
revelaron recientemente
que es posible combinar las gafas inteligentes Meta con la tecnología de
búsqueda de imágenes faciales para
«revelar los detalles personales de cualquier persona», incluido su
nombre, dirección y número de teléfono, «con solo mirarla».
En un
documento, AnhPhu Nguyen y Caine Ardayfio explicaron cómo vincularon un par de Meta
Ray Bans 2 a un
motor de búsqueda de rostros invasivo llamado PimEyes
para ayudar a identificar extraños mediante la búsqueda cruzada de su
información en varias bases de datos de búsqueda de personas. Luego utilizaron
un modelo de lenguaje grande (LLM, por sus siglas en inglés) para combinar
rápidamente todos esos datos, haciendo posible engañar a alguien de un vistazo
o sacar a la luz información para estafar a alguien en segundos, u otros usos
nefastos, como
«algún tipo podría simplemente encontrar el nombre de una chica y seguirla
a casa…»,
dijo Nguyen a 404 Media.
Todo esto es posible gracias al progreso reciente con los LLM, dijeron los
estudiantes.
«Esta sinergia entre los LLM y la búsqueda inversa permite una extracción
de datos completamente automática y completa que antes no era posible solo
con los métodos tradicionales», dice su documento.
Además de usar PimEyes para acechar a los niños, The Times había advertido que
PimEyes podría usarse para encontrar fotos del mismo niño para crear videos
realistas de ese niño o para encontrar audio del niño para usarlo en cada vez
mayores estafas de voz de IA. Este año, la preocupación por miles de imágenes
falsas de sexo infantil realizadas por IA encontradas en línea llevó a todos
los fiscales generales de Estados Unidos a hacer sonar la alarma.
Mientras que antes alguien podía dedicar mucho tiempo a realizar su propia
búsqueda en bases de datos públicas para encontrar información basada
únicamente en la imagen de alguien, sus gafas inteligentes distópicas hacen
ese trabajo en unos pocos segundos, afirman en
su vídeo de demostración.
Los cocreadores dijeron que alteraron un par de Meta Ray Bans 2 para crear
I-XRAY y crear conciencia sobre
«importantes preocupaciones de privacidad en línea a medida que la
tecnología avanza rápidamente».
Meta Ray Bans «la forma más espeluznante de probar tecnología»
Dijeron que eligieron Meta Ray Bans 2 para su proyecto porque las gafas
inteligentes «parecen casi indistinguibles de las gafas normales».
Nguyen le dijo a 404 Media que usar gafas inteligentes
«Meta era «la forma más espeluznante que se les ocurrió para que un mal
actor intentara escanear rostros sin ser detectado».
Para evitar que alguien sea engañado,
los cocreadores no publicarán el código. Sin embargo, sí describieron cómo funciona su inquietante tecnología y cuán
los extraños utilizados como sujetos de prueba quedaron sorprendidos al
descubrir con qué facilidad eran identificables simplemente accediendo a su
información publica en línea.
Nguyen y Ardayfio probaron su tecnología en una estación de metro con personas
desprevenidas en el mundo real. Para demostrar cómo se podía abusar de la
tecnología para engañar a las personas, los estudiantes incluso afirmaron
conocer a algunos de los sujetos de prueba, aparentemente usando información
obtenida de las gafas para hacer referencias resonantes y fingir ser un
conocido.
Se identificaron decenas de sujetos de prueba, afirmaron los estudiantes,
aunque algunos resultados han sido cuestionados, informó 404 Media. Para
mantener su escaneo facial fuera del radar, los estudiantes cubrieron una luz
que se enciende automáticamente cuando las Meta Ray Bans 2 están grabando,
dijo Ardayfio en X.
Para Nguyen y Ardayfio,
el objetivo del proyecto era persuadir a las personas a optar por no
utilizar motores de búsqueda invasivos para proteger su privacidad en
línea. Un intento de utilizar I-XRAY para identificar al reportero de 404 Media,
Joseph Cox, por ejemplo, no funcionó porque había optado por no participar en
PimEyes.
Pero si bien la privacidad es claramente importante para los estudiantes y su
video de demostración se esforzó por eliminar información de identificación,
al menos un sujeto de prueba fue identificado «fácilmente» de todos modos,
informó 404 Media.
Hasta ahora, ni Facebook ni Google han optado por lanzar tecnologías similares
que desarrollaron para vincular gafas inteligentes con motores de búsqueda,
informó The New York Times.
Pero otros jugadores en el mundo de la IA están jugando con esta tecnología,
incluida Clearview AI, una compañía detrás de un motor de búsqueda facial para
policías que
«también ha explorado un par de gafas inteligentes que ejecutarían su
tecnología de reconocimiento facial».
Esto es preocupante por varias razones: debido a que
el objetivo de Clearview es incluir a casi
todos los seres humanos en su base de datos de reconocimiento facial, los policías ya
han utilizado la herramienta de manera poco ética
y sin autorización para realizar búsquedas personales, y
Clearview ya ha recibido una multa de 33 millones de dólares por
violaciones de privacidad.
Afortunadamente, enfrentar esta amenaza emergente no parece requerir mucho
esfuerzo por ahora. En su documento, Nguyen y Ardayfio brindan instrucciones
para que las personas eliminen sus rostros de motores de búsqueda de cara inversa como PimEyes y Facecheck ID, así como de motores de búsqueda de
personas como FastPeopleSearch, CheckThem e Instant Checkmate. También
proporcionaron un formulario para que las personas se comunicaran con sus
preguntas.
En declaraciones a 404 Media, tanto Meta como PimEyes parecieron restar
importancia a los riesgos de privacidad: el primero señaló que existen los
mismos riesgos con las fotos de personas y el segundo afirmó que PimEyes no
«identifica» a las personas (sólo señala enlaces a sus fotos), donde los
usuarios a menudo pueden encontrar información de identificación.
En la Unión Europea, donde la recopilación de datos de reconocimiento facial
generalmente requiere el consentimiento directo de alguien según el Reglamento
General de Protección de Datos, las gafas inteligentes como I-XRAY pueden no
ser una preocupación tan grande para las personas que prefieren permanecer en
el anonimato en espacios públicos. Pero en los EE.UU., I-XRAY podría estar
proporcionando a los malos actores su próxima estafa.
Fuente:
ArsTechnica