Investigadores de la Universidad de Toronto, el Vector Institute, la
Universidad de Cambridge y ServiceNow demostraron que un
gusano informático impulsado por IA, que utiliza Grandes Modelos de Lenguaje de peso abierto y un arnés agéntico
especializado, puede propagarse de forma autónoma y explotar adaptativamente
objetivos heterogéneos a través de una red.
El gusano logró la explotación del
73.8% y la replicación al 61.8% de los hosts objetivo en promedio en entornos
simulados, incluyendo la explotación exitosa de vulnerabilidades divulgadas
recientemente.
La investigación, realizada en un laboratorio digital cerrado al exterior,
mostró que un gusano impulsado por modelos de IA abiertos puede tomar control
de una red completa, apropiarse de capacidad de cómputo de las máquinas
infectadas y usar esos recursos para continuar su expansión. El alcance de la
amenaza abarca desde computadoras portátiles hasta sistemas de climatización y
redes eléctricas, de acuerdo con Nicolas Papernot, uno de los autores del
trabajo.
El investigador explicó que el equipo decidió divulgar los hallazgos después
de revisar el estudio para eliminar cualquier información que pudiera ayudar a
actores maliciosos. Antes de publicarlo, los autores compartieron sus
resultados con organismos nacionales de ciencia, seguridad y defensa.
El trabajo se centró en modelos de IA de «pesos abiertos», que cualquier
persona puede descargar y modificar de forma gratuita. Los investigadores
quisieron poner a prueba la idea, extendida en parte de la comunidad de
ciberseguridad, de que esos modelos más pequeños no tienen suficiente
capacidad para causar daños reales.
Para hacerlo, construyeron una prueba de concepto en un sistema seguro y
cerrado que simuló el comportamiento de un gusano de IA en una red de decenas
de dispositivos interconectados, entre ellos portátiles, impresoras y cámaras.
A diferencia de un gusano tradicional, que sigue un guion fijo programado por
humanos y fracasa si encuentra una defensa para la que no fue diseñado, el
prototipo evaluó cada objetivo, adaptó su ataque y luego se copió en la
siguiente máquina.
El estudio mostró que el gusano podía reunir información mientras avanzaba por
la red: cada intrusión revelaba contraseñas y puntos débiles que facilitaban
el acceso al siguiente equipo. Esa capacidad de ajuste hace que una sola
defensa no baste para frenarlo.
Papernot explicó que el programa amplía su radio de acción a costa de las
propias víctimas. Una vez instalado en una máquina, el gusano desvía potencia
de procesamiento para sostener su razonamiento y preparar el siguiente ataque,
lo que elimina en los hechos el costo de cada nueva infección.
De acuerdo con el portal, la principal diferencia con trabajos anteriores es
que este prototipo no se limita a propagarse a través de aplicaciones de
inteligencia artificial, sino que puede operar fuera de esos sistemas y atacar
el software subyacente. Eso amplía de forma directa el universo de
dispositivos en riesgo.
«Cada dispositivo conectado a Internet, portátiles, cámaras, termostatos
inteligentes y todo lo demás, se convierte en un objetivo potencial, aunque no
sea por los datos que almacena, sí como punto de apoyo para atacar objetivos
más valiosos», indicó Papernot.
El prototipo no descubre vulnerabilidades desconocidas, a diferencia de
modelos más potentes y fuertemente protegidos como Claude Mythos de Anthropic.
Aun así, en un entorno abierto podría acceder a Internet, localizar avisos
sobre fallas recién detectadas y explotarlas antes de que lleguen los parches
de software.
Medidas concretas para reducir el riesgo
«En un mundo interconectado, ningún sistema es inmune a esta amenaza», señaló
Papernot. «Compartir estos hallazgos es el primer paso para movilizar a
investigadores, líderes de la industria y responsables políticos para que
actúen, y rápido», agregó.
El profesor pidió a los profesionales de tecnología reforzar cualquier ajuste
de seguridad que pueda dejar expuestos sus sistemas y sostuvo que los usuarios
también deben intervenir. Sus recomendaciones fueron concretas: mantener los
dispositivos actualizados, usar contraseñas robustas y activar la
autenticación multifactor.
Fuente:
AI Agents Enable Adaptive Computer Worms