Día 2 – Evolución de las IA en defensa y ataque
La inteligencia artificial dominó el tema inaugural de la Conferencia RSA,
captando la atención tanto de proveedores de seguridad consolidados como de
startups.
«La IA lo ha cambiado todo», declaró Hugh Thompson, presidente
ejecutivo de la conferencia, en la inauguración del evento anual de seguridad.
«La forma en que operan los atacantes está cambiando drásticamente: el uso
generalizado de la IA, su rápida adopción, las implicaciones de seguridad
que esto conlleva, los cambios masivos en lo que hacemos y cómo podríamos
hacerlo».
Los debates sobre IA destacados en RSA han trascendido la IA generativa y se
han centrado en la IA agente; su aplicación a los dominios de seguridad
tradicionales, especialmente en el centro de operaciones de seguridad; la
seguridad de aplicaciones basada en IA; la defensa contra ataques adversarios
en grandes modelos de lenguaje (LLM); y el cumplimiento normativo y la
gobernanza.
En una conferencia magistral, Vasu Jakkal, vicepresidente corporativo de
seguridad de Microsoft, afirmó que la seguridad es un área clave para la
adopción temprana de la IA.
«Creo firmemente que la IA tiene el mejor caso de uso, o definitivamente el
caso de uso más serio, en seguridad».
En otra conferencia magistral, Jeetu Patel, vicepresidente ejecutivo y
director de producto de Cisco, también predijo que la seguridad sería un
factor clave para la adopción de la IA, lo que calificó de irónico dada la
tendencia de los profesionales de la seguridad a frenar las nuevas
tecnologías.
Día 2 – Computación cuántica
Un tema central del segundo día de la Conferencia RSAC fue compartir
información sobre las acciones de los atacantes con capacidades emergentes
como la IA y la computación cuántica.
Sandra Joyce, vicepresidenta de Inteligencia de Amenazas de Google, detalló
cómo grupos de amenazas persistentes avanzadas (APT) de más de 20 países,
especialmente Irán, China y Corea del Norte, han accedido a los servicios
públicos de IA Gemini de Google para mejorar sus ataques. Aportó pruebas de
que los atacantes realizaron reconocimiento de las organizaciones objetivo,
investigaron vulnerabilidades, solicitaron ayuda con scripts maliciosos,
perfeccionaron los mensajes de phishing y buscaron técnicas de evasión.
Sin embargo, en esencia, la actividad de los atacantes detectada por
Inteligencia de Amenazas de Google fue relativamente baja.
«Aún no hemos visto indicios de que los adversarios desarrollen vectores de
ataque completamente nuevos con estos modelos», afirmó Joyce.
Los controles de seguridad de la IA impidieron que algunos actores de APT
realizaran investigaciones y ataques más sofisticados basados en IA, explicó
Joyce. Mientras tanto, las propias herramientas son capaces de descubrir
vulnerabilidades. Puso como ejemplo
Big Sleep, una vulnerabilidad previamente compartida que Google descubrió con la ayuda
de un LLM. «Creemos que este es el primer ejemplo público de un agente de IA que
encuentra un problema de memoria explotable previamente desconocido en
software del mundo real de uso generalizado», afirmó Joyce.
John ‘Four’ Flynn, vicepresidente de seguridad y privacidad de Google
DeepMind, señaló que los protocolos de seguridad operativa de los actores
estatales más importantes dejan a la industria prácticamente ciega ante sus
actividades.
«Sostengo que la mayor parte del trabajo adversarial probablemente se
realizará en modelos locales, de peso abierto, o en algún tipo de modelos
personalizados que estén desarrollando, debido a la falta de visibilidad. Si
eres un atacante, obviamente estarás probando todo lo que existe, pero si
realizas un trabajo realmente pesado con IA, puede que sea algo que hagas
abiertamente o no».
Jade Leung, directora técnica del Instituto de Seguridad de IA del Reino Unido
(un equipo del gobierno británico compuesto por unos 200 investigadores), se
centró en cómo la IA podría afectar los riesgos para la seguridad nacional en
áreas como los ataques químicos y biológicos y el terrorismo.
«Claramente, las capacidades [de la IA] avanzan más rápido que la
seguridad. Existe la sensación de que quienes trabajan sobre el terreno en
este tipo de problemas sienten que apenas estamos a la altura».
Si bien la IA ocupa un lugar central como tema de seguridad en la
Conferencia RSAC, un panel principal del martes también abordó otra amenaza
emergente: la posibilidad de que la computación cuántica socave las
prácticas actuales de cifrado.
Los participantes en ese panel sobre criptografía coincidieron en que la
computación cuántica probablemente aún está a más de una década o más de
convertirse en una amenaza para el descifrado, pero dejaron claro que
los actores de los estados nacionales están tomando medidas ofensivas
ahora.
Raluca Ada Popa, profesora asociada e investigadora científica sénior de UC
Berkeley y Google DeepMind, denominó la técnica
«recolectar ahora, descifrar después». Añadió:
«Los atacantes pueden importar datos cifrados y confidenciales ahora y
descifrarlos más tarde, cuando las computadoras cuánticas estén listas».
Whitfield Diffie, pionero de la criptografía de clave pública, intervino para
explicar por qué la recolección de datos es importante incluso si la
computación cuántica está a décadas de distancia.
«Existen vastas bibliotecas de cintas en la NSA y en todas esas
organizaciones que datan de décadas atrás. Estoy bastante seguro de que lo
más antiguo en las bibliotecas de cintas de la NSA probablemente data de la
Primera Guerra Mundial, y seguramente no es posterior a la Segunda Guerra
Mundial. Así que, por supuesto, se seguirá trabajando en nuestro tráfico
actual durante el resto del siglo».
El profesor del MIT, Vinod Vaikuntanathan, recomendó que las organizaciones
protejan sus datos confidenciales empleando uno de los algoritmos de
cifrado poscuántico
más recientes, además de un algoritmo actual como RSA o Diffie-Hellman.
«Lo pragmático es ser conservador y emplear el llamado cifrado híbrido».
Día 3 – Nuevas amenazas y tipos de ataques
Para el público de seguridad al que se dirigió el tercer día de la Conferencia
RSAC en su discurso inaugural recurrente sobre ciberseguridad, el fundador de
Mandiant, Kevin Mandia, afirmó que el mensaje es claro.
«Si hay un tema central en este momento es ‘¿Cómo podemos hacer más con
menos y más con lo mismo?’. Si hay que operar haciendo más con menos, la
carrera de la IA ha comenzado».
Muchas de las demás discusiones del tercer día de la conferencia se dedicaron
a técnicas y problemas de ataque emergentes, relacionados con la IA y otros.
Tom Gillis, vicepresidente sénior y director general del grupo de
infraestructura y seguridad de Cisco, hizo referencia a los ataques
«Volt Typhoon» (APT de China), cuya motivación generó un amplio debate en la
Conferencia RSAC.
«Este año vimos ataques contra una nueva superficie de ataque. Se están
atacando conmutadores, enrutadores y firewalls, y el objetivo de los
atacantes no es robar información de tarjetas de crédito. El objetivo de los
atacantes es entrar y permanecer para poder apagar las luces cuando llegue
el momento. Por lo tanto, hay mucho en juego».
Joshua Wright, miembro del Instituto SANS, presentó una nueva y peligrosa
técnica llamada proliferación de autorizaciones (Permission Sprawl).
«Estamos creando escenarios en los que los adversarios aprovechan ese
proceso de autenticación centralizado mediante inicio de sesión único,
tokens de acceso personal, tokens de muestra y similares, para poder
explotar su acceso a diferentes recursos. Esto es algo que observamos
en nuestras pruebas de penetración, pero también lo vemos utilizado por
actores de amenazas», afirmó, identificando al equipo
«Scattered Spider»
como un conocido actor de amenazas que utiliza esta técnica.
«Sus tácticas no son tan sofisticadas. Usan su acceso inicial y luego
emplean todos los recursos disponibles para expandirse por toda la red. Y lo
sorprendente de esto es que su herramienta principal es simplemente un
navegador», afirmó Wright.
Otro investigador de seguridad del mismo panel del SANS Institute identificó
un desafío emergente relacionado con la ventaja de velocidad que los atacantes
basados en IA tienen sobre los defensores y solicitó una solución
legislativa. Para establecer la velocidad de los agentes de IA adversarios,
Rob T. Lee, jefe de investigación del SANS Institute, citó una investigación
del MIT que demuestra que esos sistemas de agentes pueden ejecutar secuencias
de ataque 47 veces más rápido que los operadores humanos.
«La velocidad ya no es la métrica. Es el arma decisiva», afirmó Lee.
Incluso con la IA como apoyo, Lee sostuvo que los defensores se ven
actualmente obstaculizados por leyes de privacidad como el RGPD, la CCPA y la
nueva legislación de la Unión Europea que regula la IA y los datos.
«En cuanto al análisis de red, ahora se pueden incorporar todos los datos
de análisis de red en un LLM. Esto requiere literalmente acceso a datos
privados, correos electrónicos, historial de navegación y
registros. Las organizaciones deben desinfectar hasta el 78% de los
datos de seguridad sin procesar, lo que demora de siete a doce minutos antes
de que se realice la acción necesaria para el análisis, dijo.
Fuente:
ITPro