- Perri Adams, asesora técnica de IA y ciberseguridad de la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) de Estados Unidos, dio la keynote en la conferencia OffensiveCon
- La IA se está aplicando cada vez más al desarrollo de exploits y a la automatización de vulnerabilidades
- A partir del análisis de un caso real de una vulnerabilidad double free pre-auth en OpenSSH, se explora cómo puede aprovecharse la IA en el desarrollo de exploits
- La IA basada en modelos grandes de lenguaje (LLM) ayuda en algunas subtareas, como entender el heap grooming, pero sigue siendo insuficiente para generar automáticamente un exploit completo
- La combinación de sistemas expertos (por ejemplo, motores simbólicos) e IA está produciendo avances reales
- Aunque la IA no reemplazará a las personas en el corto plazo, se espera que amplíe su papel como herramienta de apoyo y contribuya a automatizar partes específicas
Introducción
- Keynote de la conferencia OffensiveCon: el futuro de la IA y el desarrollo de exploits
- La ponente, Ms. Perri Adams, es asesora técnica en IA y ciberseguridad del director de DARPA
- Exintegrante del equipo organizador de DEF CON CTF y participante en competencias de hacking
- Se explica el contexto en el que las discusiones sobre “automatización” y “uso de IA” están muy activas en el campo de la seguridad
- La charla se desarrolla a partir de su experiencia en DARPA, en distintas industrias y en CTF (Capture the Flag)
Caso real: la vulnerabilidad double free pre-auth de OpenSSH y la IA
- En febrero de 2023, Qualys reportó a OSS-SEC ML una vulnerabilidad double free en el entorno pre-auth de OpenSSH
- Se explica que es una vulnerabilidad compleja, que solo se activa bajo ciertas configuraciones y condiciones
- La estructura de esta vulnerabilidad hace que explotarla sea muy difícil debido a la complejidad del código en C, la separación de procesos, varias llamadas a funciones y problemas de backward compatibility
- Se analiza que hay varios espacios de juego, como la estructura del heap (el tcache de Glibc, unsorted bin, etc.), paquetes previos a la autenticación (manipulación de listas personalizadas), OpenSSL y punteros a funciones
- En la práctica, se explora la posibilidad de manipular el heap (grooming) para provocar un use-after-free y, teóricamente, sobrescribir un puntero a función
Aplicación real de herramientas de IA
- Se intentó analizar esta vulnerabilidad usando IA de la familia LLM como ChatGPT (3.5, 4.0) y Claude
- Mostraron un desempeño útil en algunas subtareas, como organizar y resumir la estructura fundamental de la vulnerabilidad y el proceso de asignación del heap
- Sin embargo, se confirmaron limitaciones en la generación automática de código de exploit completo, la manipulación compleja del heap y la interpretación del flujo interno de OpenSSL
- Algunas IA presentaron con mucha seguridad PoC (Proof of Concept) poco realistas o inexactas, o se negaron a generar código por razones éticas
- En cambio, sí ofrecen apoyo defensivo práctico en áreas como propuestas de corrección/parches de código y resúmenes de zonas de riesgo
La combinación de IA y sistemas expertos (frameworks simbólicos)
- Más que una IA basada solo en LLM, una estructura combinada con sistemas expertos como Lean proof engine ha mostrado mejores resultados en problemas como los de la Olimpiada Matemática
- En problemas bien formalizados, como los de la IMO, los sistemas IA-simbólicos pueden cumplir funciones de recompensa y verificación, elevando el rendimiento
- La automatización de exploits también está avanzando gracias a la combinación de IA con herramientas de análisis como CodeQL, IDA y Binary Ninja
Investigación sobre automatización de exploits y realidad actual
- Desde competencias de generación automática de exploits como el DARPA Cyber Grand Challenge, la investigación ha logrado avances significativos en entornos de menor complejidad
- Los principales estudios dividen el problema en partes más pequeñas y proponen plantillas de exploits y técnicas de automatización por objetivo o por tipo de vulnerabilidad
- Más que herramientas de automatización genéricas, lo que más se acerca a resultados reales es la combinación de subalgoritmos especializados en tipos de vulnerabilidad o blancos concretos
- Los LLM siguen cumpliendo sobre todo un papel de “asistente entusiasta”: más que reemplazar directamente el trabajo de especialistas, contribuyen en una dirección de apoyo
Conclusión y perspectivas
- La idea de que la IA automatizará por completo y pronto todo el desarrollo de exploits tiene mucho de exageración
- El enfoque más efectivo es combinar el desarrollo directo de exploits con el uso de IA como apoyo en subtareas, por ejemplo para organizar información, corregir código o hacer pruebas repetitivas
- El avance de la automatización sigue en parte los pasos de la creatividad humana, y todavía es difícil que la IA se adapte por completo a la complejidad y variabilidad de las vulnerabilidades reales
- Hacia adelante, se proyecta que las áreas clave de crecimiento serán la semiautomatización mediante la combinación de capas de abstracción/sistemas expertos e IA, así como la automatización enfocada en tipos específicos de vulnerabilidades
- En campos como la ingeniería inversa, la seguridad de aplicaciones y el pentesting, aumentarán rápidamente los casos de uso y el valor práctico
Aún no hay comentarios.