Evaluación de los nuevos resultados de criptoanálisis de IA de Anthropic

• El modelo avanzado no publicado Claude Mythos creó un ataque de recuperación de clave contra HAWK y una mejora para atacar AES de 7 rondas, lo que muestra la capacidad de la IA para comprender, combinar y extender técnicas de criptoanálisis existentes
• El ataque a HAWK no rompe de inmediato el sistema desplegado, pero reduce aproximadamente a la mitad la cantidad de bits de seguridad. Se podría duplicar el tamaño de la clave, pero eso reduce la eficiencia y hace que su posibilidad de estandarización sea muy baja
• El resultado sobre AES apunta a una variante de 7 rondas, no a las 10, 12 o 14 rondas completas, y es un ataque impráctico que mejora un trabajo de 2013 solo por un factor constante, por lo que no cambia directamente la seguridad real de AES
• Como el modelo también puede producir con facilidad resultados plausibles pero erróneos, la verificabilidad se vuelve el cuello de botella. El código ejecutable o los contraejemplos simples son fáciles de verificar, pero las mejoras teóricas de velocidad requieren revisión de expertos, y aun las pruebas en Lean necesitan que una persona revise cómo está formulado el teorema
• La criptografía de clave pública y poscuántica, donde la cantidad de problemas estructurales difíciles es limitada, es un área en la que la IA puede aplicar ampliamente herramientas existentes. Todavía queda una frontera en la que se vuelve repentinamente incapaz en investigación avanzada, pero esa frontera se está desplazando rápidamente hacia afuera

---

Dos resultados de criptoanálisis creados por Claude Mythos

• Anthropic publicó un ataque de recuperación de clave contra HAWK y un ataque a AES de rondas reducidas creados por su modelo avanzado no publicado Claude Mythos
• Los dos resultados difieren mucho en su objetivo y en su impacto
  • El resultado sobre HAWK tiene un impacto sustancial en un esquema de firma que tenía posibilidades de estandarizarse
  • El resultado sobre AES se parece más a un avance teórico que mejora ligeramente investigaciones existentes
• Anthropic también publicó una descripción del proceso de investigación por separado

Ataque de recuperación de clave que reduce el nivel de seguridad de HAWK

• HAWK es un candidato a esquema de firma poscuántica basado en el problema de isomorfismo de retículos modulares (module-LIP), y aún no se ha desplegado ni adoptado como estándar
• Está relacionado con Falcon, que está en proceso de estandarización, pero como se basan en problemas difíciles distintos, este ataque no se aplica a Falcon
• HAWK ya había sido objeto de una evaluación considerable como posible candidato a estándar futuro
• No es un ataque que rompa de inmediato HAWK con parámetros de despliegue reales, y todavía requiere tiempo exponencial, pero reduce aproximadamente a la mitad la cantidad de bits de seguridad
  • En teoría, se podría compensar duplicando el tamaño de la clave
  • Si la clave crece, la eficiencia cae y también se debilita la razón de ser de HAWK: ser más eficiente que las alternativas
• El código de ataque proporcionado recupera la clave en pocas horas en una instancia de desafío debilitada
  • No usa los parámetros propuestos para un despliegue real, pero alcanza para demostrar una debilidad criptográfica
• El resultado se obtuvo extendiendo y aplicando de forma exhaustiva varias herramientas ya conocidas, más que inventando matemáticas nuevas
  • Los ingredientes utilizados no tienen nada especialmente exótico
  • Combinar de manera amplia y persistente herramientas de ataque conocidas es el tipo de tarea en la que una IA ofensiva se desempeña bien
• Con este resultado, la probabilidad de que HAWK llegue a ser un estándar real se volvió muy baja
• El contexto técnico detallado se puede consultar en el resumen del ataque a HAWK

Impacto limitado del ataque a AES de 7 rondas

• AES es un cifrado de bloque usado como estándar desde 2001 y ejecuta 10, 12 o 14 rondas según el tamaño de la clave
• AES desplegado en la práctica ha resistido análisis importantes, incluida la validación no pública de la NSA
• Como atacar el cifrado completo es difícil, en criptoanálisis es común estudiar versiones de rondas reducidas debilitadas, y el resultado de Anthropic apunta a AES de 7 rondas
• Los ataques a AES de 7 rondas no son nuevos; este resultado mejora por un factor constante un trabajo previo de 2013 y un artículo relacionado
• Requiere una enorme cantidad de operaciones criptográficas, impracticable en la realidad, y primero habría que lograr que un dispositivo de cifrado real cifre una gran cantidad de textos planos elegidos con una clave secreta
• Como no se puede ejecutar el ataque completo en la práctica, la magnitud de la mejora se basa en análisis sobre papel
  • No está claro si el tiempo real de ejecución se reduciría al implementar todos los detalles
• Desde el punto de vista técnico, es un avance interesante en criptoanálisis, pero no es un ataque práctico contra AES completo ni una matemática nueva revolucionaria

Proceso de síntesis de ataques con intervención humana mínima

• Parece que el equipo de investigación de Anthropic no afinó el modelo en detalle con un gran equipo de expertos en criptografía, sino que le pidió que encontrara resultados y lo dejó iterar durante mucho tiempo
• El modelo alcanzó un nivel en el que puede realizar las siguientes tareas sin intervención humana detallada
  • Comprender resultados existentes de criptoanálisis
  • Sintetizar varias técnicas
  • Construir ataques realmente nuevos
  • Extender ataques existentes
• Todavía no es criptoanálisis superinteligente, pero su capacidad para producir avances reales a partir de investigaciones conocidas es considerable

La verificación se volvió más difícil que la generación de resultados

• Una salida que parece un resultado nuevo no siempre es realmente correcta
• El modelo puede generar con más facilidad no solo resultados reales, sino también resultados plausibles y engañosos, lo que aumenta la carga de revisión humana
• Un ataque completo como el de HAWK, que se ejecuta en pocas horas contra un sistema debilitado, es fácil de verificar
  • Basta con recibir el código y comprobar si permite recuperar la clave y firmar realmente los mensajes elegidos
• Una mejora teórica sutil de velocidad, como en AES, es difícil de validar
  • Se puede crear una prueba verificable por máquina con Lean
  • Aunque la prueba sea correcta, es sensible a cómo está formulado el propio enunciado del teorema, por lo que requiere revisión de expertos
• Los resultados matemáticos que han llamado la atención recientemente suelen pertenecer a estos tipos
  • Incluyen pruebas verificables por máquina de teoremas bien entendidos
  • Proporcionan contraejemplos simples que se pueden calcular directamente, como el contraejemplo de la conjetura jacobiana
  • Muchos expertos los revisan durante mucho tiempo antes de aceptar su validez
• La necesidad de verificación humana limita la velocidad de la investigación, y es probable que esta situación continúe por un tiempo en criptoanálisis que no sea crítico

Impacto en criptografía de clave simétrica y de clave pública

• Criptografía de clave simétrica

  • La criptografía de clave simétrica usa deliberadamente estructuras complejas y robustas para que se puedan aplicar rápido, pero sea difícil invertirlas
  • Dedicar más tiempo de cómputo de IA no permite resolver automáticamente esa estructura, y los modelos actuales no muestran la intuición revolucionaria necesaria para romperla
  • Incluso si la IA logra avances con nuevas técnicas, también se puede usar para fortalecer los propios cifrados

• Criptografía de clave pública y poscuántica

  • La criptografía de clave pública necesita estructuras matemáticas con trampillas: el cálculo en un sentido es rápido, el inverso es difícil y solo ciertas partes pueden invertirlo
  • No hay muchas estructuras convenientes descubiertas por humanos, y las bases principales son las siguientes
    • (EC)DLP
    • RSA
    • Problemas de retículos
    • Varios problemas de teoría de códigos
  • Incluso con problemas antiguos como RSA, es difícil estar seguros de que hayan sido analizados por suficiente gente; y en áreas más nuevas, como la criptografía basada en códigos y en retículos, hay mucho margen para investigación ofensiva
  • Es un terreno fértil de investigación donde una IA que aplique herramientas existentes a gran escala puede producir avances sustanciales

Oportunidades abiertas durante la transición a estándares poscuánticos

• La criptografía de clave pública está migrando de criptografía basada en curvas elípticas y RSA a algoritmos poscuánticos basados en nuevos problemas difíciles
• Este momento, en el que se están evaluando muchos candidatos, incluido HAWK, es oportuno para que surjan capacidades de criptoanálisis público a gran escala
• Si la IA no derriba todos los problemas difíciles de base ni nos lleva a un escenario tipo Minicrypt de Impagliazzo, un criptoanálisis potente con IA puede tener estos efectos
  • Aumentar la confianza en los problemas difíciles que sobrevivan
  • Hacer más sólida la literatura de criptoanálisis
  • Descartar candidatos vulnerables antes de su adopción como estándares

Cambios para científicos y ecosistema de investigación

• Los científicos pueden debatir los problemas más difíciles con el modelo, pero como el modelo todavía no resuelve todos los problemas de forma independiente, también queda un rol para los humanos
• La aceleración del ritmo de nuevos descubrimientos suele ser positiva para investigadores activos
• También quedan problemas sin resolver
  • A quién atribuir el crédito por los resultados creados por IA
  • Quién revisará la explosión de resultados
• En la experiencia con modelos avanzados no publicados, el rendimiento mejoró de forma clara incluso en los últimos meses, y en preguntas que habían sido de interés durante años aparecieron candidatos a resultados sorprendentes
• Incluso sin Claude Mythos ni recursos del orden de 100.000 dólares, se pueden observar estos cambios en algunos modelos avanzados nuevos

La frontera de las capacidades actuales de los modelos

• Ver a los modelos como simple autocompletado avanzado o concluir que su progreso se desaceleró no coincide con las capacidades reales de los modelos avanzados
• En los últimos 5 meses hubo grandes avances medibles en ciertos tipos de problemas, y hasta ahora no hay evidencia de un techo de rendimiento claro
• Si solo se usan resultados gratuitos de búsqueda con IA, es difícil experimentar las capacidades de los modelos avanzados; incluso se puede acceder a servicios de alto rendimiento por alrededor de 20 dólares
• Aun así, tampoco se puede decir que los modelos ya sean superinteligentes o que la AGI esté completa
  • En investigación avanzada, son muy útiles hasta cierto punto, pero al cruzar cierta frontera se vuelven repentinamente incapaces
  • Las personas todavía pueden encontrar fácilmente esa frontera, pero la frontera en sí sigue desplazándose hacia afuera
• La frontera entre las áreas donde el modelo brinda apoyo y las áreas que los humanos deben resolver por sí mismos está cambiando, y este cambio afectará no solo a científicos, sino a todas las profesiones, incluidos abogados, vendedores y plomeros