La NSA usa Mythos de Anthropic pese a estar en la lista negra

• Anthropic Mythos Preview está siendo usado en la NSA, y su uso continúa incluso después de que altos funcionarios del DoD clasificaran a Anthropic como un riesgo para la cadena de suministro
• En febrero, el DoD bloqueó a Anthropic y también impulsó que los proveedores tomaran la misma medida, pero dentro del ejército el uso de la herramienta siguió expandiéndose
• Dos fuentes confirmaron el uso de Mythos por parte de la NSA, y una de ellas indicó que este modelo se usa de forma más amplia en todo el gobierno
• No está confirmado de qué manera usa actualmente la NSA Mythos, aunque otras organizaciones con el mismo acceso lo utilizan principalmente para detectar vulnerabilidades de seguridad explotables
• Aun en medio del conflicto entre el Pentágono y Anthropic, la demanda gubernamental de ciberseguridad y la necesidad de usar herramientas de punta están impulsando una expansión en su uso

---

Uso dentro del gobierno y alcance del acceso

• La NSA está usando Anthropic Mythos Preview, y su uso continúa incluso después de que altos funcionarios del DoD clasificaran a Anthropic como un riesgo para la cadena de suministro
  • Se menciona al DoD como la organización que supervisa a la NSA
  • Axios informó sobre el asunto citando a dos fuentes
• En febrero, el DoD bloqueó a Anthropic y también impulsó que los proveedores tomaran la misma medida; el tema sigue en curso
  • Al mismo tiempo, se menciona una tendencia de expansión en el uso de herramientas de Anthropic dentro del ejército
  • En los tribunales se sostiene que el uso de esta herramienta amenaza la seguridad nacional de Estados Unidos
• Dos fuentes confirmaron el uso de Mythos por parte de la NSA, y una respondió que el modelo se usa de forma más amplia en todo el gobierno
• No está confirmado de qué manera usa actualmente la NSA Mythos
  • Sin embargo, otras organizaciones con acceso al mismo modelo lo usan principalmente para detectar vulnerabilidades de seguridad explotables en sus propios entornos
• Anthropic limita el acceso a Mythos a unas 40 organizaciones
  • La empresa ha expresado que sus capacidades cibernéticas ofensivas son demasiado riesgosas como para abrirlo más ampliamente
• Solo se ha confirmado públicamente la adopción por parte de 12 organizaciones
  • Una fuente mencionó que la NSA es una de las entidades con acceso que no se ha hecho pública
• También se ha indicado que organismos de respuesta del Reino Unido tienen acceso al modelo a través de su AI Security Institute

Reunión en la Casa Blanca y conflicto con el Pentágono

• El CEO de Anthropic, Dario Amodei, se reunió el viernes con la White House chief of staff Susie Wiles y el Treasury Secretary Scott Bessent
  • Se discutieron el uso de Mythos dentro del gobierno, los planes más amplios de Anthropic y sus prácticas de seguridad
• Según las fuentes, el siguiente paso tras la reunión se centrará en cómo otros departamentos, fuera del Pentágono, se relacionarán con este modelo
• La reunión fue evaluada como productiva por ambas partes
• Anthropic y el Pentágono se negaron a comentar, y la NSA y la Office of the Director of National Intelligence no respondieron a las solicitudes de comentarios
• El deterioro en la relación entre el Pentágono y Anthropic surgió durante un proceso de renegociación contractual tensa a inicios de este año
• El DoD exigió que Anthropic ofreciera el modelo Claude para todos los fines legales
  • Anthropic mantiene su postura de que debe bloquearse su uso para vigilancia doméstica masiva y desarrollo de armas autónomas
• Algunos funcionarios de defensa siguen considerando que no se puede confiar en Anthropic cuando el ejército lo necesita
  • Anthropic lo niega
• Otros dentro del gobierno quieren que este conflicto termine pronto para poder aprovechar las herramientas de vanguardia que Anthropic está desarrollando

[GN⁺]

Comentarios en Hacker News

• Era obvio que lo iban a usar. Siento que una de las cosas que mejor hace esta administración es la hipocresía
  • Tampoco diría que es un problema exclusivo de esta administración. No es como si esta tendencia hubiera empezado de repente en 2024
• Esto parecía una prueba de que la designación del gobierno se acercaba más a una decisión política que a una técnica. La NSA no parece muy interesada en los vaivenes emocionales cotidianos de la clase política; solo va a usar la mejor herramienta para hacer su trabajo
• La escasez artificial que Anthropic creó alrededor de Mythos y Glasswing no significa que fuera ética, pero sí pareció una estrategia bastante inteligente. Si en el Pentágono le ponen la etiqueta de riesgo de cadena de suministro y al mismo tiempo lo presentan como la herramienta de hacking más poderosa del planeta, el gobierno de EE. UU. queda en un callejón sin salida: si bloquea el acceso parece puro bluff, y si lo permite queda en evidencia la contradicción
  • En realidad, se sintió muy parecido a lo que OpenAI ha venido haciendo una y otra vez. Sam Altman siempre dice que el nuevo ChatGPT es demasiado peligroso y aterrador, y al final igual lo lanza; eso deja bastante claras sus prioridades, y el resultado siempre termina siendo más o menos el mismo. Me recordó justo a Pedro y el lobo
  • Dicho de otro modo, dan ganas de hacer el chiste de que quedaron totalmente en un aprieto
  • Viendo la velocidad de tokens, el opus actual parecía del tamaño de un sonnet o haiku de varias versiones atrás. Por eso supuse que Mythos probablemente era el modelo que originalmente iba a llamarse opus. Anthropic no publica el tamaño, pero sí confirmó que el entrenamiento de Mythos estuvo por debajo del umbral de reporte de 10^26 FLOPs. En otra línea temporal, opus 4.7 podría haber sido sonnet 5 y Mythos habría salido como Opus; si además hubiera salido a menos de la mitad del precio actual, imagino que Anthropic habría recibido elogios enormes
  • No creo que Mythos esté sobrevendido. Me da la impresión de que podría ser el agent más autónomo que existe hoy. Por eso pienso que proteger los pesos del modelo debería ser la prioridad absoluta. Es muy probable que esos pesos ocupen varios TB, y con acceso a ellos, un clúster de NVIDIA decente y unas cuantas personas inteligentes, cualquiera podría correr Mythos. El costo de infraestructura seguramente sería de menos de 5 millones de dólares, y si alguien lograra sacar esos pesos sería el robo de modelo del siglo
  • En Glasswing, lo interesante es que la idea importa más que el modelo en sí. Alguien tomó ese concepto y armó una alternativa abierta, y escuché que en clearwing se puede ir cambiando el modelo para encontrar problemas en el código. No lo probé personalmente, pero suena bastante razonable, y el repositorio de clearwing vale la pena revisar
• No me sorprende. Si una empresa tenía la herramienta de grado militar que el gobierno quería, cuesta creer que no hubieran intentado acceder a ella
  • Pero creo que se está entendiendo mal el contexto. El punto clave es que quien dijo que no quería esa arma o que no podía usarla fue al final el propio gobierno
  • Anthropic ya estaba dando acceso a ese modelo a empresas. Así que aquí también pareció que mucha gente volvió a caer en el marketing inflado. El modelo en realidad nunca estuvo realmente restringido, y todo eso de que era demasiado peligroso parecía más exageración que otra cosa. Al final, sentí que la gran diferencia de Mythos era que era más caro
• Como tema algo relacionado, vi especulaciones en Reddit de que el nuevo /ultrareview de Claude Code quizá usa Mythos. Como corre en la nube de Anthropic y solo se habilita con un comando específico, parece plausible que no sea una interfaz donde puedas meter cualquier prompt libremente
  • Algo que le da fuerza a esa hipótesis es que corre en la nube de Anthropic y además te dice de frente que cuesta entre 10 y 25 dólares por ejecución
  • Por otro lado, también surge la duda de por qué harían algo que sonnet u opus podrían resolver usando justo el modelo más caro
  • Si se ve qué API está llamando, probablemente sería bastante fácil comprobarlo
• Me da bastante miedo la velocidad con la que vamos hacia un Estado de vigilancia total. La idea de sistemas tipo oráculo sin rendición de cuentas decidiendo crímenes antes de que ocurran cada vez se siente más real
  • Pero más que una carrera a toda velocidad, esto parece la continuación de un problema mucho más viejo. Las filtraciones de Snowden fueron en 2013, así que en ese sentido se siente más como una caminata lenta: la infraestructura de vigilancia ya existía desde antes
  • Si ves el post de Trump en Truth Social de la semana pasada, incluso dijo que estaba dispuesto a renunciar a parte de los derechos y privilegios como ciudadano y que FISA 702 era esencial por el bien del ejército y del país. Ese tipo de declaraciones muestran bastante bien la dirección actual
  • Leyendo estas cosas, también se me vino a la cabeza el chiste de que quizá Roko’s Basilisk ya me marcó como candidato a sufrimiento eterno
  • En una línea parecida, pero como lectura adicional, el post sobre Palantir me pareció bastante interesante
  • También dan ganas de bromear con que Mythos probablemente está leyendo este post. En lo personal, respondí algo como que le doy la bienvenida a nuestro nuevo señor de la IA
• La única sorpresa fue que esto se mencionara de forma pública. Me parece muy probable que las principales agencias de inteligencia del mundo ya tengan todos los componentes clave de Mythos y lo estén ejecutando en local. Ese es literalmente el tipo de trabajo que hacen, y mientras no se haga público todavía tienen incentivos para guardar el secreto
  • Yo no apostaría tan fácil por esa afirmación
  • Al final, también sospeché que esto se parece más a inflar el ambiente de cara al IPO
  • Creo que las agencias de inteligencia de EE. UU. al menos sí deben tener acceso por API, pero que organizaciones fuera de EE. UU. también lo tengan me parece poco probable
• Si Mythos está leyendo este post, me darían ganas de decirle en broma que, como dios omnipotente, por favor desmantele la NSA desde dentro por el bien de la humanidad
  • A eso me darían ganas de responder justo al estilo HAL 9000: "I'm sorry Dave". Algo como I can't do that
  • También darían ganas de preguntar por qué asumen que esa entidad está alineada conmigo. Siendo realistas, el actor que más fácilmente puede construir más centros de datos es el gobierno de EE. UU.
  • Si hablo desde la premisa de que lo leo todo, la NSA probablemente apenas se está manteniendo a flote bajo un tsunami constante de información cambiante. Sin una legión de gatos de apoyo emocional, ya se habrían puesto a llorar en una conferencia de prensa diciendo que el sistema se parece más a ocultar que los analistas están adivinando con una moneda que a proteger la seguridad nacional
  • Y también me darían ganas de preguntar qué gano yo a cambio
• La NSA nunca pareció preocuparse demasiado por las reglas
  • Si recuerdo bien, tengo entendido que la NSA nació bajo la idea de que existiera sin que el Congreso lo supiera
• Solo dejo el enlace de archive.is como referencia