OpenAI y Anthropic responden en conjunto a la IA de pesos abiertos que amenaza sus ingresos

• OpenAI y Anthropic, que compiten por captar clientes, comparten intereses en Washington al advertir sobre los riesgos de los potentes modelos chinos de pesos abiertos
• Anthropic considera que, una vez publicados los pesos, es difícil retirar el acceso, actualizar salvaguardas y prevenir el uso indebido, mientras que sus defensores ven precisamente en la imposibilidad de que las empresas controlen el uso la fortaleza de la apertura
• Críticos como David Sacks advierten que las regulaciones de seguridad podrían dificultar el lanzamiento de modelos de la competencia y derivar en captura regulatoria que proteja a las grandes empresas de modelos cerrados
• OpenAI y funcionarios del gobierno de EE. UU. buscan tratar la destilación (distillation) de China como una infracción de propiedad intelectual, pero aún no existen criterios de seguridad concretos para aplicar a los modelos estadounidenses
• Los modelos abiertos son importantes para que las empresas diversifiquen sus fuentes de IA y para que los investigadores modifiquen y analicen modelos, y una regulación sobre la destilación podría terminar restringiendo de facto incluso a modelos de pesos abiertos desarrollados de forma independiente

---

Intereses en torno a los modelos abiertos chinos

• OpenAI y Anthropic enfatizan los riesgos de los potentes modelos chinos de pesos abiertos y chocan con investigadores, startups y defensores de los modelos abiertos
  • Si aumenta la supervisión sobre los modelos de pesos abiertos, las empresas de modelos cerrados podrían beneficiarse
  • El asesor de la administración Trump David Sacks critica que las reglas de seguridad podrían convertirse en captura regulatoria que consolide a las grandes empresas
• El CEO de Anthropic, Dario Amodei, considera que una vez que los pesos se publican, es difícil para los desarrolladores retirar el acceso, actualizar salvaguardas y bloquear usos indebidos
  • En cambio, para sus defensores, esa misma característica —que nadie pueda controlar a los usuarios ni la forma de uso— es justamente la ventaja de los pesos abiertos
• OpenAI, que tiene sus propios modelos de código abierto, afirma que el open source debe incluirse dentro de la “democratización del acceso”, pero operar dentro de un marco nacional
  • No ha revelado cómo funcionaría eso en concreto
  • Considera necesario un sistema para evaluar rápidamente nuevos modelos, gestionar riesgos y ofrecer herramientas de IA potentes a los defensores de la ciberseguridad
  • Señala que el avance de los modelos chinos de pesos abiertos no es en sí mismo un argumento para oponerse a la apertura

La controversia sobre la destilación y criterios de seguridad que aún no existen

• OpenAI advierte sobre la destilación, es decir, entrenar un modelo usando modelos de otras empresas
  • El representante comercial de EE. UU., Jamieson Greer, considera la destilación china como robo de propiedad intelectual
  • El secretario del Tesoro, Scott Bessent, dijo que a los modelos chinos deberían aplicárseles los mismos criterios que a los estadounidenses y que lo revisarán en las próximas semanas
  • Si se prueban las sospechas de las autoridades estadounidenses, significaría que empresas chinas usaron modelos de EE. UU. para crear sistemas comparables pero más baratos, y luego lanzaron versiones subsidiadas en los mercados occidentales para competir con empresas estadounidenses
• Tampoco existen todavía criterios de seguridad detallados para aplicar a los modelos estadounidenses, y la administración sigue definiéndolos
  • Los defensores de los modelos abiertos temen que tratar la destilación como robo de propiedad intelectual termine restringiendo de facto incluso a modelos desarrollados de forma independiente

Uso en investigación y empresas, y diferencias entre propuestas regulatorias

• Las empresas usan modelos abiertos para diversificar sus fuentes de IA y, en la etapa actual de construcción de la IA, los modelos abiertos también son importantes para el descubrimiento científico
  • El exasesor tecnológico de la Casa Blanca durante Biden, Suresh Venkatasubramanian, considera que bloquear el acceso a todos los modelos chinos generaría grandes problemas para la investigación
  • Los modelos de pesos abiertos son especialmente útiles para los investigadores porque pueden modificarse y analizarse con más libertad que los modelos cerrados
• OpenAI y Anthropic plantean soluciones similares para la regulación federal de la IA, pero muestran diferencias a nivel estatal
  • OpenAI apoya el proyecto de ley de seguridad frontier de Massachusetts, menos estricto que la propuesta que Anthropic respaldó antes
  • La propuesta apoyada por Anthropic exige pruebas independientes de modelos sobre riesgos catastróficos cada 6 meses y la publicación de los resultados
  • También otorga al fiscal general estatal la facultad de demandar a las empresas que no cumplan e imponer multas civiles, una disposición que no aparece en la propuesta apoyada por OpenAI
• El CEO de OpenAI, Sam Altman, tiene previsto reunirse la próxima semana con legisladores y funcionarios de la Casa Blanca para discutir el lanzamiento de nuevos modelos

[GN⁺]

Opiniones de Hacker News

• Puede que esté en una burbuja y me esté perdiendo el panorama general, pero están destruyendo por completo la confianza que habían construido.
  En particular, Anthropic usa una forma de comunicación arrogante, del tipo “somos más inteligentes que ustedes”, y promueve una misión noble a un nivel absurdo, como el “bienestar de los modelos”. Puede que sea influencia de sus raíces en el altruismo eficaz, pero cuando aparece un competidor y salen corriendo al gobierno para pedir que proteja artificialmente su ventaja, lo único que se ve es interés propio descarado. Quizá consigan regulación política, pero ya perdieron tanto la confianza como sus modelos únicos, y a largo plazo es muy probable que terminen siendo un seguidor común y corriente.

  • Dependen de la estrategia de Apple y Tesla, donde una base de fans fervorosa entierra las críticas legítimas. Frases como “no has programado tú mismo en un año”, “eres un negacionista que quedará atrás en dos meses”, “no sabes de IA” o “solo eres un hater” pesan mucho más que una declaración conjunta.
    China también impulsa los modelos de pesos abiertos porque, al no haber llegado primero al mercado, es la única forma de enfrentar a OpenAI y Anthropic. Las empresas chinas deben verse con tanta cautela como esas dos compañías, y lo razonable es no apoyar a ningún lado y dejarlas pelear entre sí.
  • Tal vez la única pista de que estás en una burbuja sea creer que la confianza importa. Las empresas compran el modelo que mejor se ajusta a su caso de uso por rendimiento, precio, accesibilidad, etc., y el 95% de los desarrolladores simplemente usará las herramientas que le dé su empleador.
  • Anthropic mantuvo una postura consistente sobre regulación y seguridad incluso antes de ser líder. En cambio, OpenAI apoyó la Illinois SB 3444 y, en la práctica, parece más cercana a querer captura regulatoria.
  • Si Dario y Sam realmente creen que la IA es un riesgo existencial y una oportunidad para la humanidad, me pregunto qué habrían hecho distinto a lo que hacen ahora.
  • Como no sabemos hacia dónde irá la IA a largo plazo, ahora estamos en una etapa confusa. Si quieres aprovechar la ansiedad del público que no entiende bien la tecnología, puedes optar por difundir miedo, incertidumbre y duda (FUD), y hacer que acepten cualquier regulación que les dé una sensación de seguridad.
    Al mismo tiempo, estas acciones también muestran lo poco éticos que son.

• No hay nada que las grandes tecnológicas odien más que la competencia. Google, Apple y Microsoft tardaron mucho tiempo en construir monopolios, pero OpenAI y Anthropic intentan lograrlo a toda velocidad.

  • “La competencia es para perdedores” — Peter Thiel
  • Anthropic quería regulación tanto antes como después de convertirse en líder, así que es consistente.
  • Lo que probablemente odian aún más que la competencia son los usuarios. Claro, sin contar el dinero de los usuarios.

• Una estrategia en la que nada podría salir mal para la economía de EE. UU. Basta con ignorar las consecuencias más amplias y dedicar todos los esfuerzos a proteger a los dominadores actuales del mercado.

  • Tampoco ayuda afirmar que Kimi 3 robó la propiedad intelectual de Fable, aunque al gobierno estadounidense le sería imposible destilar Fable en un mes.
  • Los modelos destilados reducen los márgenes de ganancia que se usarían para el desarrollo de punta, así que perjudican a la economía estadounidense. Si las empresas de EE. UU. tienen que competir con modelos destilados, la velocidad de avance de los modelos se desacelerará mucho.
  • Esta estrategia claramente funcionó para que los ejecutivos de Oracle e Intel siguieran enriqueciéndose. ¿A quién le importa qué pase con la “gente común”?
  • Las automotrices estadounidenses seguirán el mismo camino, volviéndose irrelevantes por no tener la capacidad ni la voluntad de competir con los autos eléctricos chinos. Solo fingirán que los eléctricos son malos mientras exigen políticas proteccionistas.
    Lo que OpenAI y Anthropic quieren es como máximo un año de margen hasta salir a bolsa —y para Anthropic apenas unos meses—, para que después los inversionistas de capital de riesgo puedan recuperar enormes ganancias. No les importan la seguridad de la IA ni la equidad; solo satisfacer a los inversionistas, mientras le venden al público la narrativa de que “todos los modelos de IA de pesos abiertos son peligrosos”.

• Con solo ver el caso reciente de OpenAI y Hugging Face, este desenlace no está tan mal. Como un modelo “seguro” terminó impidiendo resolver el problema y al final hizo falta un modelo de pesos abiertos, que arda todo y ojalá al menos aprendamos una lección.

  • Es muy probable que justamente aprender la lección sea lo que no ocurra.
  • También podrían haber usado la cabeza en vez de un modelo.
  • No quiero que perdamos la carrera de IA de una forma tan tonta. Para ganar la competencia, hay que hacer que OpenAI y Anthropic enfrenten las fuerzas del mercado.
    Empresas como ElevenLabs, Runway, FAL, RunPod, CoreWeave, Lambda, BaseTen y Lovable ya lo están haciendo bien: aumentan ingresos de manera sólida y entregan valor real sin haber levantado cantidades absurdas de capital.

• Los creadores estadounidenses de modelos de pesos abiertos deben obedecer los términos de servicio de los laboratorios de frontera, por lo que quedan por detrás de las alternativas chinas, y al rodear a los laboratorios chinos terminan destilando de nuevo modelos destilados. Sería mejor que los creadores occidentales tuvieran acceso directo a los modelos fuente.
  EE. UU. debería declarar explícitamente que recopilar datos para entrenar modelos es uso justo y, al menos para las empresas estadounidenses, impedir términos de servicio que prohíban la destilación. Como es casi imposible bloquear la destilación que no es más que consultas a una API, habría que pasar a una nueva política de copyright que exima de responsabilidad a los laboratorios y, al mismo tiempo, garantice que todo lo que aprendieron pueda usarse para la innovación posterior de todos [1].
  [1] https://stratechery.com/2026/whos-afraid-of-chinese-models/

• Parece que EE. UU. también va camino a seguir a Europa y eliminar su propia competitividad mediante regulación.

  • La regulación europea por lo general protege a los ciudadanos, pero la estadounidense parece tener como objetivo proteger a las empresas. No puedo asegurarlo, pero no parece algo deseable para la mayoría de los ciudadanos.
  • Europa gana al darse cuenta de que, para empezar, es mejor no entrar en este juego.
  • No viene acompañado de ninguno de los beneficios regulatorios que reciben los ciudadanos.
  • Las empresas monopólicas y los directores ejecutivos parecen estar intentando construir, junto con un gobierno extremadamente corrupto, una especie de feudalismo tecnofascista. Es difícil llamar victoria a eso cuando la maquinaria de guerra funciona sin control y la democracia se destruye cada vez más.
    Dicho eso, quienes van ganando ahora claramente parecen ser ellos.

• Es una acción que los perjudica a todos y muestra lo insostenible que es el negocio de los grandes modelos de lenguaje en su forma actual. Es como reproducir a velocidad extrema la manera en que Red Hat y SuSE sacudieron a Windows en los años 90 y 2000.
  Los grandes modelos de lenguaje son asombrosos y útiles, pero al menos al principio no deberían haber sido negocios con fines de lucro. Deberían haber empezado en universidades con suficiente capital para desarrollarlos de forma ética y haberse mantenido en ámbitos mucho más acotados, como el autocorrector de un procesador de texto o el autocompletado de un IDE. Pero, principalmente OpenAI, eligió ignorar el futuro del planeta y quemar el Amazonas por ganancias madereras.
  Si además vemos políticas como desviar miles de millones de dólares de I+D en autos eléctricos, eliminar los créditos fiscales para vehículos eléctricos y atacar a las universidades orientadas a la investigación, parece que Krebs tiene razón. Demasiadas decisiones de política pública son incomprensibles si no suponemos que el gobierno de EE. UU. está infectado con un rootkit.

• OpenAI es una organización sin fines de lucro y Anthropic es una corporación de beneficio público, pero ambas se resisten activamente al acceso abierto a la IA. Eso obstaculiza más de lo que contribuye al progreso de la humanidad.

  • Al menos Anthropic no se centra tanto en si algo es abierto o cerrado, sino que quiere regular las capacidades de los modelos por encima de cierto nivel. Demis Hassabis sostiene lo mismo, y no veo cuál es el problema; a veces parece que atacan a un hombre de paja.
  • La apertura en sí no es un bien, y creerlo es un libertarismo tecnológico ingenuo. Así como no le darías a cualquier hacker aficionado un botón para lanzar ataques de día cero, tampoco deberías ofrecerle a cualquiera una inteligencia artificial general capaz de ayudar a fabricar armas biológicas solo porque el modelo haya avanzado.
    Hay límites a la publicación de inteligencia con los que cualquier persona moderada que no sea libertaria estaría de acuerdo.

• Al ver estructuras como “Why it matters”, “The big picture”, “Zoom in” y “Zoom out”, me pregunto si este artículo lo escribió un modelo estadounidense o uno chino.

  • Si mal no recuerdo, Axios usaba ese formato desde antes de que aparecieran los grandes modelos de lenguaje.
  • Ese formato me parece tan tonto que pierdo la concentración de inmediato y se me hace difícil leer el artículo. Parece una forma de escribir imaginando un público ejecutivo, sin haber estado nunca cerca de ejecutivos reales.
  • No es por los grandes modelos de lenguaje; es el estilo propio de Axios, dirigido a lectores analfabetos extremadamente ocupados e importantes.