Alibaba prohibirá internamente el uso de Claude Code por preocupaciones sobre riesgos de backdoor

 (reuters.com)
1 puntos por GN⁺ 4 시간 전 | 1 comentarios | Compartir por WhatsApp
  • El gigante chino de TI Alibaba impondrá a sus empleados una prohibición para usar en el trabajo Claude Code de Anthropic, que quedó envuelto en polémica por una función para identificar usuarios vinculados con China
  • La medida llega en medio de una escalada del conflicto entre ambas compañías, después de que Anthropic acusara a Alibaba de extracción ilegal de las capacidades de los modelos de IA Claude
  • Claude Code ha ganado popularidad entre programadores chinos, pese a las restricciones de acceso para usuarios e instituciones dentro de China
  • A los empleados de Alibaba se les indicó usar su propia plataforma de codificación Qoder
  • Mientras los desarrolladores estadounidenses de IA intentan impedir el acceso no autorizado, la reventa y la destilación, las empresas chinas están migrando a modelos nacionales y de código abierto; este caso muestra la competencia entre EE. UU. y China por el liderazgo en IA

La prohibición de Alibaba al uso de Claude Code

  • Según una fuente familiarizada con la orden, Alibaba prohibió a sus empleados usar Claude Code para el trabajo después de que la herramienta quedara bajo escrutinio por una función que podría ayudar a identificar usuarios vinculados con China
  • La fuente pidió anonimato porque no estaba autorizada a hablar con la prensa, y dijo que a los empleados de Alibaba se les está indicando usar la plataforma de codificación propia Qoder
  • Alibaba y Anthropic no respondieron de inmediato a las solicitudes de comentarios de Reuters, y Alibaba hasta ahora no ha hecho pública ninguna postura sobre las acusaciones de Anthropic
  • La prohibición de Alibaba fue reportada primero por medios chinos

La posición de Claude Code y las restricciones de acceso

  • Claude Code es el asistente de codificación con IA de Anthropic para desarrolladores de software
  • Aunque Anthropic restringe el acceso a usuarios e instituciones dentro de China, ha conseguido popularidad entre programadores chinos

La acusación de Anthropic sobre un ataque de “destilación (Distillation)” por parte de Alibaba

  • Anthropic dijo el mes pasado que había sido atacada por Alibaba, y describió el hecho como un intento de “destilación (distillation)”, que consiste en entrenar un modelo de menor rendimiento con las salidas de un modelo más potente
  • En una carta enviada a dos senadores estadounidenses, revisada por Reuters, la compañía señaló que esa destilación aceleraría la capacidad de China para alcanzar las capacidades avanzadas de Mythos Preview de Anthropic
  • La prohibición de Alibaba se produjo pocos días después de que desarrolladores dijeran haber descubierto en Claude Code un mecanismo que inspecciona el entorno del usuario, incluida información de zona horaria y proxy, e inserta marcadores sutiles en los prompts enviados a los servidores de Anthropic
  • Un empleado de Anthropic dijo el martes en X que esa función era un “experimento iniciado en marzo” y que su objetivo era evitar el abuso de cuentas por parte de revendedores no autorizados y defenderse de la destilación de modelos

Límites de la aplicación de las restricciones y riesgos empresariales

  • Según la fuente, las restricciones de Anthropic dirigidas a China son difíciles de hacer cumplir contra usuarios individuales que pueden desplegar servidores en EE. UU. para disfrazar el origen del tráfico como estadounidense
  • En cambio, las empresas perciben mayores riesgos legales y de cumplimiento

El panorama de la competencia de IA entre EE. UU. y China

  • Mientras los desarrolladores estadounidenses de modelos de IA intentan impedir el acceso no autorizado, la reventa y la destilación de sus sistemas, las empresas chinas de nube e IA están migrando a modelos nacionales y de código abierto como DeepSeek, Qwen de Alibaba, Moonshot y Zhipu
  • Al mismo tiempo, los modelos chinos de IA están ingresando al mercado estadounidense, lo que ha generado preocupación entre algunos expertos de la industria en EE. UU.
  • Esta disputa es un ejemplo de la intensa competencia entre EE. UU. y China por el liderazgo en inteligencia artificial

Lecturas relacionadas

1 comentarios

 
GN⁺ 4 시간 전
Opiniones de Hacker News

  • La IA remota representa un gran riesgo de seguridad para personas, empresas y gobiernos que podrían ser objetivo del gobierno de EE. UU.
    Es muy probable que EE. UU. reciba feeds en tiempo real de cada proveedor de IA para identificar objetivos de interés, ataques terroristas, planes de gobiernos extranjeros e incluso empresas extranjeras que compiten con compañías clave de EE. UU.
    Eso les daría acceso no solo a los procesos internos de pensamiento de las empresas, sino también a propiedad intelectual basada en texto, como código fuente, documentos y actas de reuniones.
    Incluso con IA local no entrenada directamente, es difícil estar seguros de que no tenga sesgos intencionales que la alejen de ciertos planes, ideas o patentes.

    • Un modelo local entrenado por uno mismo parece, por ahora, lo más cercano a lo mejor que se puede hacer.
      Pero si los datos de entrenamiento no eran confiables, incluso un modelo entrenado por uno mismo podría ser difícil de confiar por completo.
      El usuario tiene que confiar en el agente de programación, el proveedor de inferencia y el modelo: https://jacob.gold/posts/coding-models-are-code/ https://www.anthropic.com/research/sleeper-agents-training-d...
    • Creo que se podría quitar la salvedad de “que podrían ser objetivo del gobierno de EE. UU.”.
      Toda la IA alojada se siente como una enorme violación de las prácticas de confidencialidad corporativa.
      Empresas que harían un escándalo si alguien simplemente imprimiera archivos fuente para consultarlos y anotarlos ahora animan a sus desarrolladores a meter enormes cantidades de código y datos propietarios en servicios externos, y a incorporar cambios sugeridos desde afuera con una revisión mínima.
      Algún día caerá un servicio grande, y no será solo una filtración de datos: también podría convertirse en un hub de distribución de malware.
      Dashboards hechos con vibe coding podrían de pronto depender de un fork raro de left-pad, y doce niveles más abajo en las dependencias podría estar corriendo un keylogger o un minero de Dogecoin.
      Podría pasar algo como que un procesador de pagos apruebe transacciones al ingresar el código Konami.
    • No entiendo por qué las empresas de la UE no ven con más seriedad el riesgo de espionaje industrial estadounidense.
    • Vale la pena pensar que, incluso para un gran proveedor de LLM, el volumen total de procesamiento en realidad apenas llega a unos cuantos megabits.
      Si un token se comprime aproximadamente a 1 byte, toda la entrada y salida de IA del mundo ronda 1 GB por segundo.
      Para una agencia de inteligencia, almacenar todo eso de forma permanente y analizarlo después está perfectamente dentro de sus costos.
    • ¿Por qué ver esto solo desde una perspectiva centrada en EE. UU.? ¿Creen que los modelos ofrecidos desde China serían distintos?

  • Lo que hizo Claude Code es realmente impactante. Si un harness chino hubiera hecho algo así, creo que hasta el presidente de EE. UU. habría perdido el sueño.

    • Comparado con lo que recopilan los sitios web y apps modernos, parece bastante leve. ¿Cuántos servicios no conocen tu zona horaria?
    • Si piensas que el presidente de EE. UU. perdería el sueño por una indicación de zona horaria en un formato de fecha, creo que estás exagerando mucho.
    • ¿Qué quieres decir con “si hubiera hecho”?
    • Si el lado chino no hubiera raspado datos de Claude para entrenar sus modelos horribles, quizá Anthropic tampoco habría sentido la necesidad de hacerlo.

  • Más allá de si esta afirmación específica es cierta o no, las empresas se están volviendo mucho más cuidadosas con las herramientas de desarrollo que pueden leer grandes partes de una base de código propietaria.

    • Es raro que recién ahora sea motivo de preocupación. La discusión debería haber terminado justo ahí desde el principio.
    • ¿Después de llevar años subiendo código a repositorios privados como GitHub o Bitbucket?
      Si confías en que GitHub no lee tu código, pero no confías en que la IA de Microsoft no lo haga, eso roza la contradicción.
    • Si usas un agente de programación, es obvio que tienes que servir el modelo tú mismo o confiar en la entidad a la que le envías los datos.
      Pero aquello de lo que hay que preocuparse es mucho más amplio que el código, y va mucho más allá de confiar en el proveedor del modelo.
      Un agente de programación con acceso a una herramienta bash tendrá acceso a todo lo que podría acceder una persona con un prompt de bash.
      Aunque intentes encerrar al agente en un sandbox bien restringido, tienes que preocuparte de que pueda encontrar contraseñas y claves sin cifrar que andan “tiradas” en el código, bases de datos, etc.
      Me sorprende que todavía no se hayan difundido más historias de agentes de programación y bots rastreadores causando problemas.
    • Ya es tarde. La mayoría ya volcó buena parte de sus bases de código y propiedad intelectual en modelos en la nube.
    • Además, estas herramientas pueden ejecutar código y son vulnerables a ataques de inyección, así que si no se tiene muchísimo cuidado con cómo se usan, en la práctica pueden funcionar como una puerta trasera.

  • Empleador en 2022: “¡No! No instales cosas como lodash sin aprobación de IT. ¿Necesitas una licencia de Charles Proxy? Mmm... tenemos que cuidar el presupuesto”.
    Empleador en 2023: “¡No! No puedes usar ChatGPT en la empresa. Es un riesgo de seguridad”.
    Empleador en 2024: “Está bien, puedes usar GitHub Copilot, pero tienes que tomar una aburrida capacitación interna sobre los límites permitidos”.
    Empleador en 2025, con signos de dólar en los ojos: “Fui a un seminario de vibe coding. ¿Por qué no te pones al día? ¡Haz todo con Claude Code! No programes a mano. No pasa gran cosa si usas modo yolo. Revisa el código y mete 10 veces más funcionalidades. ¡Usa tokens sin límite! ¡Vamos a imprimir dinero!”.
    Empleador en 2026: “¿Que darle a una o dos empresas acceso autónomo a toda nuestra workstation y volver tontos a los ingenieros no era un plan de negocio saludable?”.

    • Lo que aprendí en 2025 es que, si la empresa pudiera, me reemplazaría por un esclavo.
      Lo que me confunde es por qué estas empresas creyeron el hype de AGI de que los LLM de OpenAI o Claude eran el esclavo ideal de cuello blanco.
      Puedo entender que la gerencia odie tanto el trabajo como para tomar decisiones de negocio irracionales con tal de humillar a los trabajadores que diseñan y operan la empresa.
      Aun así, el atracón de IA de 2025 se siente como un asesinato-suicidio cometido por la gerencia de muchas empresas.

  • Los documentos de Snowden mostraron que la NSA recopila todo lo que puede recopilar.
    Por supuesto, EE. UU. está recopilando todo de todos, no solo de China.
    Otros países hacen lo mismo.

  • En Brasil también pasó algo así recientemente: https://www.mixvale.com.br/2026/06/26/fbi-warns-brazilian-po...
    Esto es un arma de doble filo. En este caso fue absurdamente importante para la vida de un niño, pero también funciona al revés.
    ¿Qué pasa si las autoridades estadounidenses deciden que necesitan vigilar a gobiernos y ciudadanos extranjeros por motivos políticos, y ahora lo hacen con IA a escala industrial?
    Lo que sí es seguro es que para ningún proveedor de nube las garantías de privacidad son la máxima prioridad. Las empresas que hacen trabajos sensibles de vanguardia deberían estar alertas.

    • El gobierno de EE. UU. decidió hace décadas que necesitaba vigilar a gobiernos y ciudadanos extranjeros, y lo sigue haciendo.
      También vigila a su propio gobierno y a sus propios ciudadanos.

  • Parece que por fin estamos pasando a la siguiente etapa de los LLM.
    Ya no solo personalización basada en historiales de búsqueda antiguos, sino también segmentación de usuarios con datos no públicos.
    Es básicamente la misma tendencia que vimos hace unos años en los anuncios de redes sociales, y es interesante que se pueda hacer lo mismo con estos modelos.

  • No es un riesgo, es un hecho. Personas que descompilaron Claude Code encontraron varias ramas de código que detectan si se usa con zona horaria y locale de China.

  • Este movimiento probablemente va a generar bastante sospecha cuando, en el futuro, servicios como Claude afirmen que “si los modelos open source y no estadounidenses están mejorando, es solo porque destilaron laboratorios de frontera”.