2 puntos por GN⁺ 4 시간 전 | 1 comentarios | Compartir por WhatsApp
  • Días antes de que la Casa Blanca ordenara bloquear el modelo de IA de Anthropic, exigió revocar el acceso de SK Telecom a Claude Mythos, en medio de sospechas sobre vínculos de SK Telecom con China
  • Las autoridades de EE. UU. cuestionaron los lazos con China de SK Telecom, y la preocupación aumentó después de que Amazon reportara a la Casa Blanca vulnerabilidades en Fable 5
  • La Casa Blanca concluyó que no podía confiar en que Anthropic gestionara de forma segura tecnología de IA de vanguardia, por lo que ordenó revocar el acceso a Mythos y Fable 5 para todos los ciudadanos extranjeros
  • Anthropic consideró que bloquear el acceso según la nacionalidad era difícil de implementar junto con la protección de la privacidad, y optó por desactivar por completo los modelos, aunque sigue en desacuerdo con la Casa Blanca
  • SK Telecom negó las sospechas, y la carta de exigencia de restricciones del gobierno de EE. UU. no menciona directamente ni a empresas surcoreanas ni a China

Controles de exportación y la polémica por el acceso de SK Telecom

  • Las medidas de control de exportación del gobierno de Trump sobre la tecnología de IA más avanzada de Anthropic surgieron de un conflicto en torno a que Anthropic otorgó acceso a Claude Mythos a SK Telecom, el gigante surcoreano de telecomunicaciones
    • Funcionarios de EE. UU. expresaron preocupación al afirmar que SK Telecom estaba vinculada con China
  • La preocupación aumentó cuando Amazon reportó a la Casa Blanca una vulnerabilidad identificada en Fable 5
    • Fable 5 es una versión con protecciones de seguridad más avanzadas de Mythos y fue lanzada al público el 9 de junio
    • Investigadores de Amazon afirmaron que podían eludir algunos guardrails de Fable 5 para acceder a las potentes capacidades cibernéticas de Mythos
    • Anthropic y expertos externos en ciberseguridad respondieron que ese riesgo no se limita a Claude

La orden de revocación de acceso de la Casa Blanca y la respuesta de Anthropic

  • Con esta serie de hechos superpuestos, la Casa Blanca concluyó que no podía confiar en Anthropic y el viernes ordenó revocar el acceso a Mythos y Fable 5 para todos los ciudadanos extranjeros, incluidos inmigrantes dentro de EE. UU.
  • Anthropic consideró que bloquear el acceso según la nacionalidad era difícil de compatibilizar con la protección de la privacidad, y decidió que era mejor desactivar por completo los modelos
    • La Casa Blanca y Anthropic siguen en desacuerdo incluso después de varios días de negociaciones sobre la restauración de Mythos y Fable 5

Project Glasswing y la incorporación de SK Telecom

  • Claude Mythos destaca por su capacidad para identificar vulnerabilidades de software, por lo que Anthropic limitó el acceso inicial a solo unas pocas organizaciones de confianza mediante un programa llamado Project Glasswing
  • A principios de este mes, SK Telecom, la mayor operadora móvil de Corea del Sur, recibió acceso a Mythos como una de unas 150 empresas cuando el programa se amplió, tras semanas de estrecha colaboración con expertos externos y el gobierno de EE. UU.
  • Anthropic se negó a comentar, y ni la Casa Blanca ni SK Telecom respondieron de inmediato

Sospechas de vínculos con China y la negación de SK Telecom

Solicitud previa de revocación e inversión de SK Telecom en Anthropic

  • A principios de este mes, justo después del anuncio de la expansión de Project Glasswing, la Casa Blanca pidió a Anthropic revocar el acceso de SK Telecom a Mythos
    • Anthropic accedió de inmediato, y en ese momento el gobierno de EE. UU. no amenazó con imponer controles de exportación sobre el modelo
  • SK Telecom ha invertido capital en Anthropic en varias ocasiones, y su inversión de 100 millones de dólares en 2023 coincidió con la formación de una alianza comercial para desarrollar modelos de IA adaptados a la industria de telecomunicaciones
  • SK Telecom es una de varias organizaciones surcoreanas que participaron en Project Glasswing junto con Samsung Electronics y la Agencia de Internet y Seguridad de Corea (Korea Internet and Security Agency)

SK Group y sus relaciones comerciales en China

  • Aunque SK Telecom en sí no parece tener operaciones importantes en China, forma parte del conglomerado SK Group, que sí mantiene amplios negocios en China en sectores como semiconductores y energía
  • En 2024, SK Telecom obtuvo alrededor de 1.9 millones de dólares en ingresos en China, principalmente por actividades de inversión, y solo tenía siete empleados locales

Más de 20 años de historial en el negocio de telecomunicaciones en China

  • Su participación en la industria de telecomunicaciones china se remonta a más de 20 años
  • En 2004, SK Telecom y la operadora estatal China Unicom crearon una empresa conjunta llamada UNISK para ofrecer servicios de internet inalámbrico y contenido móvil en China
    • Fue una de las primeras empresas conjuntas entre una compañía extranjera y una operadora china
  • En 2006, SK Telecom invirtió 1,000 millones de dólares en bonos convertibles de la entidad listada en Hong Kong de China Unicom, que luego se transformaron en una participación de alrededor de 6.6%
  • Después, la alianza comenzó a disolverse, y en 2009 SK Telecom revendió su participación en China Unicom por unos 1,300 millones de dólares, aunque mantuvo algunos intereses financieros menores relacionados

La línea de sanciones de EE. UU. en torno a China Unicom

  • En 2021, el primer gobierno de Trump restringió la inversión estadounidense en China Unicom como parte de medidas dirigidas a empresas chinas que consideraba vinculadas con sectores militares y de inteligencia
  • En abril de este año, la Comisión Federal de Comunicaciones de EE. UU. (FCC) propuso prohibir que operadoras estadounidenses se interconecten con operadoras chinas como China Unicom por motivos de seguridad nacional

1 comentarios

 
GN⁺ 4 시간 전
Opiniones de Hacker News
  • Al ver este caso y los artículos y debates relacionados con Amazon, parece que la prensa tecnológica seria y la comunidad están tratando de encontrar la verdadera razón por la que el gobierno bloqueó los modelos de Anthropic
    Pero si se considera el choque con el DoD, y que el gobierno actual apoya mucho más a OpenAI y xAI y además recibe apoyo de ese lado, esto también podría ser otra escalada en la pelea entre una empresa de “tendencia progresista” y sus competidores y el gobierno
    Puede que alguien de Amazon haya dicho algo, pero aplicando la navaja de Occam, parece que el gobierno aprovechó la oportunidad cuando las sanciones a proveedores no dieron mucho resultado

    • Anthropic está pasando por la fase de resistencia ideológica por la que suelen pasar las grandes tecnológicas. Google, Facebook, Apple, Reddit, Microsoft, y especialmente Microsoft, todos pasaron por eso
      Al final se dan cuenta de que pelear con el gobierno de EE. UU. es difícil, caro y hace mucho ruido, y concluyen que es más fácil llegar a una convergencia razonable de intereses
    • Solo están buscando un titular que atraiga clics. Todos saben que no hay sinceridad en lo que hace este gobierno, pero fingir que existe controversia de “¿y si de verdad fuera así?” ha sido un negocio rentable durante los últimos 10 años
    • Huele mucho a que el gobierno quiere elegir ganadores. Al menos parece que quiere elegir perdedores
  • “SK Telecom ha invertido capital en Anthropic en varias ocasiones, y en 2023 invirtió 100 millones de dólares junto con una alianza comercial para desarrollar modelos de IA adaptados a la industria de las telecomunicaciones”
    “La White House le pidió a Anthropic que revocara el acceso de SK Telecom a Mythos, y Anthropic obedeció de inmediato”
    La lección aquí es no invertir en empresas estadounidenses

    • Invertir en una empresa y poder usar sus servicios son asuntos distintos
      Perder acceso al modelo no se siente bien, pero es muy probable que lo ganado con la inversión supere por mucho esa pérdida
    • Esa no es la lección. El dinero que se puede ganar con inversiones en EE. UU. es enorme
      La verdadera lección es no depender de modelos de IA estadounidenses. Hay que invertir y construir modelos base que puedan competir, y de ser posible contar también con pesos abiertos e infraestructura para pesos abiertos
  • Si uno mira los comentarios en artículos de política coreana, el punto clave no es si SKT realmente está vinculada con China, sino que el interruptor de corte del proveedor de IA ya salió del ámbito de las especificaciones de desempeño del modelo
    Cuando una empresa extranjera integre IA en su flujo de trabajo, parece que tendrá que añadir a sus criterios de evaluación un apartado sobre sostenibilidad del proveedor
    Desde la perspectiva empresarial, la continuidad sin interrupciones es importante, y con esto Anthropic corre el riesgo de perder mucha confianza, en contra de las políticas que dice defender

  • El titular de Wired reorganizó el asunto de una forma que lleva a malentenderlo. El tema de SK Telecom ya estaba resuelto antes del lanzamiento de Fable
    Puede haber sido un factor influyente, pero el centro de la terminación fue la cobertura del sector sobre el jailbreak de Fable, y hay reportes de que el CEO de Amazon, Andy Jassy, lideró eso
    Una perspectiva más interesante y honesta es que una industria que tomó la gravedad de Glasswing tal como era quedó desprevenida con el lanzamiento de Fable y sintió que estaba totalmente expuesta al riesgo residual mientras seguía pendiente una cola de varios meses de correcciones de bugs revelada por Glasswing, así que quería ganar más tiempo
    Parece que Wired tergiversó deliberadamente el tema para que pareciera que tenía una exclusiva, y en realidad es un caso vergonzoso de cobertura deshonesta

    • Esta teoría tiene dos problemas
      Primero, es poco probable que la primera jugada de Amazon fuera quejarse ante la White House. Para Amazon y Anthropic es mucho más fácil hablar directamente entre ellos que pasar por la White House. Haría falta evidencia de que Amazon, y quizá también otros actores, ya le habían pedido a Anthropic que no lanzara un modelo de nivel Mythos y que Anthropic lo ignoró y aun así lo lanzó. ¿Existe alguna declaración así en el registro público?
      Segundo, el jailbreak que encontró Amazon tendría que ser real. Puede que los asesores de la White House no sean expertos en IA y no entiendan bien qué es un jailbreak, pero a Andy Jassy le sería mucho más difícil sostener esa afirmación. Si la razón real de la orden de control de exportaciones fue el jailbreak, entonces ese jailbreak tendría que ser importante y causar un daño material a Amazon. Y además tendría que asumirse que Dario ya se había negado antes, para que tenga sentido que Jassy recurriera a la White House
      Pero no hay evidencia de que ese jailbreak fuera real. Solo hay un relato de que fue algo del nivel de pedir “arréglame este código”. En cualquier caso, Anthropic declaró públicamente que el llamado jailbreak no habilitaba trabajo sobre vulnerabilidades que ya no pudiera hacerse con otros modelos
    • Wired se volvió desde hace años una especie de NY Post del bando contrario
    • ¿Hay alguna interpretación posible de que Amazon estuviera involucrada que no sea que quería fastidiar a Anthropic? Amazon tiene un acuerdo para ofrecer modelos de Anthropic en AWS, así que no entiendo por qué querría moverse en contra de Anthropic
    • Últimamente la mayoría de los titulares parecen inducir a error. Las redes sociales arruinaron el periodismo
    • Sí. La empresa en el centro de este asunto es Amazon. Aunque no es solo Amazon; la semana pasada yo también pude hacer jailbreak a Fable por casualidad: https://news.ycombinator.com/item?id=48576628
  • Entonces, ¿por qué dentro de Estados Unidos tampoco se puede usar esto?

  • Si China saca un modelo similar en seis meses, toda esta controversia de Fable 5 va a verse bastante ridícula

    • Fable/Mythos es el primer modelo de Anthropic que oculta al 100% los tokens de razonamiento. Ahora probablemente veremos muchos más datos sobre hasta qué punto el avance de los modelos chinos dependía de técnicas de destilación
    • Google no pudo, OpenAI no lo hizo y Meta tampoco
      No sé por qué piensan que China sí podría
      Estoy bastante seguro de que la brecha se va a ampliar aún más
    • Sin restricciones, no habría tardado ni un mes. Una de las razones puede ser que China puede usar destilación para alcanzar un rendimiento comparable
  • Es algo muy realista que el capital chino se entrelace por toda la sociedad coreana a través de empresas nacionales y políticos coreanos

  • Hace más de 10 años, iba a una reunión tecnológica donde había un líder de seguridad del que después se supo que fue adquirido en grande por Cisco unos años más tarde
    Un estudiante quería crear un proyecto para sortear el Gran Cortafuegos de China, y ese líder de seguridad le dijo que era una tontería, que era imposible y que ni siquiera lo intentara. Era alguien que en algún momento había sido hacker y afirmaba defender la libertad de expresión
    Creo que la razón real por la que le dijo eso al estudiante era porque apoyaba al gobierno chino. Varias cosas que escuché después me convencieron de que eso era cierto, y sospecho que esa startup incluso recibió financiamiento del gobierno chino
    Es realmente decepcionante que líderes tecnológicos puedan apoyar públicamente durante décadas a un régimen homicida como el gobierno chino sin recibir ninguna reacción en contra. El gobierno chino es mucho peor que Putin y el gobierno ruso, y tiene unas 100 veces más dinero y tecnología
    Si hubiera apoyado a Rusia, probablemente lo habrían cancelado y nunca más habría podido volver a la industria tecnológica

  • Muchos de nosotros conocemos programadores y expertos en ciberseguridad mejores que Claude Fable o Mythos
    Sorprende ver que a estos modelos se les dé tanto elogio y un trato tan cuidadoso, mientras al mismo tiempo seres humanos con mucha más pericia están siendo descartados y despedidos

    • Esa gente claramente existe, pero es escasa, difícil de identificar y contratar, y toma años entrenarla. Mythos/Fable se puede usar al instante, como abrir una llave de agua
    • Parece que ignoras que ese elogio y esa atención no son casualidad. Son el resultado directo de la enorme maquinaria de relaciones públicas de Anthropic
      AGI y Skynet son su marketing, y Dario está en la primera línea de esa propaganda exagerada
      No hay que confundirse. No es una startup cualquiera, sino una empresa de un billón de dólares con el dinero y el poder potencial para influir en políticas, incluso al punto de hacer que se prohíba a competidores