EE. UU. y Reino Unido se niegan a firmar la declaración de seguridad en la cumbre de IA de París
(arstechnica.com)- En la AI Action Summit de París, unos 60 países acordaron una declaración conjunta sobre seguridad de la IA, pero Estados Unidos y Reino Unido no la firmaron, lo que dejó en evidencia fisuras en torno a la regulación de la IA y el liderazgo industrial
- La declaración incluía el principio de que la IA debe ser abierta, inclusiva, transparente, ética, segura, protegida y confiable, y no tenía carácter jurídicamente vinculante
- El vicepresidente de Estados Unidos, JD Vance, subrayó que la regulación de la IA no debe “sofocar” el desarrollo tecnológico, y sostuvo que los sistemas de IA más potentes se construirán en Estados Unidos con chips estadounidenses
- Una persona cercana al gobierno británico consideró que el texto de la declaración era “demasiado restrictivo”, y un funcionario de un país firmante dijo que Estados Unidos no aceptó las expresiones sobre multilateralismo y cooperación internacional
- Europa está ampliando su base industrial de IA para reducir su dependencia de Estados Unidos y China, y en la cumbre se anunciaron planes de inversión por unos 200.000 millones de euros en centros de datos y clústeres de cómputo
La grieta en las firmas que quedó expuesta en la cumbre de IA de París
- Estados Unidos y Reino Unido no firmaron la declaración conjunta de la AI Action Summit celebrada en París
- Unos 60 países acordaron la declaración conjunta, que incluye el objetivo de hacer que la tecnología de IA sea “segura, protegida y confiable”
- La declaración también incluye principios para que la IA sea abierta, inclusiva, transparente y ética
- Incorpora una referencia a considerar un marco internacional para todos
- Los compromisos son no vinculantes, pero Estados Unidos y Reino Unido sí habían firmado declaraciones similares en cumbres de IA anteriores
El foco de Estados Unidos está en el liderazgo en IA, no en la regulación
- El vicepresidente de Estados Unidos, JD Vance, advirtió a Europa que no adopte regulaciones “excesivamente precautorias” sobre la IA
- Vance afirmó que la administración Trump buscará que los sistemas de IA más potentes se construyan en Estados Unidos
- La postura es que esos sistemas deben usar chips diseñados y fabricados por Estados Unidos
- El mensaje se interpreta como una señal de que Estados Unidos quiere mantener una posición dominante en la tecnología de IA
- Sostuvo que los regímenes internacionales de regulación deben fomentar la creación de tecnología de IA, no sofocarla
- Keegan McBride, del Oxford Internet Institute, calificó el discurso de Vance como un “giro de 180 grados” frente a la administración Biden
Diferencias entre Estados Unidos y Reino Unido sobre el texto de la declaración
- La postura dura de Estados Unidos está alineada con la orientación “America First” de la administración Trump
- Una persona cercana al gobierno británico consideró que el texto de la declaración era “demasiado restrictivo”
- Un funcionario de uno de los países firmantes dijo que Estados Unidos no estuvo de acuerdo con las expresiones vinculadas al multilateralismo y la cooperación internacional
- La declaración conjunta incluye como prioridad el fortalecimiento de la cooperación internacional para facilitar la coordinación de la gobernanza internacional
- El mismo funcionario dijo que Estados Unidos también tenía preocupaciones sobre Current AI, una iniciativa lanzada por Francia en la cumbre
- La preocupación era que Current AI pudiera usarse para canalizar fondos hacia países francófonos
La competencia con China y la tensión generada por DeepSeek
- La postura dura de Estados Unidos llega en un contexto de creciente competencia con China en torno a la IA
- La competencia se ha extendido a la fabricación de chips, los modelos fundacionales, los chatbots de IA y la energía necesaria para alimentar supercomputadoras
- El laboratorio chino poco conocido DeepSeek sacudió a las empresas de Silicon Valley al lanzar un modelo de IA de bajo costo
- Empresas como OpenAI creían que tenían una ventaja sólida
- Vance advirtió contra colaborar con “regímenes autoritarios” en acuerdos de IA, apuntando indirectamente a China
- Citó CCTV y 5G como ejemplos del pasado, y dijo que los regímenes autoritarios exportaron tecnología barata fuertemente subsidiada
- Sostuvo que ese tipo de cooperación ata a los países a actores autoritarios que buscan infiltrarse y controlar su infraestructura de información
La respuesta de Europa: fortalecer su propia base industrial de IA
- Europa busca hacerse un lugar en la industria de la IA y reducir su dependencia de Estados Unidos o China
- En la cumbre de dos días organizada por el presidente francés Emmanuel Macron, líderes europeos y empresas anunciaron planes de inversión por unos 200.000 millones de euros
- La inversión se destinará a centros de datos y clústeres de cómputo que respalden los esfuerzos europeos en IA
- Frederike Kaltheuner, del AI Now Institute, dijo que, tras el lanzamiento del potente modelo abierto de DeepSeek, los europeos sintieron que tenían una breve oportunidad para competir en IA
- McBride evaluó que la cumbre de Macron apuntaba a impulsar una alternativa al desarrollo de IA liderado por Estados Unidos, pero que los comentarios de Vance enfriaron ese clima
1 comentarios
Comentarios de Hacker News
Una parte de la vida impulsada por la aceleración tecnológica durante las próximas décadas probablemente se sentirá como sufrir una lobotomía frontal estando consciente y observando todo el proceso
Podemos imaginar miles de rutas hipotéticas en las que incluso una tecnología inferior a una AGI completa salga catastróficamente mal y debatirlas sin fin, pero el progreso en esa dirección en realidad no se desacelera ni se detiene
Si existe aunque sea un solo grupo con suficiente inteligencia colectiva y capacidad de lograr avances, la próxima IA podría llegar hasta nuestra puerta, la hayamos querido o no
Se parece a la experiencia de darte cuenta 20 años después del significado de un mensaje importante sobre la vida en libros que leíste de niño. El mensaje siempre estuvo ahí, pero en ese momento no tenías la inteligencia emocional y perceptiva para asimilarlo
Cuando se inventó la imprenta también había gente con esa misma actitud, y al final estaban equivocados. Si hubiéramos seguido sus “lecciones”, la sociedad humana sería mucho peor
Si las críticas actuales a la IA/AGI son válidas o no, al final solo lo sabremos retrospectivamente
Especialmente en la industria tecnológica, hay demasiada gente a la que no le importa mucho lo que les pase a los demás mientras pueda ganar dinero. Está dispuesta a sacrificar a otros y ni siquiera quiere compartir el bienestar dentro de su propia comunidad
Es el resultado inevitable de que una sociedad de baja confianza se infiltre en una de alta confianza, y mientras se difundan más tecnologías con implicaciones peligrosas para la sociedad, habrá suficiente gente dispuesta a trabajar por su colapso, así que no hay esperanza realista de que este tren se detenga
Entrenar IA hoy requiere mucho hardware, pero con solo una laptop e internet todavía se puede hacer investigación e innovación de punta en arquitectura y algoritmos
Incluso si se aprueba una ley que diga “el desarrollo de IA es ilegal”, es dudoso cómo podría hacerse cumplir
Los miedos imaginarios no son miedos reales. No estoy de acuerdo con el enfoque de la administración actual, hay que mantener la guardia, y tampoco me encanta que las personas que obtendrán enormes beneficios de esa tecnología estén en la mesa de discusión
Pero aparte de eso, todavía no veo una razón real para hacer algo más que esperar y mantenerse alerta
Nadie querría quedar atrapado en un país que prohíbe la IA, especialmente la de otros países, y perder competitividad frente al mundo emergente
El futuro ya será difícil; ¿por qué atarnos una mano a la espalda por voluntad propia? La prudencia y el miedo no son lo mismo
La IA es distinta de la fisión nuclear. No puedes detectar remotamente si alguien está entrenando IA, y ya es demasiado tarde para aislar la información relacionada con IA como se hacía con el enriquecimiento de uranio
El equipo necesario para entrenar IA es barato y común. Estas “declaraciones de seguridad” no tienen dientes y además son imposibles de hacer cumplir
No se puede detener la IA; hay que adaptarse. Los videos y las fotos pronto dejarán de tener valor probatorio, y habrá que valorar más las relaciones humanas reales que las relaciones en línea. Porque ahí sí puedes saber que la otra parte es una persona real
Es desafortunado, pero nada de lo que la IA está “destruyendo” existe desde hace 200 años, y la gente se adaptará como siempre lo ha hecho. Como decía el villano del cómic Toyo Harada: “Ninguno de ustedes puede detenerme. Ni como individuos ni como colectivo”
Es posible que se imponga legalmente por razones y métodos parecidos a cuando Japón hizo obligatorio el sonido del obturador en cámaras digitales
Hace 200 años la población mundial era de alrededor de mil millones, pero ahora es de unos ocho mil millones. Los anarcoprimitivistas o defensores del decrecimiento también desestiman con un gesto el progreso de los últimos 200 años, pero ese progreso es importante para sostener sistemas que salvan a mucha gente
Aun así, los acuerdos internacionales sobre el no uso de armas químicas se han mantenido sorprendentemente bien
Donde habrá confusión será en la esfera pública. Aproximadamente durante una generación, la gente nacida entre antes de 1975 y hoy no podrá pensar críticamente cuando vea imágenes que quiera creer
Si se prohíben servicios basados en IA como ChatGPT, también se puede reducir el incentivo económico para invertir dinero en ese entrenamiento
Una iniciativa más reciente es https://c2pa.org/
Toda esta discusión sobre la seguridad de la IA no es más que construir un foso defensivo para que empresas como OpenAI bloqueen a competidores emergentes como DeepSeek.
Los LLM no llevan al AGI. Ni de cerca. Que Altman hable de ese riesgo se parece a Musk hablando de taxis autónomos.
Claro, sí es una tecnología impresionante. Los LLM sí parecen capaces de algún día multiplicar por 10 la productividad de personas en trabajos que pasan todo el día interactuando con computadoras.
Ellos no hablaban de esto para construir un foso para OpenAI. De hecho, OpenAI ni existía en ese momento, la IA no estaba ni remotamente cerca del nivel actual, y casi todo el mundo veía sus argumentos como absurdos.
Puedes no estar de acuerdo, pero descartarlo simplemente como una postura para apuntalar a las empresas de IA ya establecidas es incorrecto y deshonesto.
En todo aquello que un LLM puede percibir por medios sensoriales, según cualquier descripción, es mucho más inteligente que un humano promedio.
Una potencia dominante del mundo no deja que otros países definan su estrategia. Así de simple.
Los intentos de frenar la IA vendrán del lado que vaya perdiendo la competencia. Como en la entrevista recordada por Edward Teller, la Unión Soviética aprovechó la moratoria de pruebas nucleares para alcanzar a Estados Unidos en la bomba de hidrógeno, y Teller fue quien les dijo a los científicos idealistas que eso iba a pasar.
Es bien sabido que China ya alcanzó a Estados Unidos en casi todo, y que pronto lo va a superar en lo demás. Basta ver DeepSeek: es tan eficiente como OpenAI, pero mucho más barato. También están Baidu, Alibaba AI, etc.
La economía china va en trayectoria de superar a la estadounidense en cinco años, y aun así firmó ese acuerdo. De hecho, lo firmaron la mayoría de los países, e India también.
No es una situación donde los perdedores estén creando nuevas reglas, sino donde los países grandes están discutiendo cómo manejar esto, y los países que se creen demasiado especiales son los que están quedando mal.
Solo que esos intentos también son simbólicos, y los propios involucrados lo saben. Son solo un intento de aparentar que están haciendo algo frente a consumidores de información ingenuos, es decir, tontos útiles.
Me perdí los 80, pero como “hacker” que vivió los 90 y los 2000, el tono de la conversación sobre la IA me resulta profundamente triste e incómodo.
Imagínate decirles a los hackers de antes que en un sitio llamado “hacker news” la gente iba a debatir si el gobierno debería criminalizar el ejecutar código en tu propia computadora.
Esto choca de frente, tanto ética como filosóficamente, con todo lo que me hizo apasionarme por las computadoras. Me pregunto si la gente realmente cree esto, o si es una narrativa sofisticada conveniente para ciertas empresas y políticos.
Ni en la regulación de IA de la UE ni en las discusiones que he visto hay nada que limite el hackeo de IA en sí.
La regulación trata sobre aplicaciones empresariales y gubernamentales y casos de uso reales. Por ejemplo, impedir que una IA sin responsabilidad legal tome decisiones finales de contratación, prohibir el reconocimiento facial masivo en espacios públicos, exigir transparencia en el uso de IA en áreas de alto riesgo como salud, educación o justicia, y prohibir IA armada.
Ya que hablaste de ética, pregunto: ¿qué ética debería aplicarse a la IA? ¿Ninguna, solo algunas, o la misma que a los humanos? Si la IA va a reemplazar a humanos en la toma de decisiones, debería asumir responsabilidad como un humano.
Los países que tengan AGI sin límites probablemente se adelantarán de forma abrumadora en lo tecnológico
En cambio, los países que impongan restricciones se quedarán en esa área en la “Edad de Piedra”
En general, los países donde los ingresos de la élite dependen del trabajo de la población dan mejores resultados para la mayoría que aquellos donde no es así. Basta ver los países en desarrollo con abundantes reservas de petróleo
¿A qué llevaría la AGI? Así como se reemplazó el trabajo en manufactura, también se reemplazaría la mayor parte del trabajo del conocimiento, y la élite existente pasaría a controlar la AGI. Podría usarse para reprimir cualquier rebelión para siempre mediante una vigilancia totalmente automatizada y omnipresente
De verdad no es algo a lo que valga la pena aspirar
[1]: https://en.wikipedia.org/wiki/Resource_curse
Puede que exista algún día. Pero la “IA” actual no puede convertirse en AGI, y no hay un camino para llegar ahí
No hay que tragarse esa narrativa tal cual. La regulación de la UE no busca prohibir la AGI, sino hacer que la tecnología mantenga al menos un mínimo de decencia cuando exista. Los estadounidenses parecen tener una alergia casi mortal a cosas así
Ahora, unos años después, estamos considerando seriamente una situación real en la que una parte del mundo adopta la IA y otra parte no
Esta adopción parcial era predecible, pero no esperaba que estuviéramos teniendo este debate tan pronto
¿Entiendo bien que esta “declaración” no es un compromiso de acción concreta? Si es así, no me queda claro por qué importa quién firma y quién no
Y ni siquiera parece más concreta que eso. Tiene como página y media de largo, la lista de países es tan larga como la declaración misma, y básicamente dice “hablamos de no hacer cosas malas”
Ellos tienen razón. Esa declaración es inútil y solo una pérdida de tiempo
A Europa realmente le encanta firmar declaraciones y cartas de preocupación. Aunque la hubieran firmado, no habría cambiado nada
Este tipo de declaraciones de “no seamos malos” suelen ser gestos sin sentido
Actores marginales que ni siquiera iban a participar presumen superioridad moral, pero no logran influir en absoluto en el rumbo real de las cosas
El Ottawa Treaty es parecido. Entre los países no firmantes están Estados Unidos, China, Rusia, Pakistán, India, Egipto, Israel, Irán, Cuba y las dos Coreas. O sea, justamente faltan todos los países de los que cabría esperar el uso de minas terrestres
Cuando llegue el momento, incluso países firmantes como Ucrania usarán minas terrestres. Porque la defensa nacional importa más que obedecer una hoja de papel y sentirse moralmente superior