Construir una supercomputadora para dictadores no necesariamente beneficia a la democracia
(helentoner.substack.com)- OpenAI presenta OpenAI for Countries y Stargate UAE como una expansión de la “IA democrática”, pero hay poca evidencia de que construir un gran centro de datos de IA en los EAU promueva la democracia
- En la evaluación de Freedom House 2024, los EAU obtuvieron 18/100 puntos; también se señalan la concentración del poder en una monarquía hereditaria, la prohibición de partidos políticos, la prohibición de criticar al gobierno, el encarcelamiento de activistas, la censura de prensa y la explotación de trabajadores migrantes
- La lógica de OpenAI se divide entre “la IA estadounidense difunde valores democráticos” y “si EE. UU. gana la competencia de IA contra China, eso favorece a la democracia”, pero no hay evidencia de que Stargate UAE busque ofrecer acceso sin censura ni herramientas favorables a la democracia
- La infraestructura de cómputo de IA a gran escala se está convirtiendo en un activo clave del poder estatal, y dado que la familia real de los EAU está invirtiendo enormes sumas, es muy probable que crezca la influencia del gobierno emiratí mediante derechos de acceso o propiedad sobre chips avanzados de IA
- Las transacciones de semiconductores e infraestructura de IA no siempre son malas, pero mientras no se conozcan la cantidad de chips, los derechos de propiedad y uso, y las condiciones para impedir la transferencia de tecnología a China, promocionarlo como un proyecto democrático es un encuadre riesgoso
El argumento de OpenAI sobre la “IA democrática” y Stargate UAE
- A inicios de mayo, OpenAI anunció OpenAI for Countries y dijo que ayudaría a distintos países a construir infraestructura de IA conectada con Stargate, que ya impulsa en Texas y otros lugares de EE. UU.
- La idea central del anuncio es que la infraestructura de IA a gran escala será un activo fundamental para el crecimiento económico futuro y el desarrollo nacional, y que a los países que quieran “rieles de IA democráticos” se les debe ofrecer una alternativa frente a la IA autoritaria
- Después, OpenAI anunció una alianza para construir un gran centro de datos de IA en los EAU y la presentó como un proyecto “arraigado en valores democráticos”
- El foco de la crítica es que el primer gran acuerdo de OpenAI presentado en nombre de la democracia no fue con una democracia real, sino con los EAU
El sistema político y la situación de derechos humanos en los EAU
- En los puntajes por país de 2024 de Freedom House, los EAU recibieron 18/100 puntos, por debajo de Haití, Zimbabue e Irak
- Puntaje de libertad: {p:18}
- El sistema político de los EAU está estructurado como una monarquía hereditaria que monopoliza el poder
- Los partidos políticos están prohibidos
- Los candidatos pueden postularse como independientes, pero les resulta difícil desafiar al sistema de forma significativa
- Solo la mitad de los escaños del consejo consultivo se elige, y el resto es designado por el gobierno
- Ese consejo consultivo no tiene poder legislativo real
- La crítica al gobierno está prohibida, y candidatos y activistas que exigen derechos humanos o reformas políticas son encarcelados o sometidos a juicios masivos
- Incluso los familiares de disidentes encarcelados son objeto de vigilancia y castigo sistemáticos
- Los medios practican la autocensura o sufren censura activa del gobierno, y en algunos casos pueden ser cerrados
- Cerca del 90% de la población de los EAU son trabajadores migrantes sin representación política, y se denuncian casos de explotación laboral como confiscación de pasaportes, salarios impagos y trabajo forzado bajo calor extremo
- Una organización de derechos humanos evaluó que los EAU son el séptimo país con mayor prevalencia de esclavitud moderna en el mundo
Las dos ramas de la lógica democrática de OpenAI
- Chris Lehane, responsable de asuntos globales de OpenAI, sostuvo en una columna en The Hill que los valores democráticos deben moldear el futuro de la IA y que, si EE. UU. no ayuda a los países que quieren desarrollar IA, los dictadores llenarán ese vacío
- La explicación de OpenAI se divide en dos grandes argumentos
- La IA estadounidense encarna valores democráticos, así que ofrecerla a más personas ayudaría a expandir la democracia
- Como EE. UU. es una democracia y China no lo es, que EE. UU. gane la “competencia” de IA favorece a la democracia
- El primer argumento podría tener algo de sentido en situaciones extremas, pero no encaja bien con el acuerdo con los EAU
- Si un país prohibiera el acceso a chatbots de IA sin censura y luego lo permitiera, eso podría favorecer los valores democráticos desde la perspectiva de la libertad de información
- También tendría un valor limitado ofrecer herramientas de IA favorables a la democracia en contra de la voluntad de un gobierno no democrático
- Pero no hay evidencia de que Stargate UAE busque hacer realidad alguno de esos escenarios
- OpenAI promocionó que los EAU se convertirían en el primer país del mundo en activar ChatGPT a nivel nacional, pero no está claro si antes ChatGPT estaba restringido en los EAU, ni por qué países como EE. UU., Australia o Canadá no cuentan como una “activación nacional”
- También hubo reportes de que los residentes de los EAU recibirían ChatGPT Plus gratis, pero eso resultó ser noticia falsa
La operación de ChatGPT y las líneas de censura en los EAU
- No hay señales de que ChatGPT vaya a operar en los EAU de forma más democrática que otras herramientas de IA
- Los residentes de los EAU aparentemente también pueden acceder a otros productos de IA estadounidenses como Gemini, Claude y Llama
- Al COO de OpenAI, Brad Lightcap, le preguntaron si ChatGPT respetaría las “red lines” sobre temas sensibles en los EAU, como críticas a la familia real, y respondió: “Todavía no lo sabemos. Tendremos que trabajar en conjunto con el país y con la alianza”
- Esa respuesta no descarta la posibilidad de que ChatGPT sea ajustado para no chocar con las líneas de censura política ya existentes en los EAU
Infraestructura de cómputo de IA y poder estatal
- El segundo argumento, el de la competencia de IA entre EE. UU. y China, puede resultar relativamente más convincente
- Los recursos de cómputo desempeñan un papel importante en el éxito de la IA
- Hoy se considera difícil construir grandes centros de datos en EE. UU.
- Si otros países aportan financiamiento, energía y permisos, las empresas estadounidenses pueden asegurar más capacidad de cómputo y crear mejor IA
- Sin embargo, una visión centrada solo en EE. UU. y China deja fuera implicaciones más amplias del acuerdo con los EAU
- La infraestructura de cómputo a gran escala, en especial las supercomputadoras de IA de nivel mundial compuestas por cientos de miles de aceleradores avanzados, se está convirtiendo en una fuerza importante del poder estatal
- Desde esa perspectiva, Stargate UAE es un acuerdo que puede ampliar de forma importante el poder y la influencia de IA del gobierno emiratí
- Con la información pública disponible sigue siendo muy ambiguo quién tiene la propiedad y los derechos de uso de esos recursos de cómputo, pero si los EAU están poniendo tanto dinero, es difícil imaginar que no obtengan acceso sustancial o algún tipo de propiedad sobre esos chips
Condiciones e incertidumbres en los acuerdos de IA y semiconductores del Golfo
- Hacer acuerdos de semiconductores con países del Golfo no es, por sí mismo, algo intrínsecamente malo
- No se han hecho públicos los detalles de varias operaciones similares al acuerdo de OpenAI con los EAU, y algunas todavía no están cerradas definitivamente
- EE. UU. ha cooperado durante mucho tiempo con gobiernos autoritarios del Golfo por razones de seguridad nacional, y desde una lógica fría de realpolitik pueden existir tipos de acuerdo donde los beneficios superen los costos
- Para juzgar después si EE. UU. hizo un buen acuerdo, importan las siguientes condiciones
-
Cantidad de chips
- Derechos de propiedad y uso de los recursos de cómputo
- Salvaguardas para impedir la transferencia de tecnología a China
- Aun así, incluso en la mejor versión posible de un acuerdo Stargate UAE, las condiciones tendrían que ser aceptables para la familia real de los EAU, por lo que es difícil que esta alianza se convierta en una herramienta fuerte de promoción democrática
-
La misión de OpenAI y el problema de la concentración de poder
- Si OpenAI fuera una empresa puramente comercial o si la IA fuera una tecnología menos trascendental, la importancia del lenguaje promocional alrededor de este acuerdo sería menor
- Pero OpenAI se presenta a sí misma como una organización sin fines de lucro orientada por una misión que busca crear una tecnología extremadamente poderosa
- La misión de “asegurar que la IA beneficie a toda la humanidad” a menudo se simplifica como construir una AGI segura, pero desarrollar una tecnología capaz de cambiar el mundo de una forma que realmente beneficie a todos es un problema mucho más complejo que simplemente “hacerla segura” o “hacerla en EE. UU.”
- Quién accede a los sistemas de IA poderosos y quién tiene el control sobre ellos es una cuestión central para determinar quién recibirá los beneficios
- Cómo avanzar la IA sin ampliar las brechas de poder existentes, sin reforzar regímenes autoritarios y sin debilitar a la gente común sigue siendo un desafío sin resolver a escala civilizatoria
- Promocionar Stargate UAE como un proyecto de democracia se parece más a una señal de que OpenAI no está tomando con suficiente seriedad estos desafíos
1 comentarios
Opiniones de Hacker News
En general estoy de acuerdo con esta dirección, pero me frustra que haya tanta defensa especial al comparar lo que hacen empresas famosas como OpenAI con lo que gigantes industriales menos visibles como Cisco y Oracle han hecho durante toda una generación.
El análisis pierde fuerza si empieza y termina solo con OpenAI.
No es distinto de cuando se criticó a Google por abandonar “do no evil”. Y que en el pasado alguna empresa se haya salido con la suya tras portarse mal no significa que no debamos esperar mejores estándares de otras empresas en adelante.
La escisión de GloFo por parte de AMD originalmente también buscaba tener una fab de vanguardia en Abu Dhabi, pero chocó con la realidad de intentar hacer algo en el desierto, con mala cadena de suministro y sin agua dulce.
Es algo irritante, pero al menos se puede agradecer que la gente intente organizarse alrededor de principios. Aunque esos principios no parezcan ser la motivación real. En este caso, claramente el autor escribe en buena medida porque le tiene especial antipatía a OpenAI, pero aun así el argumento en sí es bueno.
Señalar que Joe se estacionó ilegalmente no es “defensa especial”. Esa expresión no significa eso.
La misma junta que destituyó a Sam Altman.
Se les pasó que el artículo no habla de un dictador estadounidense, sino de dictadores de monarquías del Golfo.
Es muy simple. Primero, desde el punto de vista de Nvidia, venderles tarjetas gráficas en grandes cantidades a inversionistas saudíes de confianza parece una gran idea. Segundo, las monarquías del Golfo dependen de EE. UU. y quieren evitar una revolución islámica. Tercero, quieren usar paneles solares para alimentar los centros de datos.
¿Van a rastrear a los usuarios? Por supuesto. Y GCHQ y la NSA pueden firmar acuerdos de intercambio de inteligencia para saltarse sus propias leyes nacionales. No hay nada nuevo. Simplemente no hay que confiarle tus pensamientos a ningún servicio SaaS.
Ya tienen mi historial de compras, mi historial de direcciones, los metadatos de mis llamadas, y ahora, con DOGE, también una parte considerable de los datos federales. No necesitan mi feed de Twitter para volverse hostiles a mis intereses.
Además, están scrapeando la web de forma demencial, así que creo que la línea divisoria es mucho más amplia que SaaS.
Los nativos son una minoría, las fuerzas de seguridad son todos extranjeros directamente subordinados al gobernante y, en algunos casos, superan en número a toda la población nativa. Los propios nativos viven demasiado bien como para tener muchos incentivos a jugarse todo en una lucha.
Más bien espero que se convierta en una de las peores fuentes de contaminación de la carrera por la IA. La tentación de quemar petróleo y gas, con suministro prácticamente ilimitado, es demasiado fuerte.
Desde cierto punto de vista, es mejor impedir que exista siquiera esa tentación.
Me pareció evidente que la principal utilidad de los LLM es ser un multiplicador de fuerza para amplificar mensajes enviados a la sociedad.
Cada persona del público quedará atrapada bajo una gruesa manta de comunicaciones e interacciones casi clonadas, la mayoría de las cuales no serán humanas. La única forma de controlar internet resultó ser cubrirlo por completo, como si se lo ahogara.
Soy bastante introvertido, y me pregunto si tú también lo eres o si eres lo contrario. Normalmente leo medios específicos, no busco “interacciones” en línea y evito por completo las redes sociales. Antes de las redes sociales, esto era lo normal. Me pregunto si no ves la posibilidad de que el abuso de los LLM empuje a la gente a volver a formas más primitivas de usar la red.
También dices que para controlar internet basta con cubrirlo todo, pero en la práctica también vemos que no escatiman costos para manipular la ley. Hay más en juego que despreciar a “las masas”.
En 1780, ¿cuál creía la gente que era la principal utilidad de la máquina de vapor?
Para intercambios comerciales podrían usar eso, pero lo que mantiene a la gente pegada a las redes sociales es una necesidad de interacción social que no se satisface de esa manera. Incluso si se refiere a la élite, tampoco. Ellos ya han venido haciendo esto usando personas como amortiguadores, y si son lo bastante ricos probablemente seguirán haciéndolo.
Los medios ya están desbordados de basura pegajosa muy por encima de lo que una persona puede procesar. La atención promedio ya está saturada, así que no creo que echar todavía más basura generada por IA cambie mucho las cosas.
La forma de controlar internet es, literalmente, controlarlo. Como ya lo están haciendo los gobiernos.
Construir algo para dictadores, sinceramente, probablemente no sea bueno para la democracia.
Si quieres que la democracia esté sana, conviene maximizar la riqueza de la clase trabajadora. Las personas que tienen margen para cuidarse un poco a sí mismas, a sus familias y a sus comunidades pueden tener tiempo y educación para participar de manera significativa en la democracia.
Ya sea que se construya para un dictador estadounidense, un dictador de un país del Golfo o un dictador ruso, quizá sería mejor no hacerlo. Claro que no es tan fácil como decirlo.
Me pregunto qué significa participar en la democracia dentro de un Estado dictatorial.
Irónicamente, cuanto más avanza la tecnología hacia la singularidad, o algo cercano, y se automatiza la mayoría de los empleos de baja y media calificación, más tendencias distópicas se ven en Occidente, especialmente en EE. UU. En cambio, estos Estados dictatoriales desde hace mucho tienen sólidos sistemas de bienestar para sus ciudadanos, y ahora también para los residentes; además, por tener poblaciones pequeñas, están bien posicionados para cosechar los beneficios del boom de la IA.
Creo que las implicaciones van más bien en la dirección contraria.
Una tecnología lo bastante influyente puede convertir a cualquier gobierno en dictatorial y totalitario. Para quienes tienen poder, querer controlarlo todo es la mayor tentación, y de ahí surgen Estados terribles y formas terribles de gobernar a la población.
Basta recordar que, en 1984 de Orwell, la idea central era que la TV en cada casa siempre estaba mirando, y que alguien detrás de ese dispositivo realmente entendía lo que veía.
Esa última parte era lo que se consideraba distópico. No podía haber suficientes personas para mirar y entender a todo el mundo durante todo el día, y también estaba el problema de quién vigila a los vigilantes. 1984 era más bien una fantasía aterradora porque no había una forma práctica de hacerla realidad.
Por primera vez en la historia, los nuevos LLM/IA generativa están haciendo realista esa parte de 1984. Para una alerta temprana de “pensamientos peligrosos”, basta con una GPU por hogar, y eso ya es posible o pronto lo será. Incluso es perfecto que la cantidad de cómputo asignada a cada hogar sea pequeña, de modo que solo pueda correr una inteligencia básica y pobre. Una AGI, al menos en teoría, podría escuchar a ambas partes, investigar el panorama general y ponerse del lado contrario, pero un agente LLM lineal no tiene esa capacidad.
Hay reportes de que al menos seis empresas, incluidas OpenAI y Apple, están investigando dispositivos domésticos que siempre observan y tienen la IA generativa más reciente como backend. Para ayudarte de forma significativa con una sola frase, necesitan suficiente contexto, así que requieren ver toda tu vida reciente. Al mismo tiempo, eso basta para saber por quién vas a votar, si vas a ir a una protesta que ni siquiera se ha anunciado todavía, y cuál es la mejor forma de asustarte para que no vayas. Es parecido a la diferencia entre una herramienta para clavar y un arma homicida. Ambas son el mismo martillo.
Durante la campaña TikTok-China hubo muchos videos de personas LGBT contando lo rápido que TikTok había descubierto su orientación sexual. Sin dar like a ningún video, sin seguir a nadie y sin proporcionar información de perfil rastreable, a veces incluso antes de que ellas mismas lo admitieran. TikTok lo deduce solo viendo qué mira el usuario y durante cuánto tiempo. Basta con que alguien se quede mucho más tiempo en videos de hombres haciendo ejercicio que en videos de mujeres, o al revés. Parece que eso se usó para asustar sobre cuánto podía averiguar China de los estadounidenses solo con el uso de la app.
Si eso da miedo, esto da aún más miedo. Un dispositivo con backend LLM ya puede hacer mucho más solo viendo qué programas de TV miras, en qué partes te ríes y qué le dices a la persona de al lado. Puede que ni siquiera necesite ser multimodal. Parece posible solo con subtítulos y transcripción de voz a texto. Podría detectar tus ganas de oponerte al autoritarismo que viene incluso antes de que tú mismo las reconozcas.
Mientras Helen Toner se preocupa por la democracia al otro lado del mundo, el bastión de la democracia quizá ya esté a solo dos pasos finales de la primera implementación funcional de una sociedad orwelliana. El paso 1 es convencer a todos de meter esos dispositivos en sus casas por su propio beneficio; eso ya está en marcha. El paso 2 es intimidar o tomar el control de las empresas propietarias para que usen esos dispositivos con fines que no sean para nuestro beneficio; eso todavía queda pendiente.
“Por supuesto, no había manera de saber si te estaban vigilando en un momento determinado. Solo se podía conjeturar con qué frecuencia, o bajo qué sistema, la Policía del Pensamiento se conectaba a una línea individual. Tal vez vigilaban a todo el mundo todo el tiempo. Pero, en cualquier caso, podían conectarse a tu línea cuando quisieran. Tenías que vivir —y de hecho vivías, por hábito convertido en instinto— suponiendo que todo sonido que hicieras sería escuchado y, salvo en la oscuridad, todo movimiento observado.”
Dicho eso, sí es cierto que, por primera vez en la historia, muchos países se están acercando a una verdadera vigilancia total de las comunicaciones.
La salida no es una explicación en texto, sino un sí/no binario. También se puede hacer con un LLM, pero es muy probable que un modelo específico de machine learning entrenado con el mismo dataset sea mejor en casi todas las métricas cuantitativas, y esa tecnología existía desde mucho antes de la aparición de los transformadores.
Como una especie de Policía del Pensamiento a nivel de barrio.
Debería prohibirse todo negocio con dictadores y regímenes dictatoriales.
Creo que se debería permitir hacer negocios con los 100 países mejor posicionados de esta lista: https://en.wikipedia.org/wiki/The_Economist_Democracy_Index
Hacer negocios con el resto solo fortalece regímenes inhumanos y, por desgracia, esos regímenes no solo matan a sus propios ciudadanos, también atacan a países vecinos. Vean Ukraine, y quizá pronto también Taiwan. El dinero sí huele.
Una parte considerable de la riqueza de los países desarrollados se construyó aprovechando la corrupción de los países en desarrollo. Por eso tienen incentivos para seguir siendo corruptos, siempre y cuando cooperen con las potencias occidentales y vendan barato sus recursos y el trabajo de su gente a empresas occidentales.
Es mejor obtener beneficios haciendo negocios con UAE que dejar que esos beneficios terminen yendo a China.
Los intentos de mantener sometido al Medio Oriente para siempre claramente no funcionaron, así que creo que lo que se está haciendo ahora es realpolitik y la respuesta obvia. Arabia Saudita será autoritaria de todos modos, y esto es como jugar bien una versión real de Hearts of Iron.
Las desventajas son claras. Básicamente estamos armando a personas cuya visión del mundo no encaja con la nuestra y que, incluso ahora, en el mejor de los casos son aliados por conveniencia. Además, no hay garantía de que lo que les demos no sea revendido a China. Considerando que esos regímenes son notoriamente corruptos, diría que en la práctica es casi seguro.
En todo caso, no está claro si a alguno de los “responsables” le importa.
De hecho, quizá ese sea el punto.
El mayor riesgo de la IA no es una rebelión, sino que les permite a dictadores y totalitarios ejercer un control total sobre toda la población.
Un algoritmo suficientemente avanzado puede encontrar todo lo que una persona ha publicado en línea mediante referencias cruzadas, estilo de escritura, etc., y determinar con gran precisión sus puntos de vista y opiniones. También puede extrapolar cómo han ido cambiando esas opiniones.
Un gobierno podría apuntar contra un disidente incluso antes de que él mismo se dé cuenta de que lo es, mucho antes de que tenga tiempo siquiera de organizarse.
El análisis de estilo es un campo bien estudiado. Tranquiliza saber que solo es práctico cuando hay pocos autores sospechosos para una publicación y suficiente texto de muestra de cada uno. Es decir, en una situación donde todos son sospechosos potenciales, vincular una publicación anónima con su autor es, en la mayoría de los casos, completamente imposible. Incluso en los pocos casos prácticos, como mucho genera una señal débil para una investigación adicional.
Creo que el paper de Greenstadt et al., “Adversarial Stylometry: Circumventing Authorship Recognition to Preserve Privacy and Anonymity”, puede resultar interesante.
A Trump claramente tampoco le importan. Hay personas que están siendo deportadas sin pruebas y, a veces, incluso sin acusación formal. Ese es el núcleo del autoritarismo: hacer lo que quiera el líder. Lo que hace posible a Trump no es la IA, sino un sistema impotente de controles y contrapesos. Del mismo modo, W mintió sobre las armas de destrucción masiva para meterse en una guerra interminable. No importó que el motivo no fuera verdadero. Se salió con la suya e hizo ricos a él y a sus amigos de la industria de defensa a costa del pueblo estadounidense.
https://www.newsweek.com/donald-trump-database-palantir-dyst...
Solo que opera a una escala mucho mayor.
Hoy se ve una tendencia en la que individuos ricos concentran cada vez más poder, y esto se vuelve más evidente en la esfera pública. También llama la atención que, en particular, estén en la primera línea de la propiedad y el control del desarrollo de la inteligencia artificial. Casualmente, esta tendencia suele llamarse “fascismo tecnológico” y, al final, nos devuelve otra vez al esquema del dictador.