Construir una supercomputadora para un dictador no necesariamente es bueno para la democracia

• OpenAI anunció recientemente una alianza para construir un gran centro de datos de IA en EAU
• Aunque esta alianza se presenta como “arraigada en valores democráticos”, EAU es un país claramente no democrático
• Freedom House y otras organizaciones destacan la represión de las libertades civiles y de los derechos políticos en EAU
• OpenAI promueve esta colaboración como una forma de expandir la IA democrática, pero su aporte real a la democracia sigue siendo incierto
• Existe preocupación de que la transferencia de recursos de supercomputación termine fortaleciendo el poder nacional de un Estado autoritario

---

Resumen de la alianza entre OpenAI y EAU para una supercomputadora de IA

• En mayo de 2024, OpenAI presentó oficialmente el programa OpenAI for Countries y el proyecto Stargate, un gran centro de datos de IA en Estados Unidos
• OpenAI señaló que los gobiernos reconocen que la concentración de capacidad de cómputo para IA será un elemento clave de la competitividad nacional, y declaró como objetivo “llevar la IA democrática a países de todo el mundo”
• Tras ese anuncio, OpenAI reveló una alianza con EAU para construir un centro de datos de IA de última generación. También afirmó que esta alianza “se basa en valores democráticos”

La realidad democrática de EAU

• Según la evaluación de Freedom House de 2024, EAU obtuvo 18 puntos sobre 100, una puntuación incluso inferior a la de Haití, Zimbabue e Irak
• EAU es una monarquía hereditaria, caracterizada por la concentración del poder político, la prohibición de partidos, un sufragio limitado y un consejo consultivo sin poder legislativo real
• Quienes critican al gobierno, defienden los derechos humanos o promueven reformas políticas —incluidos candidatos y activistas— son detenidos, y sus familias también pueden ser objeto de vigilancia y castigo
• Los medios de comunicación operan bajo autocensura o censura directa del gobierno, y también se censuran los libros de texto y los planes de estudio
• Los trabajadores migrantes, que representan el 90% de la población, no tienen derechos políticos, y los problemas de explotación laboral son graves. Organizaciones internacionales de derechos humanos también han señalado la prevalencia de formas modernas de esclavitud

Críticas a la lógica de la “IA democrática” de OpenAI

• OpenAI y Chris Lehane, responsable de política global, sostienen que expandir la tecnología de IA de Estados Unidos equivale a difundir valores democráticos
• La lógica principal es la siguiente:
  1. Como la IA desarrollada en Estados Unidos encarna valores democráticos, expandirla al extranjero contribuiría al avance de la democracia
  2. En la competencia de IA entre Estados Unidos y China, que Estados Unidos gane estaría directamente ligado a la defensa de la democracia
• En la práctica, aunque aumente la posibilidad de usar ChatGPT en EAU, es difícil concluir que eso garantice una libertad de expresión real o produzca un avance democrático inmediato
• Ni siquiera está claro si el servicio se ofrecerá de acuerdo con los criterios de censura locales de EAU. La respuesta de la COO de OpenAI, al decir que “lo iremos discutiendo con el gobierno”, también refuerza esa duda

El impacto de apoyar con tecnología de supercomputación a gobiernos autoritarios

• La infraestructura de supercomputación para IA a gran escala está emergiendo como un componente muy importante del poder estatal
• Es muy probable que, a raíz de esta alianza, EAU obtenga un acceso significativo o incluso derechos de propiedad sobre chips de IA de última generación
• Como señaló Lehane, este acuerdo proporciona el impulso clave para colocar a EAU entre las potencias de IA
• Puede haber beneficios desde una diplomacia estadounidense guiada por el pragmatismo, pero también hay fuertes implicaciones negativas en términos de fortalecer el poder de un régimen autoritario

Conclusión y problema de fondo

• Esto no significa que la cooperación en semiconductores e IA sea necesariamente negativa en sí misma
• La mayoría de los detalles del contrato entre OpenAI y EAU siguen siendo confidenciales o no están definidos
• Aun así, está claro que este acuerdo solo se concretará en condiciones aceptables para la familia real de EAU → su capacidad para promover la democracia será limitada
• El objetivo de OpenAI de que la tecnología de IA beneficie a toda la humanidad y el problema de cómo se distribuyen realmente la gobernanza y el control siguen siendo cuestiones completamente distintas
• Este caso puede interpretarse como una señal de que OpenAI quizá no esté considerando con suficiente seriedad la brecha entre su justificación pública y los riesgos reales, como la concentración de poder y el retroceso democrático

[GN⁺]

Opiniones en Hacker News

• Siempre me ha molestado mucho esa tendencia de darles excusas o excepciones especiales a empresas de alto perfil como OpenAI. En realidad, esto es algo que gigantes industriales de perfil más bajo como Cisco u Oracle han hecho durante décadas. No creo que el análisis de lo que hace OpenAI deba ser el principio y el fin de todo
  • Cisco y Oracle nunca empezaron como organizaciones sin fines de lucro con el lema de servir a un futuro mejor para la humanidad. No es muy distinto de cuando Google presumía el lema de “no seas malvado” y luego lo abandonó, recibiendo críticas por eso. Tampoco me convence el argumento de que, porque una empresa haya hecho algo malo y se haya dejado pasar, ya no debamos exigir estándares más altos a otras empresas en el futuro
  • Creo que la política es el arte de lo posible. Aunque resulte algo irritante, se puede agradecer que al menos haya intentos de actuar conforme a ciertos principios. Claro, las motivaciones reales pueden ser puro adorno, pero en este caso, aunque esté claro que el autor quería criticar específicamente a OpenAI, el argumento en sí me parece bastante persuasivo
  • La industria tecnológica ha estado vendiendo grandes sistemas informáticos y tecnología avanzada a los EAU durante décadas. De hecho, el contexto original de la escisión de AMD hacia GloFo también tenía como objetivo construir una planta avanzada de semiconductores en Abu Dabi, pero al final surgieron problemas reales como la cadena de suministro y el agua en pleno desierto, y eso hizo difícil llevarlo a cabo
  • Esto es incluso mucho más antiguo que lo que Cisco y Oracle han hecho durante décadas. IBM realmente proporcionó computadoras que fueron usadas en la operación del Holocausto
  • Creo que OpenAI se expuso por sí sola a este tipo de críticas al enarbolar la idea de “promover la democracia”. Como en realidad es evidente que su objetivo es ganar dinero, usar ese tipo de discurso terminó jugándole en contra
• Pasé por alto que la categoría de Estados dictatoriales mencionada en el artículo se refiere a las monarquías del Golfo más que a los autoritarios dentro de EE. UU. Primero, desde la perspectiva de Nvidia, vender grandes cantidades de GPU a inversionistas saudíes confiables es un buen negocio. Segundo, las monarquías del Golfo dependen de su relación con EE. UU. y también quieren mantener el sistema actual para evitar una revolución islámica. Tercero, la energía para los centros de datos se puede resolver con solar. ¿Que estos países vigilan a sus usuarios? Claro. Ya les resulta fácil eludir las restricciones legales locales mediante acuerdos de intercambio de inteligencia con GCHQ y la NSA. No hay nada especialmente nuevo aquí; al final, simplemente no debería confiar mis pensamientos ni mi privacidad a ningún SaaS
  • En realidad creo que la situación es aún más sutil que eso. Ya tienen mi historial de compras, mi dirección, los metadatos de mis llamadas y, gracias a DOGE, hasta datos federales. Incluso sin mi feed de redes sociales, eso ya puede representar una amenaza suficiente para mí. Además, no es algo limitado a SaaS. Están raspando toda la web a una velocidad enorme, así que siento que los límites de mi vida ya se extendieron muchísimo más
  • Al final, la comunidad de HN es un grupo pequeño, y la gran mayoría de la gente en el mundo no solo tiene poca información, sino que probablemente terminará eligiendo renunciar a su privacidad a cambio de comodidad. También vale la pena considerar la idea de que la opción ideal sería evitar desde el principio que exista esa tentación
• Creo que desarrollar tecnología para dictadores, en cualquiera de sus formas, no es positivo para la democracia. La clave de una democracia sana es maximizar la riqueza de la clase trabajadora. Solo cuando la gente tiene suficiente margen y educación para cuidar de sí misma, de su familia y de su comunidad puede haber una participación democrática significativa. Es mejor no desarrollar para dictadores de ningún país, ya sea EE. UU., los Estados del Golfo o Rusia, aunque claro, en la práctica no sea fácil
  • La participación democrática y la realidad de los países dictatoriales parecen temas algo separados. Más bien, cuanto más rápido avanza la tecnología, más fuertes se vuelven las tendencias distópicas en las sociedades occidentales, especialmente dentro de EE. UU. En cambio, los Estados dictatoriales de Medio Oriente han mantenido desde hace tiempo sistemas de bienestar sólidos y, al tener poblaciones pequeñas, están en posición de capturar beneficios del boom de la IA de manera más eficiente
• Creo que el valor esencial de los LLM está en multiplicar el poder de los mensajes que se difunden por toda la sociedad. En adelante, todo el mundo estará rodeado de mensajes simulados enviados por entidades no humanas. Esto demuestra que la única forma de controlar internet termina siendo “sepultarlo” bajo una cantidad inmensa de mensajes
  • Si aquí hoi polloi se refiere a las masas, entonces en la práctica las masas usarán esas herramientas con fines comerciales y seguirán cayendo en redes sociales por su necesidad de interacción social. Si en cambio se refiere a las élites, ellas ya llevan mucho tiempo usando este método poniendo a personas como escudo, y seguirán haciéndolo mientras tengan suficiente dinero
  • Creo que la expresión “multiplicación del poder” capta muy bien la esencia de mi preocupación
  • Me cuesta creer esa actitud de dar por sentado que la utilidad esencial de los LLM es tan “evidente”, solo por exceso de confianza en el propio conocimiento e imaginación. Me hace pensar en la perspectiva de quienes pretendían definir cuál era la esencia de la máquina de vapor en 1780
  • Veo a menudo la opinión de que los LLM se usarán para amplificar mensajes, pero no me parece nada obvia. Yo sigo solo un número muy reducido de medios y evito deliberadamente la interacción en línea; tengo una personalidad introvertida. Antes de la llegada de las redes sociales, esto era más bien lo normal. Si los LLM se desbordan por todas partes, ¿no podría más bien producirse un regreso a formas más primitivas de uso de la red? Y aunque se diga que controlar internet consiste en ahogarlo en mensajes, en la práctica también intervienen leyes en las que no se escatiman costos, así que la realidad es más compleja
  • Me cuesta estar de acuerdo con esa afirmación. Los medios y la prensa ya están llenos de demasiada basura informativa, y la capacidad media de atención de la gente ya está al límite. Aunque se añada más contenido trivial generado por IA, no va a cambiar gran cosa. La forma de controlar internet sigue siendo, al final, la regulación directa por parte del gobierno
• Yo diría más bien que cuanto más avanzada es una tecnología, más contiene el potencial de empujar a cualquier gobierno hacia formas más autoritarias o totalitarias. Para quienes detentan el poder, la tentación de querer controlarlo todo es muy fuerte, y eso tiende a desembocar en formas terribles de gobernar al Estado y a la población
• Independientemente de los estándares morales de Sam Altman, me pregunto si realmente hay una diferencia esencial entre, por un lado, Estados que se dicen democráticos pero ejercen opresión, violencia y ocupación sobre otros (EE. UU., Israel, India) y, por el otro, dictaduras del bando contrario (Arabia Saudita, China, Corea del Norte)
  • Si la población gobernada no tiene voz directa, entonces la propia expresión “Estado democrático” resulta extraña
  • Si ignoras las diferencias y comparas todo por igual, se vuelve imposible hacer distinciones esenciales. Y además se habla como si en las dictaduras solo hubiera unas pocas víctimas, pasando por alto que allí hay literalmente miles de millones de personas reprimidas
• Personalmente, me parece mucho más realista sacar provecho haciendo negocios con los EAU que dejar que China salga beneficiada. Ya se demostró que no funciona intentar mantener reprimido a Medio Oriente para siempre. Al final, visto desde una lógica de realpolitik, este movimiento es la mejor opción y se parece a una decisión del mundo real tipo Hearts of Iron. Si Arabia Saudita de todos modos ya es una dictadura, entonces este enfoque conviene más por ahora
• La democracia tampoco está estructurada para servir a la propia democracia. Me parece una idea que ya fracasó
• Recuerdo que en 1984 la idea central era que había una TV instalada en cada casa y esa TV vigilaba siempre a las personas. Hasta ahora eso había sido una fantasía distópica simple, porque era imposible que alguien “entendiera” y vigilara a todo el mundo en tiempo real. Pero con la aparición reciente de los LLM y la IA generativa, ya es perfectamente posible hacer alertas tempranas de detección de pensamiento peligroso con una sola GPU en cada hogar. De hecho, quizá lo más realista sea diseñar deliberadamente el sistema para que solo haga falta dejar una cantidad limitada de recursos de cómputo. Un AGI podría escuchar a ambas partes y mantener neutralidad, pero un agente LLM unidireccional no tiene esa capacidad. En este momento, al menos seis empresas, entre ellas OpenAI y Apple, están desarrollando dispositivos domésticos de vigilancia permanente basados en la GenAI más reciente. Una IA que observe toda la vida del usuario y capte el contexto también puede inferir sus gustos, inclinaciones políticas, etc. Si sale mal, un gobierno autoritario podría abusar de eso de forma muy efectiva. Ya casi en tiempo real se ha visto cómo TikTok logró detectar la orientación sexual o los intereses de usuarios incluso sin datos explícitos del usuario. Un dispositivo basado en LLM puede inferir preferencias de voto, intención de participar en protestas y más, solo analizando patrones de consumo de TV, conversaciones y expresiones emocionales. Helen Toner se preocupa por la democracia en otro continente lejano, pero yo temo que incluso el supuesto núcleo de la democracia está a un paso de materializar una sociedad al estilo Orwell. Paso 1: inducir a que se instale ese tipo de dispositivo en todas las casas (en curso). Paso 2: presionar a la empresa correspondiente para que use el dispositivo conforme a la voluntad del poder (pendiente)
  • Clasificar conductas con juicios binarios como “peligro/seguro” en realidad no pertenece de origen al ámbito de la IA generativa; eso ya era posible desde hace mucho con modelos tradicionales de machine learning y clasificación. Ni siquiera hacen falta LLM, y de hecho los modelos clásicos de ML son más eficientes para eso
• La página de Wikipedia de Chris Lehane todavía no está actualizada de acuerdo con su trayectoria real Chris Lehane - Wikipedia. Tuvo una carrera extraordinaria como fixer