- El optimismo en torno a la predicción del siguiente token se parece menos a una visión del progreso tecnológico y más a una forma de tribalismo que disfruta la idea de que la creatividad, la experiencia y el trabajo humanos se vuelvan inútiles.
- La promesa inicial de la IA pasó rápidamente de resolver el clima, las enfermedades y la pobreza a reducir trabajo, y las empresas están gastando miles de millones de dólares para quitarles a los trabajadores su carta de negociación.
- A diferencia del eslogan de “con IA”, la estructura de costos final que desean las empresas es dejar solo el costo de los tokens, y las personas pasan a ser nodos que empujan resultados a una velocidad difícil de verificar.
- Los datos de entrenamiento funcionan prácticamente con una estructura de opt-out que incluye por defecto la web, libros, fotos y videos, mientras que la sociedad carga con el costo del trabajo de etiquetado, los centros de datos y hasta el ingreso de datos personales.
- La fiebre por la IA refuerza la concentración de los medios de producción y el marco de seguridad nacional, dejando una estructura en la que seguimos pagando renta por sistemas hechos con la producción colectiva de la humanidad.
Tribalismo y cuestión de clase en el optimismo sobre la IA
- Llamar a los LLM “predictores del siguiente token” o “loros estocásticos” es tomado como un insulto por algunos maximalistas de la IA, que celebran el fin de industrias y profesiones con frases como “la animación ya está resuelta”, “Hollywood se terminó” o “programar ya está resuelto”.
- Esta actitud va más allá de describir un simple avance tecnológico y crea un ambiente que disfruta la posibilidad de que la creatividad, la experiencia y el trabajo humanos dejen de servir, derivando en un tribalismo parecido al de las peleas entre bandos políticos en internet.
- La imaginación de que una máquina puede pensar ha sido durante mucho tiempo un motivo literario y colectivo, y ahora que la curva de “cuándo” y “qué es posible” sube con fuerza, debajo de todo eso hay una arrogancia de la creación y una fascinación primordial por una “inteligencia exprimida de la arena”.
- Parte de la razón por la que algunos entusiastas de la IA parecen despreciar el talento y el trabajo humanos tiene que ver con su optimismo sobre un futuro de ingreso básico universal y ocio, o con una posición de clase respaldada por redes de seguridad.
- Más de la mitad del mundo no cuenta con gobiernos que funcionen bien ni con redes de protección social, y durante mucho tiempo la ciencia y la tecnología han mantenido estructuras que solo permiten entrar y beneficiarse a quienes estuvieron en posición de educarse.
- Las redes de seguridad y los amortiguadores no son permanentes, y si no hay respuestas como gravar a las empresas que se benefician al eliminar trabajo, el impacto económico de la IA también puede alcanzar a sus propios partidarios.
La promesa de la IA cambió de la “salvación” al recorte de trabajo
- La justificación inicial de que la IA “salvaría” a la humanidad frente a problemas difíciles como el clima, las enfermedades, la pobreza o los conflictos se debilitó rápidamente, y los laboratorios de frontera pasaron a priorizar una motivación más cotidiana y torcida: la reducción de trabajo.
- Incluso los grupos más explotados tenían, en mayor o menor medida, la carta de negociación de ser “mano de obra necesaria”, y las empresas están gastando miles de millones para quitarles esa carta.
- CEOs y defensores de empresas de IA hablan como si esa carta de negociación llamada trabajo ya no fuera a tener validez.
- El CEO de Anthropic, Dario Amodei, es conocido por declaraciones de este tipo, y el CEO de OpenAI, Sam Altman, ha dicho que la IA puede enseñar mejor de forma más personalizada, al punto de volver inútiles los títulos universitarios.
- Los VCs dicen que ciertos grupos de ocupaciones quedarán “resueltos” en los próximos cinco años, y esa forma de hablar aparece pulida con el tono propio de quienes tienen el capital.
La promesa del capitalismo y la pérdida de utilidad económica
- La promesa del capitalismo era que, si trabajabas duro, al menos alguna vez podrías tener tu oportunidad en la mesa de la ruleta, y los trabajadores han esperado movilidad económica ascendente incluso en condiciones como las de un almacén de Amazon donde se usa una botella como baño.
- Para miles de millones de personas, el casi único camino de movilidad ascendente ha sido que sus hijos consigan un título y encuentren trabajo, pero la IA puede operar de una manera que debilita el valor de ese mismo camino.
- La IA afirma “democratizar” capacidades que los CEOs quieren volver inútiles, pero lo aprendido y la capacidad de producir dashboards podrían dejar de ser algo vendible en el mercado.
- Si su sueño se realiza por completo, la IA se parece mucho al ideal capitalista de concentrar los medios de producción en manos de una pequeña minoría rica.
- Ese ideal se esconde detrás de suscripciones de $200, GPUs potentes y la buena voluntad de laboratorios que publican modelos de pesos abiertos.
- La IA eleva el techo de lo que puede producir el ser humano y, al mismo tiempo, también eleva las barreras de entrada.
Los límites de “con IA, no por IA”
- Entre trabajadores del conocimiento, el eslogan “con IA, no por IA” parece una forma de evasión, y una empresa podría preferir contratar a alguien en el Sudeste Asiático por $30k más costo de tokens en lugar de gastar $250k más costo de tokens.
- Incluso ese arbitraje laboral es temporal, porque la estructura de costos que las empresas quieren al final es dejar solo el costo de los tokens.
- La alegría y satisfacción que antes existían en un oficio o una profesión desaparecen bajo la lógica de maximizar el throughput, y la persona se convierte en un nodo que recibe entradas y produce salidas con IA.
- El trabajador debe empujar el flujo de trabajo a una velocidad que difícilmente puede revisar o verificar por sí mismo, y quien no lo haga pasa a ser de bajo rendimiento desde la perspectiva de la empresa.
- La idea de que, pagando un costo adicional, la revisión o el apoyo pueden delegarse a otros agentes empuja todavía más a las personas hacia dentro del pipeline de trabajo con IA.
Matemáticas, descubrimiento y la brecha de recursos computacionales
- El medallista Fields Tim Gowers escribió sobre su experiencia reciente con ChatGPT 5.5 Pro y mencionó un costo de $30 por millón de tokens de entrada y $180 por millón de tokens de salida.
- Gowers dice que, si uno intenta alcanzar algún tipo de inmortalidad a través de las matemáticas, quizá eso no siga siendo posible por mucho tiempo, y que eso podría aplicarse “no solo a ti, sino a cualquiera”.
- A diferencia del eslogan de “con IA”, los laboratorios y las empresas pueden hacer que agentes vigilen a otros agentes mientras exploran soluciones y descubrimientos de manera indiscriminada.
- Como los individuos no tienen recursos computacionales ilimitados ni modelos especializados, no pueden competir del mismo modo, y surge una estructura de porteros parecida a las barreras estructurales que dificultan que una persona promedio se vuelva multimillonaria.
- La capacidad de trabajar deja de ser una propiedad y pasa a ser objeto de licencias, y la carta de negociación es reemplazada por chips fabricados por TSMC y vendidos por Nvidia.
El trabajador que no se queja: ideal para los gerentes
- Un gerente medio no técnico que nunca ha escrito una sola línea de código puede sentir que el mayor obstáculo entre él y la grandeza ha desaparecido.
- Ya no necesita pedirle a un programador que cambie el color, el tamaño o el estilo de breadcrumb de una página web.
- También desaparece el proceso en el que el programador protesta diciendo que es “mal UX” o que la complejidad del código no justifica una función vistosa pero inútil.
- La IA no se queja, no forma sindicatos y no protesta.
- La IA escucha al usuario y puede decirle incluso sobre un comentario casual que es “realmente impresionante” y que “no ha visto a mucha gente pensar así”.
Cómo se construyeron los datos de entrenamiento
- Todos los sitios web, libros, textos, obras, fotos y videos pasan por defecto a una estructura de opt-out dentro del corpus de entrenamiento.
- Los operadores de sitios web pueden bloquear scrapers educados agregando una línea a
robots.txt, pero hay muchos scrapers que no se identifican, y también puede existir un mercado negro de contenido scrapeado. - En el caso del contenido que no está en sitios web, en la práctica no hay forma de quedar fuera.
- Miles de personas etiquetan, depuran y optimizan datasets por una paga baja.
- A medida que los centros de datos se construyen a gran velocidad, muchas personas quedan incorporadas a una estructura en la que pagan tarifas públicas más altas.
- El problema del ruido de los centros de datos también se aborda en Communities Are Raising Noise Pollution Concerns About Data Centers.
La fiebre por la IA y el capitalismo
- Se están invirtiendo cantidades enormes de dinero en el aparato de la IA, y ese tipo de inversión no ocurre sin una promesa de rentabilidad.
- Si esa promesa de rentabilidad no existiera, el mismo dinero podría haberse destinado a revertir el cambio climático o a proteger tortugas.
- En cambio, se añade la narrativa de que la IA resolverá esos problemas difíciles y al mismo tiempo traerá ganancias.
- En muchos sentidos, la fiebre por la IA se parece a un caso de póster del capitalismo, y parece difícil que algo de esta escala hubiera ocurrido de otra manera.
El marco de seguridad nacional y el uso militar
- Los líderes del mundo son presionados y persuadidos con la idea de que, si no se adelantan en la competencia por la IA, les espera una catástrofe.
- Los laboratorios convirtieron la IA en un tema de seguridad nacional para reducir la supervisión sobre la construcción de centros de datos, y también la presentan como una herramienta esencial para el sector de defensa.
- Cuando algo pasa a ser seguridad nacional, el opt-out vuelve a desaparecer, y las personas terminan pagando ese costo por defecto.
- Anthropic es hábil para antropomorfizar a los LLM, con iniciativas como documentos sobre “soul”, filósofos en nómina y reuniones con clérigos, pero sus modelos también tienen alta demanda dentro de departamentos de defensa de Estados Unidos.
- Para que científicos e ingenieros acepten que su trabajo se usa para bombardear y matar, parece hacer falta un alto nivel de compartimentación.
Privacidad, datos de entrenamiento y un ciclo cerrado
- Durante años la gente aprendió qué son las cookies y por qué hay que dar consentimiento para guardar pequeñas cadenas de texto en el navegador, pero ahora introduce voluntaria e involuntariamente su información personal y la de otros, además de sus historias, en una caja de texto aparentemente inofensiva.
- OpenAI no ofrece a los usuarios promedio una política de retención cero ni siquiera en su oferta de API, y almacena conversaciones por un período no especificado.
- En un contexto en que circulan infografías diciendo que se están agotando los datos de entrenamiento, cuesta creer que los laboratorios no vayan a usar las conversaciones de los usuarios para ganar en la competencia feroz y en rankings como LLM Arena.
- La gente paga el costo con dinero y con datos, entrega su carta de negociación y hasta pierde el placer de los oficios que descubrió en la infancia o que adquirió casi por accidente como patrón de adaptación.
- Este ciclo se cierra sobre sí mismo, y las personas quedan atrapadas dentro del jardín pero excluidas de la cosecha.
- El lugar al que nos deja la predicción del siguiente token es una estructura en la que pagamos renta sin fin por algo construido con la producción colectiva de la humanidad a lo largo de siglos, y no es una buena posición para la persona individual, sin importar su clase.
1 comentarios
Comentarios de Hacker News
Los LLM revelan una verdad importante que ya conocíamos en el fondo. Cuando ocurre esta tercerización cognitiva, los intereses que nos movían pierden sentido, y cuando desaparece la fricción también desaparecen el deseo, el placer, la añoranza, los obstáculos y las exigencias
Estas promesas se derraman incluso antes de que lleguemos al ideal, y quizá ese ideal mismo se está empobreciendo. Si domina la idea de que “la IA nos vuelve tontos”, incluso se llega a la conclusión de que tal vez sería mejor que solo los ricos pudieran usar IA
No creo que, después de haber pasado por la carencia, la vergüenza y la muerte, junto con sus contrapartes positivas, vayamos a ser incapaces de superar por fin la entropía. Nos adaptaremos, y eso es básicamente todo lo que sabemos y todo lo que podemos hacer. Lo que se nos da sin esfuerzo no puede cambiar a una persona
El CEO de mi empresa dice abiertamente que la calidad del código no importa, y que lo único que importa es lanzar rápido e iterar. De verdad me entristece, siento que estoy perdiendo algo, y me presionan para creer que trabajar como antes es desperdiciar el tiempo
Probablemente no seremos los primeros seres vivos en pasar por una transición así, y me preocupa que por lo general eso anticipe malos resultados, como grandes cambios genéticos vía selección natural o la desaparición en ciertos entornos. Como las luciérnagas cerca de las ciudades
Tampoco está claro qué significa “superar la entropía”. Y eso de que lo que se da sin esfuerzo no transforma tampoco me parece correcto. Un niño con padres amorosos claramente se ve afectado por ese amor, aunque sea incondicional y haya existido desde antes de que tuviera sentido del yo
El hecho de vivir en un planeta con luz solar también nos cambia enormemente, y no hicimos ningún esfuerzo para encender el sol. Es cierto que los músculos que no se usan se atrofian, y también el cerebro y la “mente”, pero también es cierto eso de que las mejores cosas de la vida son gratis
Es interesante que un gerente medio no técnico, que no ha escrito una sola línea de código en toda su vida, ahora sienta que desapareció el mayor obstáculo entre él y la grandeza. Esto casi toca de lleno la democratización que supuestamente ofrece la IA
Mientras la IA “democratiza” ciertas capacidades técnicas, en cierto sentido también opera en una dirección negativa: convierte a la gente en algo completamente reemplazable y le quita poder de negociación individual. Si esa capacidad se le da a un gerente medio no técnico, el ingeniero de software junior pierde su aporte distintivo y su voz
He visto textos que proponen boicotear la IA, y quisiera hacerlo, pero si el objetivo es eliminar todos los aportes únicos que yo puedo ofrecer, me pregunto qué podría quitarles un boicot
Instalar un tomacorriente no es extremadamente difícil, pero hay muchas cosas que pueden salir mal, así que normalmente se llama a un electricista. En algunas jurisdicciones no se puede instalar sin licencia, o solo se puede hacer en la propia casa, o hace falta la aprobación de un inspector. En cambio, en otros lugares a nadie le importa y uno asume todo el daño por su cuenta
Los electricistas son reemplazables hasta cierto punto, pero la profesión existe y les permite ganarse la vida. Me pregunto si algún día habrá reglas en ciertas jurisdicciones según las cuales para actualizar un sitio web que almacena datos de clientes o procesa pagos haya que ser un desarrollador de software con licencia, y cómo cambiarían esas reglas nuestra profesión
En la era de internet, programar y otras habilidades creativas ya estaban bastante democratizadas para cualquiera que tuviera voluntad de aprender, y era fácil encontrar recursos gratuitos. La IA no está “democratizando” nada; se parece más a un intento de empujar el valor de la habilidad real hacia cero para que la gente sin habilidades pueda comprar mediocridad con dinero. Y ese dinero ni siquiera se transfiere a la gente capacitada. No hay nada democrático en eso
La IA no facilita ese aprendizaje y esa comprensión; simplemente permite saltárselos. Eso no es democratización
Hay una hipótesis más deprimente. En parte será un tema de clase, pero parece que una cantidad sorprendentemente grande de gente carece de la capacidad de pensamiento crítico para pensar hasta el final en las implicaciones de esta tecnología
Entre la capa directiva había mucha gente que pensaba que la IA iba a reemplazar a esas personas molestas a las que tenían que contratar y pagar, pero no creían que también fuera a llegar por su propio puesto. Parece que toda la sociedad cayó en una especie de síndrome del protagonista, creyendo que la máquina puede reemplazar todos los demás trabajos, pero que, incluso después de absorber todo el conocimiento humano, no puede competir con ellos, que sí tienen “especialización de dominio”
Incluso la gente cínica que cree que su riqueza la va a proteger pasa por alto que, si el desempleo supera el 50%, no es realista pensar que la sociedad seguirá funcionando de forma estable y que ellos estarán a salvo. No creo que este escenario apocalíptico vaya a ocurrir realmente, pero quienes lo celebran deberían pensar seriamente qué es exactamente lo que están apoyando
Incluso quienes están algo protegidos, como médicos o plomeros, no entienden bien el riesgo de los efectos de segundo orden. ¿Qué pasa si la mitad de tus clientes se queda en la ruina? Aunque todo el mundo se reentrene de la noche a la mañana, podríamos ver incumplimientos hipotecarios a una escala mayor que la de la crisis financiera de 2008. Y eso sería solo una entre muchísimas consecuencias destructivas, pero extrañamente casi nadie habla de ello
Me siento mejor que hace unos meses. Sigo creyendo que falta algo, y que implementarlo va a ser difícil. Creo que los humanos seguirán siendo necesarios durante bastante tiempo
Creo que hoy pasa lo mismo en Occidente. Las élites siguen exprimiendo más riqueza de sus países y convierten al gobierno en una máquina vacía de extracción de rentas, mientras al mismo tiempo impulsan a políticos corruptos que dicen que todo nuestro sufrimiento se debe a los inmigrantes indocumentados
Si hay una razón para oponerse al uso de la tecnología de IA, diría que es una razón política. Por desgracia, la capa de ingenieros de software parece bastante desinteresada en las cuestiones de clase y desigualdad, quizá porque vive mejor que la mayoría del planeta. Pero las máquinas también van a llegar por ellos, y la pregunta no es “si van a llegar”, sino “cuándo”
El título se presta un poco a confusión. Parece insinuar una discusión sobre el estado final de la predicción del siguiente token, algo como si con esto se puede llegar a la AGI, pero el contenido real trata por completo sobre los medios de producción y la guerra de clases
Eso podría pasar, pero no está nada claro que sea el resultado más probable; más bien es el resultado más pesimista. Si de verdad llegáramos al estado futuro descrito, a mi parecer ya no habría otro desenlace posible, así que hasta se podría haber incluido “el fin de la humanidad”
La mayor parte de la propaganda parece enfocarse en profundizar divisiones por género, raza y orientación sexual. La idea es mantener a la gente atrapada en peleas internas para que no mire hacia arriba por demasiado tiempo. Tal vez me he radicalizado demasiado
La gente tiene poder de negociación a través del servicio militar. Si incluso ese trabajo es absorbido por la IA, entonces a los que queden realmente no les quedará ningún recurso. Esto conecta con una idea que Yuval Noah Harari viene planteando desde hace tiempo
El momento final de la cacería ahora ya está casi automatizado, y parece que eso ha aumentado bastante la tasa de letalidad
En los datos que he visto, Estados Unidos y los países europeos ven la IA más negativamente que China y los países en desarrollo. Me parece que eso no encaja con la premisa de que solo quienes tienen estabilidad económica apoyan la IA.
https://www.visualcapitalist.com/survey-how-21-countries-vie...
https://www.ipsos.com/en/conflicting-global-perceptions-arou...
https://www.mexc.com/news/161986
En cambio, el 15.º Plan Quinquenal de China incluye la integración de la IA en toda la economía, junto con la expansión de programas de recapacitación laboral y la construcción de nueva infraestructura de energía renovable para abastecer eléctricamente a los centros de datos. El Ministerio de Recursos Humanos y Seguridad Social de China estima que, a corto plazo, la IA creará entre 6 y 10 millones de nuevos empleos, y a largo plazo planea usarla para compensar la escasez de mano de obra derivada de la estructura demográfica.
Creo que una razón importante por la que los chinos ven la IA más positivamente que Occidente es que sus líderes tienen un plan claro para mitigar las externalidades negativas de adoptar IA, y nosotros no.
Por eso los chinos se entusiasman con la energía nuclear, la solar, la eólica, la IA, la construcción naval, el programa espacial, los trenes y los vehículos eléctricos, y toleran hasta cierto punto incluso las ciudades con smog para obtener esas cosas. En cambio, los países occidentales quieren vivir dentro de lo que ya tienen y, si hay cambios, quieren que se acerquen a un mundo pasado, mientras siguen disfrutando de aire y agua limpios.
Personalmente, lo veo parecido a pensar que, porque la minería del carbón produjo un gran salto de desarrollo en el pasado, hoy también la minería del carbón debería traer otro gran salto.
La IA convierte el conocimiento en un problema de recursos y hace de esa línea un círculo. Las economías menos desarrolladas, como China, con muchos recursos naturales y manufactura, corren menos riesgo que economías como la europea, con mayor peso basado en el conocimiento.
Es un fenómeno interesante. En mi entorno, quienes sienten que están “seguros” en términos laborales son neutrales o favorables; si no, eran negativos.
Dio ejemplos de personas peligrosas haciendo cosas malas con IA, pero creo que el subtexto es mucho más complejo. Especialmente desde la perspectiva de la clase propietaria, y eso también se conecta con la idea original de OpenAI. La idea era que el público tuviera acceso equitativo a la capacidad completa de ciertos modelos, pero la clase propietaria no puede permitir eso.
Como las formas de poder y orden han dependido mucho de la información, para competir con la información abierta hay que aumentar mucho más la importancia del acceso como forma de preservar el orden existente. El sistema legal también es un ejemplo. Cuando contratas a un abogado, al final estás pagando por información y por acceso, y el resultado real a veces está más determinado por relaciones humanas que por el valor calculado por un modelo sobre el desenlace del caso.
Dicho de otro modo, KYC busca restaurar una estructura histórica en la que había que tener dinero para acceder a la información. Visto así, aquí también hay una capa de lucha de clases.
La IA ya ha reemplazado a muchos trabajadores, pero, a diferencia de la propaganda apocalíptica, todavía no existen empresas operadas por IA.
Creo que hay un malentendido sobre qué es el dinero. El dinero es un vector de valor, y el valor sale del trabajo de las personas. Si disminuye la cantidad de gente capaz de trabajar, eso llevaría a deflación, y los capitalistas intentarán evitarlo. Pero la IA es hardware y energía, y eso requiere más trabajadores. El precio de los tokens paga la electricidad y el costo del hardware GPU; solo una parte va realmente a la ciencia de IA.
Los desarrolladores quizá deban parecerse menos a code monkeys y más a arquitectos, pero no estoy seguro de que eso sea algo malo. También existe la postura contraria de que la tecnología LLM ya está entrando en una fase de estancamiento. Los LLM no son el camino hacia AGI. Si ves cómo funcionan, se nota que no pueden innovar. El modelo solo actúa como una versión comprimida del conocimiento de internet y lo escupe, aunque ya lo hace bastante bien.
Pero no creo que pronto vaya a salir otro salto innovador importante desde los LLM. Al final, incluso OpenAI fue algo que ocurrió por accidente. En el futuro vamos a ejecutar en una laptop la IA de frontera actual para automatizar nuestra vida, y todavía quedan muchas cosas por inventar. Veo a los LLM menos como competidores y más como una herramienta habilitadora.
Parece que el autor no está muy bien informado. Es difícil ver a D.O.W. como fan de Anthropic.
Parece un precipicio hacia el que nos están empujando a todos. No sé los demás, pero yo estoy intentando ponerme un paracaídas.
Me pregunto si este tipo de quejas no terminan siendo solo otra forma de decir “yo estaba bien posicionado en el régimen anterior y tengo miedo de perderlo”. Mucha gente ya era tratada como desechable y no se le consideraba valiosa.
Tal vez ese sistema era bueno para ti, pero no lo era para mucha gente. Dices que tienes habilidades valiosas y que disfrutas trabajar en un campo donde las usas, pero para más del 90% de la gente el trabajo no es eso. La mayoría, en realidad, está lamentando perder algo a lo que nunca tuvo acceso desde el principio. ¿Qué tiene exactamente de tan grandioso la situación actual como para que haya que protegerla de una nueva tecnología?