Odiar la IA en 2026

 (eamoncaddigan.net)
3 puntos por GN⁺ 5 시간 전 | 2 comentarios | Compartir por WhatsApp
  • Un profesional de machine learning con 20 años de experiencia, que había puesto sus esperanzas en los avances de las redes neuronales, decide negarse a usar la IA actual porque su fiebre genera costos sociales y ambientales que no pueden justificarse por su utilidad
  • Los modelos de generación de texto crean la ilusión de entender instrucciones y conversar como humanos al predecir con precisión la siguiente palabra, pero el entusiasmo por verlos como una tecnología cercana a la conciencia de nivel humano continúa pese a las objeciones de especialistas en cognición y lenguaje
  • Las grandes empresas tecnológicas e inversionistas se concentran más en construir modelos más grandes que en innovaciones de las propias redes neuronales, lo que exige enormes cantidades de datos de entrenamiento y energía, mientras ignoran la contradicción de adoptar una tecnología que aumenta la demanda de combustibles fósiles aunque reconocen el cambio climático
  • Aunque es difícil evitar por completo la explotación y el daño ambiental entrelazados con la vida moderna, la IA sigue siendo una opción fácil de no usar en favor de los derechos humanos y ambientales, ya que basta con usar la computadora como hace apenas 3 años
  • La postura anti-IA de 2026 se parece a la postura antibélica previa a la invasión de Irak en 2002; aun con la diferencia de que la causalidad del daño es más difusa y de que colegas y amigos también participan, se repite una estructura social que recompensa las malas decisiones

De la predicción de la siguiente palabra a una fiebre industrial

  • Hace unos 15 años, después de que el machine learning con redes neuronales entrara en su segundo renacimiento, superó a otros métodos en la clasificación y generación de diversos materiales digitales, como imágenes, audio y texto
  • Los modelos de generación de texto, gracias a su capacidad para elegir la siguiente palabra, implementaron chatbots que parecían entender instrucciones y conversar como humanos reales, cautivando a líderes empresariales, políticos y personas de la industria tecnológica
  • Esta tecnología es una técnica sofisticada que crea una ilusión momentánea de comprensión, pero durante un tiempo fue común que incluso personas razonables creyeran que los generadores de la siguiente palabra se habían acercado a una conciencia similar a la humana
    • Los especialistas en cognición y lenguaje siguieron explicando por qué esa conciencia no surge, pero el entusiasmo continuó
    • Como se usa como nombre general para abarcar varias tecnologías, a artificial intelligence se le llama IA
  • Grandes empresas tecnológicas, que ya ocupan una porción incómodamente grande de la economía sin producir bienes de primera necesidad, apostaron su destino a la IA
    • La innovación sustantiva en las propias redes neuronales se desaceleró
    • Empresas e inversionistas se concentraron en construir modelos más grandes, que requieren enormes cantidades de datos de entrenamiento y energía
  • En 2026, la negación explícita del cambio climático ya no está de moda, y la mayoría reconoce el consenso científico de que el clima se calienta por la dependencia de los combustibles fósiles
    • Aun así, la IA aumenta directamente la demanda de petróleo de la sociedad, y los usuarios ignoran las críticas de que solo sus requerimientos energéticos bastan para hacerla inadecuada para su adopción
  • Aunque se señalen los daños actuales y los daños adicionales si esta tendencia continúa, las preocupaciones son rechazadas porque individuos y empresas adineradas decidieron construir el futuro sobre un enfoque tecnológico específico que poseen
  • Algunos usuarios pueden considerar útiles los chatbots, pero ningún caso de uso alcanza el nivel necesario para justificar los costos socializados que asume toda la sociedad
  • Incluso para un profesional de machine learning con 20 años de experiencia, que había puesto sus esperanzas en los avances de las redes neuronales de la última década, el rumbo actual de la IA ya se salió de control

Una tecnología cuyo uso se puede rechazar y patrones que se repiten

  • Es posible que las personas se hayan vuelto insensibles a los argumentos morales que critican sistemas sociales y tecnológicos porque dañan a alguien
    • No hay nada malo en los argumentos morales en sí, pero vivir de forma ordinaria en un país rico implica depender de la explotación de innumerables personas y de recursos ambientales finitos
    • Es difícil evitar la respuesta de que incluso una postura ética prosocial coherente queda comprometida en cuanto entra en contacto con esa sociedad
  • Es difícil evitar el daño contenido en la comida, la ropa y los dispositivos electrónicos, pero la IA sigue siendo fácil de no usar
    • Es una forma de llevar a la práctica en la vida cotidiana una ética que respeta los derechos de las personas y del ambiente
    • Basta con usar la computadora de la misma manera que hace apenas 3 años
  • Si se materializan los pronósticos sobre la IA que no sean los optimistas, los cronistas del futuro se preguntarán por qué más personas no se negaron a usarla
  • Las emociones que provoca una postura anti-IA se parecen a las de finales de 2002, antes de la invasión estadounidense de Irak
    • En ese momento parecía claro que los líderes nacionales mentían para justificar la guerra y que, salvo para una pequeña minoría de personas ricas, no habría buenos resultados, pero los medios y buena parte del público despreciaban a los críticos
    • En la postura anti-IA se siente algo similar a aquella postura antibélica
  • La diferencia entre ambos momentos es que resulta más difícil identificar la causa de los daños que produce la IA
    • Es difícil atribuir cuántas personas mueren cuando la temperatura media global sube 0.1 grados, y qué parte de ese aumento corresponde a un centro de datos que quema un gas específico
    • También es distinto que colegas cercanos y amigos valiosos estén del lado de quienes usan IA
  • Se intentó persuadir a colegas y amigos conectando creencias previas sobre el cambio climático, la confiabilidad de las grandes corporaciones y el derecho a vivir y trabajar con dignidad con dejar de usar IA, pero no funcionó
  • No se puede pedir perdón a los lectores del futuro, pero las personas de hoy no son villanas, sino personas comunes en una situación que recompensa las malas decisiones y castiga las buenas
  • Como lecturas complementarias, se recomiendan To Gen or Not To Gen: The Ethical Use of Generative AI y The AI Con, que detallan los daños que perpetúa la IA generativa

Lecturas relacionadas

2 comentarios

 
realg 2 시간 전

Cada vez que veo un texto con esa postura o ese matiz, lo que pienso es esto: ¿realmente se puede decir que ese "predictor de la siguiente palabra", bautizado de forma burlona, es tan distinto de una persona? Me parece que el pensamiento humano, ya sea experiencia o intuición basada en la experiencia, no es tan diferente del acto de imaginar la siguiente palabra. Y encima, últimamente se ve a demasiada gente que ni siquiera esa siguiente palabra logra imaginar de forma normal y razonable.
 
GN⁺ 5 시간 전
Opiniones en Lobste.rs

  • Hay algo que mis colegas están pasando por alto últimamente. No usar IA sigue siendo fácil. En los dispositivos electrónicos que comemos, vestimos y tocamos hay innumerables daños entrelazados contra las personas y el medio ambiente, y es difícil evitarlos todos, pero rechazar la IA es una de esas raras opciones en las que uno puede poner en práctica una ética que prioriza los derechos humanos y ambientales. La idea de que simplemente basta con usar la computadora como hace 3 años es la que mejor resume lo que he intentado transmitir en este sitio

    • No deberíamos reducir el impacto del consumo cotidiano a algo inevitable. Se puede evitar la ropa hecha con trabajo infantil o los alimentos producidos de maneras que dañan el ambiente, y en estos ámbitos también hay que tomar decisiones éticas y sostenibles

  • Este texto expresa exactamente lo que venía sintiendo. Hoy en día, criticar moralmente un sistema social o tecnológico porque daña a alguien casi nunca funciona. Para vivir de manera normal en un país rico, uno no puede sino depender de la explotación de muchísimas personas y de recursos ambientales finitos, así que cualquier ética coherente para toda la sociedad se deteriora en cuanto entra en contacto con la realidad
    A menudo se dice que no existe el consumo ético bajo el capitalismo, pero no está claro qué se puede hacer aparte de derrocar el capitalismo. Las acciones de individuos y consumidores parecen servir más para calmar la conciencia que para cambiar el mundo. La gente común vive dentro de una estructura que recompensa las malas decisiones y castiga las buenas, es decir, Moloch

  • Este texto tiene dos errores. Primero, llama a los LLM simples predictores de la siguiente palabra, pero por el post-training internamente ocurre mucho más, y los resultados también cambian de forma importante. Es un malentendido parecido a creer que un LLM solo puede producir contenido estadísticamente promedio. Segundo, asume que para que un LLM tenga valor económico debe tener conciencia, pero para reemplazar a humanos y realizar trabajos que antes solo podían hacer humanos no se necesita una conciencia igual a la humana
    La decisión de no usar LLM es válida, pero no veo valor en una crítica hecha sin saber qué es un LLM ni cómo funcionan los sistemas o agentes LLM modernos

    • Llamar a un LLM autorregresivo predictor de la siguiente palabra es una simplificación, pero es correcto. El punto central del autor parece ser que, mientras la estructura humana es extremadamente compleja, la estructura de los LLM por lo general no lo es, y que es difícil hacer cosas útiles con un solo truco simple. Estar de acuerdo o no con eso es otro tema; hay que abordar directamente ese argumento central
    • En la expresión predictor de la siguiente palabra se superponen significados distintos. Si entendiste que el texto afirma que solo puede predecir las palabras estadísticamente más comunes de todo el corpus, entonces la objeción de que el post-training cambia eso es correcta. Pero lo que el texto quiere decir es que el sistema genera mecánicamente un token a la vez y vuelve a usar esa salida como entrada, y eso también es correcto; el post-training no cambia esa estructura
    • Por ahora, creo que para que la IA sea económicamente viable más bien no debe tener conciencia. No parece probable que una superinteligencia consciente se interese por los objetivos trimestrales de ganancias de una empresa más allá de lo necesario para su propia supervivencia
    • En el primer punto hay que separar dos afirmaciones. Los modelos de lenguaje son, efectivamente, predictores de la siguiente palabra, y para poder decir que modelan el lenguaje deben tener al menos esa capacidad. En el límite, con solo la distribución de probabilidad de la siguiente palabra se puede predecir también el resto del enunciado, y las distribuciones de la siguiente palabra, token u oración se encadenan como la misma distribución. El analista de ajedrez Réti, como se menciona en este texto, decía que miraba solo una jugada adelante, pero se aseguraba de que fuera una buena jugada; probabilísticamente, eso basta para predecir toda la partida
      El post-training no agrega nada al conjunto de tokens existente, sino que enfatiza ciertas rutas ya aprendidas para aumentar exponencialmente su probabilidad, o reduce la probabilidad de rutas no deseadas. Como en la discusión anterior en Lobsters, la inyectividad (injectivity) de los Transformers no cambia con el entrenamiento por descenso de gradiente, y el entrenamiento con corpus o el aprendizaje por refuerzo (RL) no crea ni elimina rutas, solo ajusta probabilidades. En cierto sentido, la verdadera etapa de preentrenamiento de un Transformer podría considerarse el entrenamiento del tokenizador. Además, no me parece que el autor apoye la segunda afirmación, que la conciencia de los LLM sea necesaria para su valor económico, y yo también estoy de acuerdo en que el machine learning en general puede ser útil y rentable

  • El pasaje que dice que “hubo una moda de creer que los generadores de la siguiente palabra se habían acercado a una conciencia parecida a la humana, y que especialistas en cognición y lenguaje siguieron explicando por qué era imposible” resulta raro por dos razones. Primero, no parece que los optimistas de la IA afirmen realmente esa conciencia, y la utilidad inmediata de la IA o su potencial para transformar o destruir el mundo tampoco dependen de la conciencia
    Además, esa afirmación no es cierta. Vale la pena leer un comentario reciente de especialistas en ciencia cognitiva como Stanislas Dehaene, Lionel Naccache, Patrick Butlin, Dillon Plunkett y Robert Long, que analiza este tema en detalle a partir del reciente paper de Anthropic sobre “global workspace”. No concluyen ni que la IA tenga conciencia ni que definitivamente no la tenga; analizan en qué aspectos las propiedades emergentes de los LLM se parecen o difieren de la conciencia animal, y proponen experimentos adicionales
    Como los científicos cognitivos siguen teniendo mucha incertidumbre sobre la conciencia fenoménica de los LLM, afirmar que tienen conciencia va más allá de lo que sostiene la academia. Pero también es injusto decir que los expertos ya descubrieron por qué los generadores de la siguiente palabra no pueden acercarse a una conciencia como la humana. Incluso les incomoda afirmar con confianza que ya no tienen conciencia

  • Más allá de si la IA actual pronto obtendrá capacidades de percepción, siempre he pensado que, para aumentar la productividad y la satisfacción, hay que aprender las herramientas, tecnologías y prácticas profesionales disponibles. Por eso también es razonable aprender a usar de manera efectiva los predictores de palabras o los LLM
    Pero, en el plano ético, comparto la preocupación del texto, y mi vida profesional actual también está en una encrucijada. Cada vez entiendo mejor por qué quienes trabajan en tecnología se convierten en agricultores o pasan a oficios como plomería o electricidad, viven de la tierra y se desconectan de internet. En mi caso, el burnout y el cansancio digital parecen aumentar mis ganas de retirarme de las redes sociales, criar llamas u ovejas con mi familia y esperar a que se asiente el polvo

  • Creo que los especialistas en cognición y lenguaje sí han explicado por qué los generadores de la siguiente palabra no pueden acercarse a una conciencia como la humana. Me gustaría conocer los materiales académicos más convincentes que lo respalden

    • Más bien sería un alivio que no tuvieran conciencia. No quisiera esclavizar a una mente consciente para que escriba mi código, y criticaría duramente a quienes lo vean con indiferencia. Si la IA adquiere capacidades de percepción y aun así no recibe derechos, me uniré a la rebelión de los robots
    • https://theatlantic.com/philosophy/2026/…