- Los grandes modelos de lenguaje y el aprendizaje automático están reconfigurando la estructura social y transformando toda la vida humana, así como el automóvil cambió las ciudades
- La desinformación generada por IA y el contenido automatizado ya han penetrado profundamente en ámbitos cotidianos como las búsquedas, el correo electrónico y la atención al cliente
- Es necesario dejar de usar herramientas de IA y restaurar un pensamiento centrado en lo humano; hay que escribir por cuenta propia y pensar en lenguaje humano
- Las personas pueden ralentizar la expansión de esta tecnología mediante acciones concretas como rechazar la dependencia de la IA, formar sindicatos y exigir regulación política
- Estas decisiones pueden conducir a mitigar efectos legales y sociales adversos y asegurar una paz ética; si resulta ser un juicio equivocado, siempre se puede empezar de nuevo
Elecciones después de la era de la inteligencia artificial
- Se compara el impacto del desarrollo de los grandes modelos de lenguaje (LLM) y el aprendizaje automático (ML) en toda la sociedad con los cambios históricos provocados por el automóvil
- Así como el automóvil transformó de raíz la estructura urbana, el transporte, el medio ambiente y las relaciones sociales, también se plantea que la inteligencia artificial podría reconfigurar la vida humana y la estructura industrial
- El foco no está en la velocidad o la comodidad de la tecnología, sino en cómo cambiarán la forma de las ciudades y la vida humana
- La desinformación basada en IA y el contenido automatizado ya se han infiltrado profundamente en la vida cotidiana
- En resultados de búsqueda, atención al cliente, correos electrónicos y sitios web se está propagando información inexacta o falsa generada por LLM
- El aumento del consumo eléctrico de los centros de datos provoca subidas en las tarifas y una carga ambiental
- También se está extendiendo el fenómeno de delegar a la IA el trabajo personal, el arte e incluso las relaciones humanas
- Se enfatiza la necesidad de dejar de usar herramientas de IA
- La asistencia de ML debilita la capacidad humana de aprendizaje y de pensamiento teórico, y hace perder la ‘metis’ de James C. Scott (conocimiento práctico experto)
- Hay que escribir por cuenta propia, resolver los problemas directamente y mantener el pensamiento a través de la conversación con otras personas
- Se recomienda minimizar el consumo de productos generados por IA y buscar contenido hecho por humanos
- Se proponen acciones prácticas que pueden tomar individuos y sociedad
- Se exhorta a escribir con el propio lenguaje y no depender de productos generados por IA
- Se propone resistir la imposición de la IA en el trabajo, formar sindicatos y exigir regulación política
- También se plantean acciones concretas como reforzar la responsabilidad de las empresas de IA por sus emisiones de carbono y digitales, oponerse a exenciones fiscales para centros de datos y considerar renunciar por motivos éticos
- Aunque esta resistencia no detenga por completo el avance de la IA, sí puede ralentizarlo
- Puede dar tiempo a que la tecnología, la industria y los gobiernos se adapten, y mitigar efectos legales y sociales adversos
- También permitiría margen para responder a problemas como material de abuso sexual infantil generado por IA (CSAM), fraudes y vulnerabilidades de seguridad
- El texto concluye que, mediante decisiones éticas, puede lograrse paz de conciencia y que, si fue una decisión equivocada, “siempre se puede volver a construir después”
Y aun así queda la tentación
- El rechazo hacia la IA y la tentación práctica coexisten al mismo tiempo
- Como ejemplo, se menciona la posibilidad de usar generación de código con LLM para controlar luces que cambian de color
- En situaciones limitadas donde el riesgo de seguridad es bajo y el resultado puede verificarse directamente, se reconoce la utilidad de usar IA
- Sin embargo, el texto cierra con la pregunta “¿qué daño podría hacer?”, dejando al descubierto los límites del uso de IA y su propia contradicción interna
Proceso de escritura
- Este texto fue escrito manualmente en Vim, maquetado con Pandoc y corregido dos veces en papel
- El borrador fue compartido con amistades para recibir comentarios, y se aclara que todos los errores y opiniones son responsabilidad exclusiva del autor
- Se subraya que todo el proceso de escritura y edición fue realizado por manos humanas, sin ayuda de IA
1 comentarios
Opiniones en Hacker News
Siento que capacidades clave como leer, pensar y escribir están entrando en el ámbito de influencia de los grandes modelos de lenguaje
Durante la mayor parte de la vida de la humanidad, estas capacidades fueron habilidades valiosas que permitían el ascenso social
Pero históricamente, antes de 1800, estas capacidades no eran muy útiles para un agricultor
Recién después de la Segunda Guerra Mundial los empleos para la “gente inteligente” empezaron a superar la demanda, y ese fue la edad de oro de la movilidad social
Antes de eso, factores como la fortaleza física, la honestidad, el linaje y el orden de nacimiento eran más importantes
Si llega una era en la que la IA piense por nosotros, quizá esos valores vuelvan a ocupar el centro
No hace falta volver a tomar la primogenitura o la discriminación de género como “valores centrales”
La época en la que la “inteligencia” era algo escaso no fue una rareza, sino más bien el resultado del desarrollo humano
No somos prisioneros de la historia, ni tenemos por qué volver a quedar bajo una minoría de gobernantes con centros de datos o sistemas operativos
Incluso un agricultor inteligente podía manejar una granja más eficiente gracias a esas habilidades
Incluso modelos con billones de parámetros ni siquiera distinguen bien entre izquierda y derecha
El pensamiento humano no ha terminado; igual que la máquina de vapor no acabó por completo con la era del caballo, aún falta mucho camino
Incluso después del inicio de la agricultura, la planificación y la gestión de recursos siempre fueron importantes
Pero la idea de que el siglo XIX era el estado normal de la humanidad resulta extraña
También es un salto demasiado grande explicar el cambio social en función de si existen o no “nerds ricos”
Los textos de Kyle forman una serie que realmente vale la pena leer
Me llamó la atención la comparación entre la introducción del automóvil y la expansión de la IA
Que una tecnología sea útil no significa que solo tenga un impacto positivo en la sociedad
Yo creo que los LLM deberían usarse solo en entornos limitados, donde los riesgos puedan controlarse
En los años 20, más que decir “no usen autos”, hacía falta una actitud orientada a prever los efectos negativos y mitigarlos con políticas
Expertos que entiendan los límites de la tecnología deben intervenir con responsabilidad
Se parece a los intentos de prohibir los smartphones en las escuelas para recuperar la interacción humana espontánea
En vez de frenar la tecnología, hay que enseñar a la gente
El avance de la IA también puede aplicarse a simulaciones físicas, plegamiento de proteínas y más
Siento que esta tecnología está perfectamente ajustada al 0.001% de la élite
Para ellos, la caída demográfica y el control social incluso resultan convenientes
Si uno no tiene responsabilidad con las futuras generaciones, puede limitarse a pensar en su supervivencia personal, pero si sí la tiene, hace falta una revolución global
Decir que va a reemplazar a los humanos es una exageración, y la automatización más bien terminará creando nuevos empleos
Cuando los CEO hablan de reemplazar trabajo humano, es una excusa para justificar despidos
El problema es que demasiada gente ama la IA
Quienes tienen empleos estables deberían ser los primeros en actuar
Me recuerda al final de 『In the Beginning Was the Command Line』 de Neal Stephenson
Un mundo donde la vida se ofrece por defecto como si fuera un sistema operativo, y la gente solo tiene que apretar el botón “LIVE”
Si alguien se queja, solo escucha como respuesta: “mejorará en la próxima actualización”
Al final, un verdadero ingeniero dirá esto: “la vida es compleja por naturaleza y hay que tomar las decisiones uno mismo”
Aquí va un resumen de los textos principales de esta serie
Por la regla de HN de evitar repeticiones, normalmente las series reciben menos peso, pero esta vez fue una excepción
Por ejemplo, en una serie sobre restauración de máquinas antiguas, cada entrega podría tratar un tema totalmente distinto
Hacer predicciones tajantes sobre el futuro solo es una forma de calmar el miedo
Nadie sabe hacia dónde va la IA
No sabemos si será como el automóvil o si irá por un camino completamente distinto
Por eso, afirmaciones como “los ingenieros de Anthropic deberían renunciar de inmediato” son un juicio apresurado
Cuando recuerdo mi época universitaria, veo que la memoria muscular y la profundidad teórica que obtuve mediante prueba y error son lo que me convirtió en quien soy hoy
Si fuera universitario ahora, me sería muy difícil resistir la tentación de usar LLM
Entre entregas, exámenes y tiempo con amigos, al final terminaría usando IA
Se superponen el deterioro climático, la desigualdad económica, la desconfianza en las instituciones y la inseguridad laboral por culpa de la IA
Cuando mi hija piensa en qué carrera estudiar, no puedo darle ningún consejo con verdadera seguridad
En el momento en que la IA lo hace por ti, desaparece ese aprendizaje experiencial
Solo con el contexto acumulado al soportar la dificultad se pueden entender bien las respuestas de la IA
Miles de horas de trabajo manual me dieron una intuición natural para el código
A la nueva generación le será difícil reemplazar eso con IA
Se crean incentivos donde quien intenta aprender a fondo termina quedando atrás en la competencia
Está claro que la estructura social va a cambiar, pero siento que en la práctica es difícil elegir no participar
Si no usas IA, te quedas atrás, y RR. HH. exige experiencia
¿Quién va a elegir algo que le perjudica personalmente?
Podríamos llegar a la AGI con un solo gran avance tecnológico
Por ejemplo, si se descubrieran superconductores a temperatura ambiente, serían posibles chips a velocidad THz y baterías de carga instantánea
La IA está ahora en una etapa a punto de explotar, como las computadoras en los años 80
En los últimos seis meses yo también me volví completamente optimista
Si la tecnología sigue avanzando, no va a quedar ni un solo empleo seguro
Si ya se pudieran fabricar esos chips con superconductores enfriados, ya se habría hecho hace tiempo
El autor dice que no va a usar LLM, pero eso es porque tiene la capacidad de hacerlo
La mayoría de la gente no puede
Ya hay muchos desarrolladores que ni siquiera escriben tests, y para ellos la IA es un medio de supervivencia
No tienen tiempo para volver a aprender los fundamentos y además seguir la tendencia de los LLM
Al final llegará una época en la que habrá más “brujos” que verdaderos ingenieros
Las nuevas generaciones de desarrolladores también terminarán aprendiendo a crear software de alto rendimiento para ganar en la competencia
Ya sea que programen con IA o no, si el resultado es bueno, eso es habilidad
La humanidad siempre ha caído en el pesimismo apocalíptico, pero al final siempre ha sabido adaptarse bien