- Explora filosófica y técnicamente el concepto de “inteligencia” en humanos e inteligencia artificial, y reexamina su definición y esencia
- Define la inteligencia no como una simple capacidad de cálculo, sino como la capacidad generalizada de adaptación al entorno y resolución de problemas
- Compara la inteligencia biológica y la inteligencia artificial, y presenta la comprensión del contexto y la orientación a objetivos como elementos clave
- Explica que el avance de la inteligencia artificial cumple una función de espejo que permite comprender más profundamente la esencia de la inteligencia humana
- Señala que esta discusión ofrece implicaciones importantes para replantear la dirección de la investigación en IA y la filosofía de diseño centrada en el ser humano
Definición y esencia de la inteligencia
- El texto no considera la inteligencia simplemente como procesamiento de información o capacidad de cálculo, sino que la define como una capacidad generalizada para adaptarse al entorno y alcanzar objetivos
- La inteligencia no es una técnica para resolver un problema específico, sino la flexibilidad para aprender y resolver problemas nuevos
- Por lo tanto, la inteligencia se describe no como una propiedad estática, sino como un proceso dinámico que cambia según la situación y el contexto
- Se sostiene que la inteligencia humana está profundamente conectada con la conciencia, las emociones y la interacción social, y que esto no puede reducirse a un simple cálculo algorítmico
- El pensamiento humano incluye establecimiento de metas, juicios de valor e inferencia basada en la experiencia
- Estos elementos se señalan como ámbitos que los sistemas actuales de inteligencia artificial tienen dificultades para imitar
Comparación entre inteligencia artificial e inteligencia biológica
- La inteligencia artificial realiza tareas específicas mediante aprendizaje de patrones basado en datos, mientras que los humanos resuelven problemas mediante comprensión contextual e interpretación del significado
- La IA aprende correlaciones estadísticas, pero los humanos reconocen relaciones causales y propósito
- Esta diferencia muestra que la esencia de la “inteligencia” reside más en la capacidad de construir significado que en la simple velocidad de procesamiento de información
- Mientras que la inteligencia biológica se formó bajo presiones evolutivas y fines de supervivencia, la inteligencia artificial opera según funciones objetivo diseñadas por los humanos
- Por ello, la “inteligencia” de la IA se define como una forma artificial subordinada a propósitos externos
- La inteligencia humana incluye una estructura de motivaciones intrínsecas como la autopreservación y la cooperación social
Componentes de la inteligencia y problemas de medición
- El texto presenta como componentes principales de la inteligencia el aprendizaje, el razonamiento, la memoria, la planificación y la creatividad
- Estos elementos interactúan entre sí y producen conducta adaptativa en determinados entornos
- Por ejemplo, la creatividad se explica como una expresión de alto nivel de la inteligencia que recombina conocimientos existentes para proponer soluciones nuevas
- También se señala la dificultad de medir la inteligencia
- El IQ o las pruebas de benchmark solo miden ciertos tipos de capacidad de resolución de problemas y no reflejan la naturaleza compleja de la inteligencia real
- Por lo tanto, para evaluar la inteligencia también deben considerarse la adaptabilidad contextual y la capacidad de generalización
Preguntas filosóficas planteadas por el avance de la inteligencia artificial
- El rápido avance de la inteligencia artificial vuelve a plantear la pregunta fundamental: “¿cuál es la esencia de la inteligencia?”
- Cuanto más la IA imita el lenguaje, la creación y el juicio humanos, mayor es la necesidad de investigar dónde reside la inteligencia propiamente humana
- Esto se expande más allá de un simple problema técnico hacia una cuestión ontológica y ética
- El texto explica que la IA cumple una función de espejo de la inteligencia humana
- A través de los límites y errores de la IA, es posible comprender con mayor claridad la estructura y las fortalezas del pensamiento humano
- Por ello, la investigación en IA se interpreta como un proceso de ampliación de la comprensión humana
Direcciones futuras de la investigación sobre la inteligencia
- Se enfatiza que la investigación futura sobre la inteligencia debe incluir diseño centrado en el ser humano y consideraciones éticas
- Además de los logros técnicos, también debe evaluarse el impacto de la inteligencia en la sociedad y en la vida humana
- Esto se vincula con el problema del “value alignment” de diseñar sistemas de IA que reflejen los valores y objetivos humanos
- Redefinir la inteligencia se presenta como un proceso para fortalecer la base filosófica del desarrollo de IA
- El avance tecnológico puede profundizar la comprensión de la inteligencia humana y convertirse en una oportunidad para reconstruir el significado de la inteligencia
- En última instancia, la investigación sobre la inteligencia debe avanzar hacia la exploración de la co-evolución entre humanos y máquinas
2 comentarios
Comentarios de Hacker News
Sentí que este libro necesitaba muchísimo un editor.
Hay como 100 títulos de capítulos que parecen haber sido inventados por asociación en medio de una alucinación, y cada sección se siente como un intento artístico de confundir al lector.
También tiene diagramas complejos y mucha jerga conectados solo de forma vaga con el contenido, y hasta scrolling hijacking, lo que hace que sea difícil de leer.
Si de verdad llega a 600 páginas, dudo que la mayoría lo lea de principio a fin.
O sea, una secuencia de hecho verificable → verdad evidente → opinión ampliamente aceptada → afirmación sin sustento → conclusión trillada para llevar al lector a asentir.
Este tipo de estructura suele ser una técnica de persuasión usada por líderes de cultos o oradores políticos, para meter con sutileza afirmaciones con poca base lógica.
La parte del libro sobre cibernética y teoría de la computación está bien investigada, pero no es original ni tiene una tesis integrada.
Al mezclar biología y cine, en realidad pierde foco.
El autor parece tener opiniones fuertes sobre la IA, pero en vez de argumentarlas directamente, intenta esconderlas dentro de un sándwich persuasivo.
Referencias relacionadas: Compliment Sandwich, artículo de History of Computing
No leí el libro completo, pero me parece que valdría más la pena leer la teoría de procesamiento predictivo de Karl Friston o Andy Clark.
El diseño de mi sitio es más cómodo para leer, claro, pero la estructura extraña de este libro me pareció parte de su encanto.
Últimamente, cuando veo textos de este estilo, me suenan a ambigüedad intencional o a un enfoque seudocientífico, así que los paso de largo.
En esta discusión no puede faltar 『Universal Artificial Intelligence』 de Marcus Hutter.
Este libro presenta una definición matemática de la inteligencia y las bases de la toma de decisiones basada en probabilidad algorítmica.
Incluso las limitaciones de la tecnología de IA actual pueden explicarse dentro de ese marco.
Me gustaría preguntar si alguien realmente leyó este libro.
Yo voy por la mitad, y me pareció interesante la idea de que la autorreplicación surge de manera natural en un universo computacional.
Tiene una vibra parecida a la cosmovisión de Wolfram, pero ese intento de conectar varios campos resulta estimulante.
Está bien como lectura de divulgación científica.
En especial, me quedó grabada la idea de que “la replicación empieza con una mala copia”.
Fue interesante el proceso por el cual un sistema al principio hace copias imperfectas y poco a poco mejora hasta lograr la replicación.
Creo que esta idea también se aplica a startups, ideas y sistemas financieros.
Además, la versión en línea del código brainfuck tiene un bug, por si alguien quiere buscarlo.
Creo que el significado surge del cambio de estado.
Los humanos somos generadores complejos de significado, y como el universo está atado a la entropía, tenemos un límite de tiempo.
Mientras tanto, nos veo como seres que emiten significado como las estrellas emiten luz.
No leí el libro directamente, pero el autor parece sostener que una gran parte de la inteligencia humana puede reproducirse con IA.
Es decir, desde esa perspectiva los sistemas no vivos también pueden mostrar conducta inteligente.
Pero la IA no tiene contexto corporal (embodiment), así que cuesta verla como una inteligencia igual a la humana.
Para entender el origen de la inteligencia humana, un buen punto de partida es 『A Dynamic Systems Approach to the Development of Cognition and Action** de Ester Thelen.
Explica que el desarrollo humano no ocurre por un programa genético, sino por la interacción de prueba y error.
Al final, creo que el arte del cuidado y la educación es lo que impulsa el avance de la civilización.
El calificativo ‘artificial’ ya establece la distinción.
Pero estos sistemas no tienen voluntad (will). Sus objetivos, al final, son solo la voluntad de sus programadores.
La actitud del autor de que “esto no es filosofía sino ciencia en la tradición de Turing” se siente como despreciar la filosofía fingiendo humildad.
La tesis central, “la imitación es inteligencia”, se puede refutar fácilmente con ejemplos sociales.
Por ejemplo, aunque un actor interprete a la perfección a un genio, eso no significa que realmente sea un genio.
O sea, generar frases plausibles no es la esencia de la inteligencia.
La inteligencia humana surge de razonamiento fundamental y reconocimiento sensorial de patrones, y eso sigue siendo un terreno al que la IA no ha llegado.
Como incluso una red neuronal simple es un aproximador universal (universal approximator), tanto un cerebro biológico como uno artificial podrían ser, al final, entidades que aproximan las funciones complejas del mundo.
La inteligencia no es solo aproximar entradas y salidas, sino la capacidad de aprender estructura causal, simularla y planificar.
Los LLM ya contienen conocimiento ampliado por la inteligencia humana, por eso parecen listos.
La verdadera pregunta es si pueden construir por sí mismos modelos causales.
Los LLM actuales son buenos para la interpolación (interpolation), pero débiles en la extrapolación (extrapolation).
La entrada sensorial llega con distintos ciclos y desde distintas ubicaciones, así que simplificar eso puede hacer que se pierda información importante.
En una entrevista que escuché hace tiempo, había una hipótesis según la cual el razonamiento (reasoning) humano evolucionó más para la persuasión social que para el pensamiento lógico.
Es decir, fabricamos razones para convencer a otros o justificar nuestra propia conducta.
En ese sentido, siento que la predicción del siguiente token de los LLM se parece a la estructura de la conversación humana.
Creo que era algo de Hugo Mercier.
Ver Why do humans reason?
Para fabricar herramientas y transmitir conocimiento se necesitaban educación y colaboración.
Cita relacionada: extracto de Cambridge
En cambio, los LLM no tratan conceptos, sino solo palabras.
El lenguaje es solo una herramienta creada por los humanos; las ideas y el lenguaje son cosas distintas.
Consistiría en ir aumentando la cantidad de palabras predictivas del autocompletado del smartphone y medir qué tan parecido se vuelve a una conversación humana.
Este libro trata sobre la centralidad de la predicción, la estructura social de la inteligencia, la función de compresión del lenguaje y los límites de los sistemas aislados.
Pero la cuestión clave es si la inteligencia real puede existir solo por principios computacionales puros o si necesita inmanencia ambiental.
Yo creo que el costo y la eficiencia impulsan todo aprendizaje.
Como los sistemas biológicos tienen que sostener a la siguiente generación, la inteligencia se vuelve un proceso de exploración optimizado por presiones económicas.
Texto relacionado: What the Dumpster Teaches
Medir la temperatura y apagarse no implica inferencia de objetivos.
La verdadera inteligencia tendría que tener una capa meta capaz de reflexionar sobre sus propios objetivos.
O sea, sí existe una presión de selección económica, así que no es una estructura completamente distinta.
A los humanos no nos gustan esas contradicciones, así que intentamos mantener coherencia mediante una historia (story).
La religión, la política, la ley, los mitos sobre la IA y demás son todos dispositivos narrativos para mitigar errores colectivos de predicción.
Pero los microorganismos sobreviven sin nada de eso.
Al final, la inteligencia no es más que un remolino inestable de información, y ni siquiera es indispensable para sostener la vida.
Si la conciencia es emergente, entonces una inteligencia basada en silicio también podría ser posible.
Según una reseña en Amazon,
la idea central del libro es la hipótesis del cerebro predictivo, es decir, que “el cerebro evolucionó para predecir el futuro”.
También sostiene que algunos sistemas modernos de IA podrían tener inteligencia, conciencia y libre albedrío.
Por lo tanto, definirlo por la ‘predicción’ sería solo una característica provisional que cambia con el tiempo.
La inteligencia es aquello que creemos que podemos hacer por nuestra cuenta.
Pero las computadoras cada vez pueden hacer más de eso.
Al final, la inteligencia humana quizá no sea más que matching de patrones de alto nivel.
Los LLM todavía no pueden hacer investigación autónoma ni diseño de alto nivel.
También les faltan la capacidad de olvidar y la gestión de su propio contexto.
Gran parte de la inteligencia humana también existe en otros animales, pero se aceleró gracias a la escritura y la fabricación de herramientas.
El matching de patrones ofrece una gran heurística: “las correlaciones tienen buenas probabilidades de ser causales”.
La inteligencia es la capacidad de hackear y entender sistemas, y a partir de eso acumular conocimiento cada vez más complejo.
Empezamos con fuego, piedra y trigo, y ahora estamos al nivel de hablar de exploración de Marte.