Desde la llegada de ChatGPT, han crecido las expectativas sobre la AGI, y la palabra superinteligencia ya no suena como algo de ciencia ficción. Pero el concepto de inteligencia sigue siendo difuso, y también es difícil hacerse una idea de hasta dónde puede elevarse.
Por eso quise plantear esta hipótesis. La inteligencia no es una cualidad que pueda aumentar indefinidamente. Es la hipótesis de que ningún sistema puede superar la inteligencia humana.
https://blog.naver.com/conanoc/224107260779
Me da curiosidad saber qué opinan.
21 comentarios
La velocidad del avance tecnológico fue proporcional al tamaño de la población.
A medida que aumentaba la producción de alimentos, el crecimiento de la población impulsaba la inteligencia total.
Sin embargo, desde cierto punto, la producción de alimentos dejó de traducirse en población, en inteligencia y en tecnología.
La inteligencia artificial es diferente.
Según el hardware producido y la cantidad de energía invertida, la cantidad total de inteligencia aumenta linealmente.
Conclusión: puede que el rendimiento de la inteligencia artificial tenga límites, pero su escalabilidad no los tiene.
Como ejemplo extremo, infinitos orangutanes son más inteligentes que una sola persona, al menos en términos de prueba y error e inteligencia total. Y si uno ve lo que pasa hoy en día, aunque todavía no pueda juzgar por sí sola, dentro del espacio que es internet la IA está mostrando capacidades casi omniscientes. Ya es más inteligente que un ser humano promedio.
No parece fácil sostener que una cantidad infinita de orangutanes sea más inteligente que una sola persona. Por muchos orangutanes que haya, no resolverían problemas que a nosotros nos interesen, así que, bajo la premisa de que "la inteligencia es la capacidad de resolver problemas", no alcanzan la inteligencia humana. Claro, también está el hecho de que somos nosotros quienes definimos cuál es ese "problema", así que podría decirse que los orangutanes tienen motivos para sentirse en desventaja.
Hasta cierto punto, sí coincido en que ChatGPT ya es más inteligente que los humanos. Para empezar, sabe muchísimo más que yo. Es un sabelotodo.
Pero, de nuevo, en términos de capacidad de resolución de problemas, a la IA todavía le faltan muchas cosas. Por eso se dice que aún no ha llegado al nivel de una AGI.
Dos personas, A y B, presentan un examen y obtienen 80 y 60 puntos, respectivamente. Podríamos decir que A es más lista, pero es ambiguo afirmar que tiene una inteligencia superior.
Si en el siguiente examen B estudia más y ahora A y B sacan 70 y 90 puntos, respectivamente, entonces tendríamos que decir que ahora B es más lista y que tiene mayor inteligencia.
Las personas pueden ampliar su conocimiento mediante el aprendizaje y, al igual que la IA, esa expansión del conocimiento no tiene un límite fijo.
De hecho, los humanos ya pueden almacenar conocimiento más allá de la capacidad del cerebro y de los límites de la memoria usando papel y dispositivos digitales, y además pueden seguir aprendiendo según lo necesiten.
La clave no está tanto en el conocimiento, sino en la capacidad de usarlo para resolver problemas.
Para resolver un problema, hay que encontrar o crear por cuenta propia conocimiento que todavía no está incluido en lo que ya sabemos y que tampoco puede obtenerse en otro lugar.
Y para comprobar si ese conocimiento es correcto y si realmente puede resolver el problema, necesariamente hay que usar herramientas externas. Ahí es donde aparece el problema de la escalabilidad.
Para lograr un nuevo descubrimiento en física, no basta con experimentos mentales. Tal vez haya que crear nuevas herramientas físicas, o quizá hacer diversos experimentos usando herramientas ya existentes.
Ahora mismo, para desarrollar un nuevo modelo de IA, no solo hace falta programar, también se necesita equipo físico como la infraestructura de entrenamiento, y si hace falta, comprar más GPU para ampliar la infraestructura existente.
No solo parece que estas tareas físicas seguirán necesitando apoyo humano durante mucho tiempo, sino que además inevitablemente terminaremos frente a esta pregunta: "Fuera de las tareas físicas que nosotros estamos respaldando, ¿de verdad hay otras tareas que la IA pueda hacer mejor?".
Antes que nada, esta suposición es imposible (bajo la premisa de que somos observadores/calculadores dentro de nuestro sistema físico interno) debido al principio de incertidumbre (véase el demonio de Laplace). Y, dado que en el manejo de la información los procesos irreversibles como el borrado o la inicialización implican un aumento de la entropía (principio de Landauer), al final las actividades de procesamiento de información como el aprendizaje o el cálculo tienen un límite superior en un sistema físico debido a las condiciones de energía, tiempo y calor.
Y si de todos modos comparamos al LLM con el cerebro, yo pensaría que es una forma en la que 1. se congela por completo el estado del cerebro humano para que sea imposible seguir aprendiendo o mejorándolo, 2. luego se eliminan todos los órganos sensoriales, y 3. se hace que solo reciba y emita secuencias en braille. Al final, visto desde afuera, ¿no sería imposible distinguir este cerebro de un LLM? Entonces, ¿ese cerebro no sería inteligente?
Lo que sostiene el texto presentado no parece ser más que una simple idea, y no me parece que dentro del texto se presenten mayores fundamentos que la respalden.
¿Hay alguna base para afirmar que incluso los modelos de IA del futuro simplemente no podrán superar las limitaciones actuales?
Nick Bostrom presentó en su libro "Superintelligence" tres formas de superinteligencia.
De estas, lo que menciona el texto que usted presentó parece limitarse a la superinteligencia cualitativa; pero incluso si la superinteligencia cualitativa fuera imposible, no hay fundamento para considerar imposibles la superinteligencia de velocidad y la superinteligencia colectiva.
Ya una gran cantidad de modelos de IA muestran resultados a velocidades incomparables con las humanas y, a nivel interno, están estructurados como Mixture-of-Experts.
Por lo tanto, si la tecnología de IA sigue avanzando, incluso si la profundidad del pensamiento individual se mantuviera al nivel humano, es razonable prever que la capacidad global que muestren superará a la humana en muchos aspectos.
Y también parece débil la base para afirmar que la superinteligencia cualitativa sería imposible.
Ya hace más de 10 años vimos llegar una era en la que la IA superó a los humanos en un dominio específico como el go. De ese modo, al menos en campos donde existe una respuesta definida, ya parece claro que es posible que las máquinas superen la capacidad humana.
No creo que, porque llegue la superinteligencia, vayan a aparecer "respuestas correctas" para problemas que no tienen una respuesta definida.
Por ejemplo, en dilemas éticos no hay una respuesta correcta fija, sino solo distintas prioridades de valores.
Aun así, sí creo que puede ayudar en la discusión relacionada con esos problemas. Por ejemplo, señalando aspectos en los que los humanos no habían pensado. Diría que eso incluso ya es posible hasta cierto punto ahora mismo.
Gracias por la buena opinión.
Mi suposición de que "probablemente no habrá una inteligencia que supere a la humana" sí se basa en la "naturaleza de la inteligencia".
Si divido la inteligencia en dos tipos, hacer bien lo que ya se conoce (tipo A) y buscar a tientas porque no se sabe (tipo B), creo que se vuelve más claro dónde está el límite.
El tipo A es el área en la que la IA actual destaca, y el área que solemos considerar inteligencia en un sentido estrecho. Como esto es más fácil (aunque durante mucho tiempo también fue difícil para la IA), su límite también parece claro. Es como cuando en un problema simple de matemáticas el límite es sacar 100 puntos.
El tipo B puede no parecer inteligencia, pero en realidad resolvemos problemas difíciles gracias a esa capacidad. Aunque no sabemos cómo crear una IA de nivel AGI, aun así avanzamos en su construcción. No es algo puramente accidental, como cuando Fleming descubrió la penicilina; más bien, buscamos la respuesta eligiendo dentro de un enorme espacio de posibilidades aquellas direcciones con mayor probabilidad de funcionar. Aquí el límite no parece tanto cualitativo como cuantitativo, y podría pensarse en la superinteligencia de velocidad o colectiva que mencionaste arriba. Como los problemas del mundo real no pueden resolverse solo con experimentos mentales, la velocidad tiene un límite. Es como en la avenida Gangnam-daero: por más rápido que sea un auto, es difícil que supere los 100 km/h.
Yo también creo que el caso de AlphaGo puede ser una referencia interesante. En este caso, yo lo veo como algo cuantitativo más que cualitativo. Fue un resultado posible porque alcanzó un nivel de patrones comparable al humano y además exploró mucho más rápido que una persona una cantidad muchísimo mayor de variantes.
Lo más interesante es que AlphaGo se entrenó con partidas humanas, pero luego AlphaZero excluyó las partidas humanas y se entrenó para encontrar por sí solo buenas jugadas; aun así, aunque obtuvo una puntuación más alta que AlphaGo, los patrones de go de AlphaZero son casi muy similares a los de los humanos. Es decir, las jugadas estándar no cambiaron mucho. Eso significa que los humanos ya habían encontrado jugadas casi óptimas. Ese sería el límite en el tipo A.
El criterio de comparación puede variar según la persona, pero en mi caso me gustaría evaluar que en go la IA y los humanos han llegado al mismo nivel. Un principiante de go y un profesional tienen habilidades cualitativamente distintas, pero la IA solo es un poco más rápida que un jugador profesional de go.
¿Eh? Aunque no sé mucho de Go, sí jugué ajedrez durante bastante tiempo, y esta parte es totalmente distinta de lo que había escuchado de la gente que jugaba Go.
¿Podría haber alguna fuente sobre este punto?
Yo tenía entendido que AlphaGo revisó jugadas que los humanos consideraban malas y las convirtió en nuevos joseki.
https://namu.wiki/w/3%EC%9D%98%203
En primer lugar, en el caso del go, parece que la propia idea de “evaluar que la IA y los humanos han alcanzado el mismo nivel” parte de una comprensión equivocada. La IA ya ha demostrado capacidades que superan a las humanas en el ámbito del go.
Actualmente, el jugador profesional con el rating más alto en el mundo del go es Shin Jin-seo 9 dan, con 3866 puntos. (https://www.goratings.org/ko/ referencia)
Sin embargo, en el caso de AlphaGo Zero (2017), el Elo rating publicado alcanza nada menos que 5185 puntos.
Como referencia, cuando hay una diferencia de 200 puntos en Elo rating, eso equivale aproximadamente a una diferencia de nivel en la que uno puede ganar tres de cada cuatro partidas; y con una diferencia de 1200 puntos, se dice que la probabilidad esperada de victoria llega al 99.9%.
La versión de AlphaGo que jugó contra Lee Sedol, ganando 4 de 5 partidas y perdiendo 1, tenía un Elo rating de 3739 puntos; y al enfrentar esa versión de AlphaGo contra AlphaGo Zero, AlphaGo Zero ganó por 100:0.
Por lo tanto, pensar que no hay una diferencia cualitativa aun cuando la diferencia de puntuación supera los 1300 puntos no sería simplemente ignorar la realidad.
Además, la afirmación de que incluso después de la llegada de la IA las joseki del go no cambiaron de manera significativa también puede verse como falsa con una simple búsqueda en Google.
Además, aunque el resultado del procesamiento de la IA haya salido de forma similar al de los humanos, eso no garantiza que la manera humana sea siempre la mejor posible.
Decir que la inteligencia humana está en la cima absoluta y que ya no hay más hacia dónde subir sería, en esencia, lo mismo que decir que la forma humana de aprender y resolver problemas es la mejor dentro de lo posible.
Pero, ¿realmente es así? La inteligencia humana fue moldeada por presiones evolutivas para resolver problemas de supervivencia y otros desafíos de cada etapa de la evolución, y por eso está llena de heurísticas y sesgos.
Por ahora también es cierto que la inteligencia artificial todavía no logra igualar esto por completo, pero eso no constituye una base para afirmar que la inteligencia artificial del futuro tampoco podrá superar a los humanos.
Por último, considero que precisamente “buscar a tientas porque no se sabe” es un área en la que las máquinas pueden hacerlo mucho mejor que los humanos. Al fin y al cabo, una máquina puede movilizar múltiples instancias y explorar en paralelo. De hecho, esto mismo ya se había demostrado al nivel de AlphaGo Zero que usted mencionó.
Aquí sí coincido en que en la adquisición de conocimiento, en experimentos científicos como los de física o química, surgirán cuellos de botella. Pero en campos donde esos cuellos de botella no existan o sean menores, el avance podría ser aún más rápido. Por ejemplo, áreas como las matemáticas o la programación.
Y hay ámbitos en los que incluso en los puntos donde aparecen cuellos de botella será posible avanzar mucho más rápido que ahora. (Como muestra AlphaFold) Se harán predicciones por adelantado mediante simulación para reducir la cantidad de experimentos reales necesarios, y se automatizarán los experimentos repetitivos usando robots.
Entonces, ¿no sería correcto predecir que la forma de superinteligencia colectiva/de velocidad que usted llamó “tipo B” ya superará a los humanos en ese terreno? Porque los límites humanos y los límites teóricos/físicos son, claramente, cosas distintas. Si se sostiene que “ser solo más rápido no es una mejora cualitativa”, entonces me parece que eso no sería más que mover la portería y desviar el punto de la discusión. Como los resultados reales que se obtendrán superarán claramente a los humanos, llegado ese punto ya será difícil sostener que “simplemente es más rápido”.
Más bien, parecería plausible la afirmación de que, como la inteligencia humana ha chocado con sus límites biológicos actuales, será difícil que aumente de forma significativa más allá del nivel presente.
Pero si se afirma de manera tajante que la inteligencia de las máquinas, limitada no por fronteras biológicas sino por límites físicos, tendrá una limitación cualitativa similar a la de los humanos, entonces creo que hace falta evidencia y lógica mucho más convincentes.
Para responder a las opiniones de las dos personas de abajo, creo que probablemente la cuestión está en cómo se va a evaluar. Como no propuse un criterio de evaluación, puede que desde el principio parezca una afirmación algo vaga.
Según mi criterio, no quisiera considerar como una diferencia de inteligencia la diferencia entre sacar 80 y 90 puntos en matemáticas, o entre tardar 1 hora y 30 minutos en resolver un problema. Si la diferencia es de ese nivel, creo que es mejor verlo como el mismo nivel de inteligencia. Incluso entre personas hay mucha variación, pero igual lo metemos todo bajo la etiqueta de "inteligencia humana". También los jugadores profesionales de go tienen niveles distintos y rankings Elo distintos, pero no decimos que jueguen un go de niveles completamente diferentes; en cambio, sí podemos decir que juegan a un nivel totalmente distinto al de un aficionado de nivel 10 kyu. Desde esta perspectiva, aunque AlphaZero siempre le gane a Lee Sedol, no es un go de otro nivel. (Si lo dijéramos así, entonces en el go habría que decir que dios, los humanos y la IA están en el mismo nivel. Eso sí, suponiendo que dios no pudiera jugar go a un nivel completamente distinto. Por ejemplo, que dios pudiera vencer a un humano incluso dándole 9 piedras de ventaja).
Respecto a mi afirmación de que "los joseki de go no cambiaron de manera drástica", responder que no es que no haya cambiado nada y que también aparecieron nuevos joseki da un poco la impresión de ser una "réplica por replicar", aunque bueno, esa también es la gracia del debate. Si no hubiera objeciones, el debate sería demasiado plano.
Además, creo que con solo distinguir entre diferencia cualitativa y velocidad ya podemos prever un poco mejor las perspectivas de la IA. Como mencioné antes, así como es difícil acelerar en Gangnam-daero, los problemas que realmente tenemos que resolver son entornos en los que es difícil ganar velocidad. Si la velocidad está limitada y la inteligencia es cualitativamente de un nivel similar, será difícil producir diferencias en los resultados. Claro, puede haber algunos ámbitos donde no exista un cuello de botella de velocidad, pero no creo que sean las matemáticas ni la programación, y en estas áreas primero haría falta una mejora del nivel cualitativo. (Pero mi argumento no es que la IA no vaya a alcanzar a los humanos).
Cuando una persona y una IA se enfrentan y una de las dos gana de forma abrumadora con una tasa de victorias superior al 99%, ¿cómo podría considerarse que están al mismo nivel? Eso equivale simplemente a decir que no hagamos ninguna distinción.
Decir que "en el baduk, un dios, una persona y una IA están al mismo nivel" parece como afirmar que, dado que un dios, una persona y una IA comparten las mismas reglas al jugar baduk, la habilidad de los tres es esencialmente equivalente. Pero compartir las mismas reglas y tener el mismo nivel de habilidad son cosas completamente distintas.
Si seguimos ese criterio, incluso cuando existe claramente una brecha empírica, según el criterio de esta persona se podría decir que están al mismo nivel, así que la discusión parece carecer por completo de sentido.
Si se revisa otro texto que esta persona publicó en su blog, parece que incluso las premisas desde las que acepta la evidencia son muy distintas de las mías.
Con una diferencia así, me parece difícil que pueda darse una discusión normal, así que yo lo dejo hasta aquí.
Ah jajajaja, como lo llamó réplica por replicar sin siquiera presentar fundamentos adicionales para su refutación, me quedé pensando: ¿qué es lo que quiere hacer? pero bueno...
De verdad, muchas gracias por adjuntar el enlace del blog. Yo también creo que hasta aquí lo dejo.
No sé, ya se notaba que no era una persona común para hablar, pero resulta que era quien ganó con teorías conspirativas en una apuesta sobre la conspiración del alunizaje.
Si hasta logra imponer una teoría conspirativa sobre el alunizaje, me pregunto si habrá algún tema de apuesta que sea imposible para esta persona.
Esto sí que me parece algo realmente inesperado; dijiste que lo dejarías hasta aquí, pero ¿podrías hablar un poco más al respecto?
Puede que sea porque no conoces mucho del go, pero ¿que hubiera habido algunas variaciones menores en los joseki existentes es distinto de decir que "los joseki del go no cambiaron mucho"?
Supongo que sabes que "mucho" y "para nada" no significan lo mismo, así que me da curiosidad en qué sentido pensaste "¿qué es lo que quiere decir?".
Entendí bien que hay una diferencia de perspectivas en cuanto a los criterios de evaluación. Como dijo, si se usa el criterio de que una inteligencia es mayor aunque obtenga aunque sea 1 punto más, yo también creo que la "hipótesis del continuo de la inteligencia" es falsa.
Gracias por su opinión.
La única manera de descubrir los límites de lo posible en alguna tarea es aventurarse, apenas un poco, en el terreno de lo imposible.
Es una opinión interesante. Una hipótesis es solo una hipótesis, y cada persona puede tener una opinión distinta. Parece extraño reaccionar reflejando una preferencia excesiva sobre la hipótesis, como diciendo: "no me gusta la hipótesis" o "la hipótesis me incomoda". En cambio, pensar simplemente que la hipótesis está equivocada, o responder algo como que cómo se podría saber, no tiene nada de raro porque es una opinión personal.
Ya que hiciste la pregunta, te respondo: para discutir esta hipótesis, necesariamente hay que pensar qué es exactamente la "inteligencia". La naturaleza de la inteligencia es ambigua. Todavía no tenemos una definición clara y consensuada sobre ella. Para la gente común y para los desarrolladores del campo de la IA, su naturaleza puede ser difusa, pero en el campo de la psicología cognitiva también se ha investigado mucho al respecto.
Las preguntas son un medio muy eficaz para encontrar respuestas, y una hipótesis también es una especie de pregunta.
Escribí eso en el blog, pero si dicen: "No entiendo de qué se trata. Tampoco me convence la hipótesis", entonces creo que ya no hay mucho más que yo pueda responder. Probablemente sea porque me falta habilidad para escribir.