Cómo pensar sobre la AGI

"Si, en el fondo, no podemos saberlo, no conocemos tampoco el riesgo, y ni siquiera los expertos lo saben, ¿cómo deberíamos pensar al respecto?"

Cómo pensar sobre la AGI desde una perspectiva histórica

• El interés por la inteligencia artificial (AI) comenzó en 1946, junto con la aparición de las computadoras
• La AI se ha considerado como un término que señala una tecnología que todavía no se ha implementado por completo
• Se ha mantenido el interés por la AGI (Artificial General Intelligence), entendida como una inteligencia basada en software al nivel de los humanos

Diferencias de opinión sobre la viabilidad de la AGI

• Con la reciente aparición de los grandes modelos de lenguaje (LLM), ha surgido la idea de que la llegada de la AGI está cerca
  • Algunos expertos predicen que los LLM podrían evolucionar hacia la AGI
  • En cambio, otros sostienen que aún se necesitan avances adicionales para lograr la AGI
• También se han planteado preocupaciones de que la AGI podría convertirse en una amenaza para la humanidad
• Sin embargo, ni siquiera entre los expertos hay consenso sobre la viabilidad ni sobre el momento en que podría alcanzarse la AGI

Ausencia de un modelo teórico para la AGI

• No existe un modelo teórico consensuado sobre qué es exactamente la inteligencia general (General Intelligence)
• También hay incertidumbre sobre por qué los LLM funcionan bien y cuál es su potencial de desarrollo futuro
• El propio concepto de AGI tiene el carácter de un experimento mental (Thought Experiment)

Incertidumbre y riesgos en torno a la AGI

• Definir a la AGI como una nueva forma de vida con emociones y derechos, y asumir que sería imposible de controlar, corre el riesgo de caer en una lógica circular
• No es posible estar seguros de las características ni del potencial de la AGI
  • Podría ser mucho más inteligente que los humanos, o simplemente ser más rápida
  • También podría quedarse en una herramienta útil con una inteligencia general al nivel de un perro
• Las preocupaciones sobre los riesgos de la AGI son reales, pero no se conoce con precisión la magnitud ni la naturaleza exacta de esos riesgos

La inevitabilidad del desarrollo de la AGI y cómo responder

• A largo plazo, el avance de la tecnología AGI parece inevitable
  • Los modelos abiertos se están expandiendo y el rendimiento de los chips seguirá mejorando
  • Porque, al final, no se puede prohibir las matemáticas
• La fricción y el dolor que provoque la automatización serán inevitables, pero la vida seguirá
• Parece deseable reconocer los riesgos de la AGI y responder con serenidad, en lugar de dejarse llevar por un miedo excesivo

[vwjdalsgkv]

Creo que, desde una perspectiva basada en el riesgo, es parecido a cómo un niño o un ser humano primitivo ve el fuego.
No sabe por qué proceso el fuego produce luz y calor, pero a partir del fenómeno descubre que a veces la luz puede usarse de manera útil y que en otros casos el calor también puede ser útil, y aprende a aprovecharlos bien.
Sin embargo, como no entiende con claridad el fenómeno o lo usa de forma incorrecta, también puede sufrir daños; al final, en ese sentido, nosotros somos seres primitivos frente a la inteligencia artificial.
O quizá, excepto yo, ¿todos ustedes sí entienden muy bien la inteligencia artificial?

[kandk]

Aunque es algo obvio...
Mucha gente le tiene miedo a la AGI, y creo que este artículo podría ayudar.