Obituario de Cyc

El fracaso del proyecto Cyc

• Resumen: El proyecto Cyc fue un intento de 40 años por construir inteligencia general artificial mediante la expansión de la lógica simbólica, pero terminó en fracaso. Este ensayo busca arrojar luz sobre la historia secreta de Cyc y darla a conocer ampliamente.

El matemático automatizado y EURISKO

• Matemático Automatizado (AM): El primer proyecto legendario de Douglas Lenat, un sistema que descubría conceptos matemáticos de forma automática. Sin embargo, AM cayó rápidamente en fatiga intelectual tras sus descubrimientos iniciales.
• EURISKO: Un sistema desarrollado para superar las limitaciones de AM, diseñado para descubrir por sí mismo reglas heurísticas para nuevos hallazgos. Sin embargo, EURISKO también terminó cayendo en fatiga intelectual.

Historia de Cyc

• Inicio de Cyc: En 1985, Lenat inició Cyc codificando manualmente conocimiento de sentido común. Requirió alrededor de 30 millones de afirmaciones y un costo de 200 millones de dólares.
• Uso comercial: Desde 2016, Cyc pasó a aplicaciones comerciales, pero funcionalmente era igual a los servicios de empresas establecidas como Oracle e IBM.
• Secretismo: Cyc tuvo un carácter hermético, lo que dificultó su uso por parte de investigadores externos, y no logró resultados en benchmarks públicos.

Causas del fracaso de Cyc

• Límites de la lógica simbólica: Lenat se aferró al enfoque de lógica simbólica, pero este fracasó en alcanzar inteligencia general en IA.
• Importancia del conocimiento de sentido común: Lenat encontraba la razón por la que los humanos no caen en fatiga intelectual en su vasto conocimiento de sentido común, y creía que eso permitía generar nuevas ideas sin fin.

Conclusión

• Límites de la lógica simbólica: El fracaso de Cyc muestra que el enfoque de lógica simbólica no es adecuado para alcanzar inteligencia general en IA.

[GN⁺]

Comentarios de Hacker News

• "Esto parece una frase que escribiría una IA autoconsciente: me hizo pensar 'no hay nada que ver aquí, sigan de largo'"

  • Sentía que Cyc no avanzaba en una dirección útil
  • Le impresionó la demo del mundo de bloques de McCarthy
  • Cree que fue importante formalizar reglas que crearan el 'contexto' en el que la IA iba a funcionar
  • Los primeros casos de fracaso de los LLM son ejemplos típicos de fallas de contexto
  • Los modelos existentes no tienen contexto durante el entrenamiento, por lo que sus salidas no se ajustan al contexto

• "Es un artículo muy interesante y valioso"

  • Da pena concluir de forma tajante que el proyecto fracasó
  • Tomó más de 40 años para que las redes neuronales se volvieran útiles
  • Si la base de conocimiento de Cycorp llegara a ser accesible de forma general, podría usarse para entrenar LLM

• "Se puede ejecutar la versión de opencyc publicada en línea"

  • En GitHub están el dataset, la base de conocimiento y el motor de inferencia
  • Está escrito en una versión antigua de Java

• "Intenté leer mucho sobre AM y EURISKO, pero el trabajo de Lenat era privado"

  • Es una lástima que no haya permitido que otros desarrollaran a partir del trabajo de Lenat

• "El artículo es una excelente reseña sobre la IA simbólica"

  • Antes pasó mucho tiempo con OpenCyc, pero no lo ha tocado en 10 años
  • El futuro productivo de la IA simbólica probablemente tenga que ver con usar LLM para construir grafos de conocimiento y relaciones simbólicas a partir de datos no estructurados

• "Según su sitio web, Cyc va bastante bien"

  • Lenat murió en 2023, pero sigue apareciendo como el único miembro del 'equipo de liderazgo'

• "Creo que Lenat sí iba bien orientado en que la clave para obtener inteligencia útil era la cantidad de datos"

  • Criticó el proyecto Cyc, pero algo parecido también ocurrió con los LLM

• "¡Es un ensayo excelente! Gracias al OP por su investigación incansable"

• "No tengo opiniones fuertes sobre Cyc, pero este obituario me pareció bastante malintencionado"

  • La creencia fundamental de Lenat también se comparte en ML
  • ML requirió una cantidad abrumadora de cómputo

• "El gran hilo sobre Cyc del año pasado"