Resumen recursivo de libros con retroalimentación humana

• Nuevo artículo presentado por OpenAI

• Para aplicar modelos de IA, hay que verificar si el modelo de machine learning funciona de acuerdo con la intención humana

→ problema de alignment

• Resolver el alignment es difícil de evaluar para las personas y requiere mucho tiempo

• Para probar la tecnología de scalable alignment, entrenaron un modelo para resumir libros completos

→ primero resume el libro por secciones, y luego vuelve a resumir esos resúmenes en un nivel superior hasta llegar al resumen final

→ resumió "Alicia en el País de las Maravillas", de 26,449 palabras, en 136 palabras

→ ajustado finamente a partir de GPT-3, genera excelentes resúmenes con una calidad similar al promedio de los resúmenes escritos por personas