Qué pasa cuando una IA entrena a otra IA: el fenómeno del ‘colapso del modelo’ y cómo prevenirlo

¿Qué es el colapso del modelo (Model Collapse)?

• Fenómeno de degradación que ocurre cuando una IA se reentrena con datos generados por otra IA
• Riesgo estructural demostrado con base en un artículo de Nature

Características visibles

• El rendimiento promedio y las puntuaciones en benchmarks se mantienen o incluso suben
• Pero los casos raros (outliers y edge cases) van desapareciendo poco a poco
• La salida converge cada vez más hacia algo típico, seguro y promedio

Mecanismo clave

• Inicio → aprendizaje con datos humanos
• Después → aumenta drásticamente el contenido generado por IA en la web → los nuevos modelos aprenden con datos sintéticos
• Cada generación amplifica y refuerza los puntos ciegos de la generación anterior
• Los eventos/datos raros se van ignorando gradualmente → pérdida permanente

Síntomas concretos según la modalidad

• Texto: fluido pero vacío y repetitivo, prefiere opiniones seguras en vez de ideas nuevas (como el uso excesivo de em dash)
• Sistemas de recomendación: eliminan la curiosidad y la diversidad → el feed se vuelve extremadamente estrecho
• Imagen/video: converge solo hacia estilos conocidos, casi no permite variaciones creativas (por ejemplo, siempre dentro de un rango estético parecido)
• Punto en común: no se optimiza para “fallar”, sino para “volverse demasiado parecido”

Formas de prevención y respuesta

• Seguimiento y gestión de procedencia (Provenance)
  → conservar y priorizar el aprendizaje con datos generados por humanos, distinguir claramente los datos generados por IA
• Elegir certeza antes que conveniencia
  → evitar el sesgo hacia el centro de los datos de IA, mantener la complejidad del mundo real
• Valorar el rango (Range)
  → asegurar espacio de entrenamiento para casos raros (aceptando sacrificar algo de eficiencia)
• Redefinir los casos raros no como ruido, sino como un activo

Mensaje final

• El aprendizaje recursivo (IA → IA) es catastrófico a largo plazo
• La afirmación “no entrenen IA con datos de IA” tiene cada vez más fundamentos
• La indiferencia hacia el origen de los datos de entrenamiento es el mayor factor de riesgo

Como la mayoría de los modelos grandes actuales ya han ingerido una cantidad considerable de datos sintéticos, todo apunta a que, de ahora en adelante, la gestión de procedencia y la preservación de datos escasos serán tareas clave.