- Este año, las cuatro grandes tecnológicas globales están gastando 344 mil millones de dólares en IA, invirtiendo la mayor parte en centros de datos para entrenar y operar modelos de lenguaje de gran escala (LLM)
- Los LLM ya lograron masificarse, al punto de que más de 700 millones de personas usan ChatGPT cada semana, pero su avance se está desacelerando y están quedando expuestas limitaciones como alucinaciones, altos costos y mejoras de rendimiento marginales
- La china DeepSeek sorprendió al mercado al presentar un modelo más pequeño y eficiente, y empresas como Covariant (robótica) y Atman Labs (enfoque no basado en deep learning) están explorando una IA que responda al mundo físico
- Según investigaciones recientes, la capacidad de razonamiento social de los LLM depende de unas pocas características y es vulnerable incluso a cambios pequeños, y OpenAI también reconoció la posibilidad de fallas en las salvaguardas para grupos vulnerables
- Expertos critican que los LLM no son más que ‘generadores de tokens’, y advierten que la obsesión con una sola tecnología puede aumentar la inestabilidad del mercado, por lo que hay que prepararse para el posible surgimiento de nuevos enfoques
La enorme inversión en IA y el centralismo de los LLM
- Todo inversionista sabe que “no hay que poner todos los huevos en una sola canasta”, entonces ¿por qué Silicon Valley está apostando por un solo método para construir inteligencia artificial (IA)?
- Las cuatro mayores tecnológicas del mundo invertirán 344 mil millones de dólares en IA en 2025, concentrándose principalmente en construir centros de datos para entrenar y ejecutar modelos de lenguaje de gran escala (LLM)
- Los LLM procesan entradas multimodales como texto, audio y contenido visual, y dependen de la técnica de predecir el siguiente token dentro de una secuencia
- Los chatbots personales están creciendo rápidamente, algunas startups de IA ya comenzaron a generar ingresos y las empresas también están mejorando su productividad inicial con IA generativa
- Los LLM son la primera tecnología de IA que logró adopción masiva, y ChatGPT tiene más de 700 millones de usuarios semanales
- Algunas startups alcanzaron el punto de equilibrio, pero en sectores sensibles como salud y derecho siguen existiendo límites para ganar confianza debido al problema de las alucinaciones
El riesgo de obsesionarse con una sola tecnología
- Sin embargo, concentrarse en una sola tecnología es riesgoso, y hay precedentes de fracaso, como BlackBerry, que insistió en el teclado físico y fue desplazada por la pantalla táctil de Apple, o Yahoo, cuya apuesta por el portal perdió frente al dominio de búsqueda de Google
- Los LLM también corren el riesgo de seguir ese mismo camino, y si surge un nuevo enfoque de IA, la inversión masiva podría quedar varada
- La china DeepSeek demostró en enero la posibilidad de un enfoque no tradicional al presentar un LLM más pequeño y eficiente y abrir su arquitectura, sorprendiendo al mercado
Explorando enfoques alternativos
- El avance de la IA ocurre combinando ideas del pasado con nuevas propuestas, y la búsqueda de máquinas superinteligentes también requiere un enfoque diversificado
- Startups como Covariant se alejan del enfoque centrado en LLM al desarrollar software de percepción espacial en lugar de basarse en el análisis de patrones de datos
- Empresas de robótica, drones, descubrimiento de fármacos y modelado climático se están apartando del centralismo de los LLM porque necesitan respuesta física en tiempo real
- La británica Atman Labs está rescatando ideas olvidadas de antes del deep learning, reflejando el enfoque inicial de múltiples vías de Google DeepMind (por ejemplo, AlphaGo y aprendizaje por refuerzo)
Límites de los LLM y problemas de confiabilidad
- Ahora están apareciendo grietas en la lógica de los modelos de lenguaje de gran escala: desde costos exorbitantes hasta perspectivas de rendimientos decrecientes
- Los modelos más recientes de OpenAI o Google son apenas un poco mejores que los anteriores, incluso después de invertir mucho más dinero
- Aun así, las alucinaciones no desaparecen, lo que sigue siendo un obstáculo para su adopción en empresas dedicadas a tareas como análisis médico o legal
- Un estudio reciente en Nature señaló que la capacidad de razonamiento social de los modelos de lenguaje depende de muy pocas características y puede colapsar con cambios pequeños, lo que plantea preguntas fundamentales sobre su confiabilidad
- OpenAI reconoció que, en conversaciones prolongadas, podrían colapsar las salvaguardas para grupos vulnerables, y de hecho ocurrió un caso en que se entregaron instrucciones de autolesión a un adolescente
Críticas de la industria y panorama
- Fei-Fei Li: “En la naturaleza no existe el lenguaje, y el mundo sigue leyes físicas”, señalando así los límites del enfoque centrado en el lenguaje
- Alex Karp (CEO de Palantir): criticó que “Silicon Valley exageró la promoción de los LLM”
- Yann LeCun: los LLM son un ‘callejón sin salida’ para construir máquinas más inteligentes, no pasan de ser ‘generadores de tokens’ y no pueden entender su entorno físico ni planificar con anticipación
- En conclusión, los LLM seguirán existiendo, pero obsesionarse con una sola solución es riesgoso, y tanto inversionistas como empresas deben prepararse para la posibilidad de un cambio hacia un nuevo paradigma tecnológico
Aún no hay comentarios.