State of AI 2023 [Google Slides, 163 páginas]

Un informe publicado cada año que ofrece una visión amplia del presente y el futuro de la inteligencia artificial

• Research: innovaciones técnicas y capacidades hasta la fecha
• Industry: aplicaciones comerciales para la IA e impacto en los negocios
• Politics: regulación relacionada con la IA, significado económico y geopolítica de la IA
• Safety: identificación y mitigación de los riesgos críticos que puede generar la IA
• Predictions: lo que ocurrirá en adelante y revisión del desempeño de informes anteriores

Resumen por áreas de 2023

• Research
  • GPT-4 mostró la brecha de capacidades entre los modelos propietarios y la mejor alternativa open source, al tiempo que demostró el poder de RLHF (aprendizaje por refuerzo con retroalimentación humana)
  • Aumentaron los esfuerzos por replicar o superar el rendimiento de los modelos propietarios basándose en LLaMa-1/2, con modelos más pequeños, mejores datasets y contextos más largos
  • No está claro cuánto tiempo los datos generados por humanos podrán sostener la tendencia de escalamiento de la IA (algunos esperan que los datos para LLM se agoten hacia 2025), ni qué impacto tendrá añadir datos sintéticos. Es muy probable que los videos y los datos encerrados dentro de las empresas sean el siguiente objetivo
  • Los LLM y los modelos de difusión siguen aportando avances a la comunidad de ciencias de la vida al abrir nuevos descubrimientos en biología molecular y desarrollo de fármacos
  • A medida que la multimodalidad surge como una nueva frontera, aumentó fuertemente el interés por todo tipo de agentes
• Industry
  • NVIDIA entró al club del billón de dólares de capitalización bursátil gracias a la enorme demanda de GPU por parte de países, startups, grandes empresas e investigadores
  • Aunque los controles de exportación restringen la venta de chips avanzados a China, los principales proveedores de chips están desarrollando alternativas para eludir esos controles
  • Las apps de GenAI lideradas por ChatGPT tuvieron un año decisivo en todas las áreas, incluidas imagen, video, programación, voz y copilots, impulsando 18 mil millones de dólares en inversión de VC y corporativa
• Politics
  • El mundo se ha dividido en bloques regulatorios claros, pero el avance de la gobernanza global sigue siendo lento. Los grandes laboratorios de IA están dando un paso al frente para llenar ese vacío
  • La guerra de chips continúa, con EE. UU. movilizando a sus aliados y una respuesta de China que sigue siendo insuficiente
  • Se espera que la IA afecte una serie de áreas sensibles, incluidas las elecciones y el empleo, pero todavía no está teniendo un gran impacto
• Safety
  • El debate sobre el riesgo existencial entró por primera vez al mainstream y se intensificó fuertemente
  • Muchos modelos de alto rendimiento pueden ser "jailbreakeados" con facilidad. Para resolver los problemas de RLHF, los investigadores están explorando alternativas como self-alignment y preentrenamiento con preferencias humanas
  • A medida que las capacidades avanzan, se vuelve cada vez más difícil evaluar de forma consistente los modelos SOTA (State of the Art, máximo nivel). El puro vibe no alcanza

Predicciones para los próximos 12 meses

1. Uso de IA generativa para efectos visuales en producciones de nivel Hollywood
2. Durante la elección presidencial de EE. UU. en 2024, una empresa de medios de IA generativa será investigada por acusaciones de uso indebido de esta tecnología
3. Los agentes de IA que se mejoran a sí mismos superarán ampliamente el SOTA en entornos complejos (por ejemplo, juegos AAA, uso de herramientas y ciencia)
4. Se descongelará el mercado de IPO tecnológicas y se espera al menos una salida a bolsa de una empresa centrada en IA (por ejemplo, Databricks)
5. Con el auge del escalamiento de GenAI, también habrá casos en los que un grupo gaste más de 1,000 millones de dólares para entrenar un solo modelo de gran escala
6. La Comisión Federal de Comercio de EE. UU. (FTC) o la Autoridad de Competencia y Mercados del Reino Unido (CMA) investigarán el acuerdo Microsoft/OpenAI por posibles violaciones a la ley de competencia
7. El avance de la gobernanza global de la IA más allá de promesas voluntarias de alto nivel será limitado
8. Las instituciones financieras lanzarán fondos de deuda respaldados por GPU para reemplazar el capital accionario de VC como fuente de financiamiento de cómputo
9. Una canción generada por IA entrará al top 10 del Billboard Hot 100 o a Spotify Top Hits 2024
10. A medida que aumenten fuertemente las cargas de trabajo y los costos de inferencia, una gran empresa de IA (por ejemplo, OpenAI) adquirirá una compañía de chips de IA enfocada en inferencia

[xguru]

Informe State of AI 2022 [Google Slides, 114P]
Informe State of AI 2021 [Google Slides, 188P]
Informe State of AI 2020 [Google Slides, 183P]