PaLM - Pathways Language Model de Google AI con 540B parámetros

• Un modelo con 540B parámetros, 3 veces más grande que GPT-3 (175B)
• El entrenamiento se realizó usando TPU v4
• Al crecer el modelo, puede manejar una mayor variedad de tareas (problemas de matemáticas, explicaciones, generación de código, etc.)

Artículos relacionados

• Le hice preguntas de operaciones aritméticas básicas a GPT-NeoX-20B

[kunggom]

Parece que Google quiere combinar algo así con robots para que la inteligencia artificial también pueda aprender del mundo físico real.
https://say-can.github.io/
https://arxiv.org/abs/2204.01691

[xguru]

• ¿Hacia dónde se dirigen los modelos de IA NLP a gran escala?
• GPT-3 ya no es el único en el mercado
• Informe AI Index 2022

[laeyoung]

Parece que la tendencia de que mientras más grande sea el modelo de IA, mejor, sigue vigente.