7 puntos por xguru 2023-04-08 | 3 comentarios | Compartir por WhatsApp
  • En un artículo publicado recientemente, afirma que es más rápida y eficiente que Nvidia
  • Actualmente Nvidia ocupa el 90% del mercado de IA, pero Google desarrolla sus propias TPU desde 2016
  • Desde 2020 ha usado más de 4,000 TPU, y las ha utilizado durante los últimos 50 días para el modelo PaLM
  • La TPU v4 es entre 1.2 y 1.7 veces más rápida que la Nvidia A100 y usa entre 1.3 y 1.9 veces menos energía
  • Sin embargo, no se la comparó con la H100 más reciente de Nvidia (en el benchmark MLPerf 3.0, la H100 muestra un rendimiento 4 veces superior al de la A100)

3 comentarios

 
kbumsik 2023-04-08

No lo anunciaron ahora.

TPU v4 ya se había presentado en 2021, e incluso estaba disponible públicamente en la nube. 1

Esta noticia trata de un artículo retrospectivo que publicaron tras varios años de operarlo, jaja.

Sobre la comparación con H100, también dijeron que desplegarán una respuesta dentro de este año.

 
xguru 2023-04-08

Ah, fue una noticia un poco confusa. snif

 
kbumsik 2023-04-08

jaja, busqué otras noticias y parece que los artículos lo escribieron como si lo acabaran de presentar, así que es comprensible que cause confusión.

En el paper incluso lo mencionan repetidamente como un paper retrospectivo (supongo que es parte de su cultura), pero bueno.