Lanzamiento de Silurian (YC S24) – Tecnología de simulación de la Tierra

• Somos Jayesh, Cris y Nikhil, y formamos parte del equipo de Silurian. En Silurian estamos construyendo un modelo fundacional que simula la Tierra, comenzando por el pronóstico del tiempo. Los resultados recientes de predicción de huracanes pueden visualizarse aquí

• ¿Cuánto valdría saber el pronóstico del tiempo con un día más de anticipación? Los sistemas de pronóstico tradicionales han mejorado su precisión aproximadamente un día por década. Pero en los últimos años, gracias a las GPU y a las técnicas modernas de deep learning, ese ritmo se está acelerando

• Desde 2022, NVIDIA, Google DeepMind, Huawei y Microsoft, entre otros, han investigado activamente sistemas de deep learning para el clima. Estos modelos aprenden a predecir usando casi nada de física incorporada, basándose solo en datos. Sorprendentemente, este enfoque ofrece mejores pronósticos que las simulaciones tradicionales de física atmosférica

• Jayesh y Cris vivieron de primera mano el potencial de esta tecnología al liderar respectivamente los proyectos ClimaX y Aurora de Microsoft. Los modelos fundacionales que construyeron mejoraron los pronósticos del ECMWF, considerado el estándar de oro en predicción meteorológica, usando solo una fracción mínima de los datos de entrenamiento. El objetivo de Silurian es escalar estos modelos al máximo y llevarlos hasta los límites de la predicción física. En última instancia, quieren modelar toda la infraestructura afectada por el clima, como redes eléctricas, agricultura, logística y defensa. Es decir, simular la Tierra

• Este verano construimos un modelo frontier de 1.5B parámetros llamado GFT (Generative Forecasting Transformer). Este modelo simula el clima global hasta por 14 días con una resolución de aproximadamente 11 km. A pesar de la escasez de datos históricos sobre clima extremo, GFT está mostrando un rendimiento sobresaliente en la predicción de trayectorias de huracanes en 2024. Puedes ver nuestros pronósticos de huracanes aquí. Para visualizarlos usamos la herramienta open source de visualización meteorológica cambecc/earth

• Estamos muy emocionados por este lanzamiento en HN y nos encantaría conocer sus opiniones

Resumen de GN⁺

• Silurian es una empresa que construye un modelo fundacional para simular la Tierra, comenzando por el pronóstico del tiempo
• En los últimos años, los avances en tecnologías de deep learning han mejorado significativamente la precisión del pronóstico meteorológico
• El modelo GFT de Silurian muestra un rendimiento de predicción sobresaliente a pesar de la escasez de datos sobre clima extremo
• Esta tecnología tiene el potencial de aplicarse a diversas infraestructuras como energía, agricultura y logística
• Entre los proyectos con capacidades similares están los sistemas de deep learning meteorológico de NVIDIA y Google DeepMind

[GN⁺]

Comentarios de Hacker News

• Me alegra que ahora se puedan hacer pronósticos por conjuntos de ciclones tropicales

  • Me decepciona la comparación entre el modelo de ML y el modelo HRES de ECMWF
  • HRES es una sola realización posible del clima, no la mejor estimación del clima promedio
  • NeuralGCM está entre los primeros lugares en el leaderboard de WeatherBench
  • Me gustaría comparar el rendimiento de los modelos en WeatherBench

• Un modelo sin física incorporada hace mejores predicciones solo con datos

  • El dicho de NLP de que "cada vez que despides a un lingüista, el rendimiento mejora" también aplica a los físicos

• Silurian está construyendo un modelo fundacional para simular la Tierra

  • Si tiene éxito, me pregunto qué más querrán simular

• Me entusiasma el potencial comercial de ClimaX

  • Me pregunto si alguna industria específica se ha puesto en contacto por su potencial comercial (por ejemplo, exploración de recursos naturales)

• Como organización sin fines de lucro, estamos construyendo un modelo similar para la tierra

  • Me gustaría ayudar a reemplazar la máscara de tierra por embeddings de tierra
  • Esto ayudaría mucho a hacer downscaling de los efectos regionales

• Me pregunto en qué se diferencia de GraphCast, que Google lanzó el año pasado

• Los modelos meteorológicos me confunden

  • Me pregunto si los métodos de ML son numéricamente más estables que las simulaciones basadas en física
  • Me pregunto cómo se comparan en términos de requisitos computacionales
  • En el pasado tuve la experiencia de convertir modelos de FORTRAN a Verilog

• Me pregunto si han probado este enfoque en terremotos impredecibles

• Parece otro caso más de "The Bitter Lesson"

• Me pregunto qué más simularán en el futuro

  • Construimos una demo en San Francisco para buscar objetos con lenguaje natural
  • Probé los embeddings de Clay, pero rindieron peor que los embeddings de captions de OSM ajustados finamente con CLIP