Libro de deep learning basado en física

• Physics-based Deep Learning Book v0.3 es un libro digital que aborda simulación física y deep learning en conjunto, y permite aprender, mediante ejemplos ejecutables, cómo se combinan el análisis numérico y las redes neuronales
• En la GenAI edition, aumentó el peso del modelado generativo e incluye denoising, flow-matching, autoregressive learning, restricciones integradas con física y graph networks basadas en diffusion
• El alcance de aprendizaje parte del aprendizaje supervisado y se amplía hacia restricciones de pérdida físicas, simulación diferenciable, enfoques de diffusion, aprendizaje por refuerzo y selección de arquitecturas de redes neuronales
• Los capítulos anunciados cubren casos cercanos a problemas físicos reales, como la predicción de flujo alrededor de un airfoil, el aprendizaje basado en residuales de ecuaciones, inverse problem y formas de incorporar el simulador al loop de entrenamiento
• Todos los ejemplos de código se centran en Jupyter Notebook, ejecutables y modificables desde el navegador, por lo que no se limita a leer conceptos: se puede experimentar de inmediato

---

Guía de deep learning para simulación física

• Physics-based Deep Learning Book es una guía integral práctica sobre deep learning en el ámbito de la simulación física
• El documento conecta explicaciones teóricas con Jupyter Notebooks interactivos, de modo que cada concepto pueda ejecutarse y verificarse de inmediato
• Los principales temas que cubre son los siguientes
  • aprendizaje supervisado tradicional
  • loss-constraints físicas
  • simulación diferenciable
  • enfoques basados en diffusion para IA generativa probabilística
  • aprendizaje por refuerzo
  • arquitecturas avanzadas de redes neuronales
• La principal incorporación de la GenAI edition v0.3 es el capítulo sobre modelado generativo
  • denoising
  • flow-matching
  • autoregressive learning
  • physics-integrated constraints
  • diffusion-based graph networks
• También se agregó una sección dedicada a neural architectures diseñadas para simulación física, y todos los ejemplos de código fueron actualizados para usar frameworks modernos

Capítulos anunciados y modalidad práctica

• En los siguientes capítulos se aborda cómo predecir el flujo de fluidos alrededor de un airfoil mediante diffusion modeling
  • Este enfoque ofrece un surrogate model probabilístico que reemplaza y supera a los simuladores existentes
• También se incluye cómo entrenar una red para que represente la solución usando las ecuaciones del modelo como residuales
  • Las restricciones residuales pueden mejorarse mediante simulación diferenciable
• Se aborda cómo resolver un inverse problem interactuando más estrechamente con el simulador completo
  • Muestra un ejemplo de cómo evitar problemas de convergencia de técnicas estándar de aprendizaje por refuerzo mediante la incorporación del simulador al loop de entrenamiento
• La selección de una arquitectura de red adecuada también es un tema central
  • global interaction y local interaction
  • continuous representation y discrete representation
  • structured graph mesh y unstructured graph mesh
• Los enfoques de PBDL se presentan en orden creciente según la intensidad con la que integran el modelo físico al deep learning
  • También se cubren las ventajas, desventajas y escenarios útiles de cada enfoque
• Los ejemplos de código se centran en Jupyter Notebook, que puede ejecutarse directamente desde el navegador
  • En el Google Colab teaser notebook se pueden ejecutar y modificar los ejemplos
• El libro es mantenido por el Physics-based Simulation Group de TUM y también ofrece una colección de enlaces con artículos de investigación recientes

[GN⁺]

Comentarios de Hacker News

• Chris Rackauckas presentó Scientific Machine Learning en una densa charla panorámica de octubre de 2022, con ejemplos de campos muy variados como epidemias, ondas gravitacionales, farmacocinética y simulaciones oceánicas.
  También cubre bibliotecas de Julia, tanto open source como propietarias, para SciML, así que contiene mucha información.
  https://www.youtube.com/watch?v=yHiyJQdWBY8

  • Me da curiosidad si alguien sabe cómo está el mercado laboral para puestos como “ingeniero de ML para simulación física”.

• Creo que convendría cambiar bastante el título. Este no es un libro sobre deep learning basado en física.
  Se parece más a un libro sobre el enfoque de deep learning para problemas de física desarrollado por este grupo de investigación, y creo que ese es un matiz muy importante.
  Además, en la práctica se usa mucho para impulsar su framework de simulación Phi-Flow, así que es difícil llamarlo un libro que describa con precisión todo el campo.

• Chris ha hecho buen trabajo en este género, y el paquete de ecuaciones diferenciales de Julia que da soporte a física o Scientific ML también es bastante genial.
  https://www.stochasticlifestyle.com/the-essential-tools-of-s...

• No encuentro cómo descargar todo el libro en PDF. El botón de descarga de arriba parece bajar solo páginas individuales.
  Según entiendo está hecho con Jupyter Book, pero tampoco encontré nada al respecto en la documentación.
  [1] https://jupyterbook.org/en/stable/intro.html

  • Hay que ver https://github.com/tum-pbs/pbdl-book/issues/1

• Como buenos recursos adicionales, están las charlas de matemáticas+ML del canal de YouTube de CRUNCH group, la playlist Physics Informed Machine Learning de Steve Brunton, el libro de Steve Brunton “Data Driven Science and Engineering” y el curso Deep Learning in Scientific Computation de ETH Zurich.
  YouTube de CRUNCH group: https://m.youtube.com/channel/UC2ZZB80udkRvWQ4N3a8DOKQ
  Playlist de Steve Brunton: https://m.youtube.com/playlist?list=PLMrJAkhIeNNQ0BaKuBKY43k...
  Curso de ETH Zurich: https://m.youtube.com/playlist?list=PLJkYEExhe7rYY5HjpIJbgo-...

• También hay una discusión anterior de 2021.
  https://news.ycombinator.com/item?id=28500577