IA animada

• Animated AI es un proyecto que muestra conceptos de redes neuronales mediante animaciones y videos educativos, haciendo más fácil seguir procesos de cálculo que son difíciles de entender visualmente.
• El material principal se centra en el algoritmo básico de Convolution, Padding, Stride, Groups, Depthwise y Depthwise-separable Convolution.
• El material de Pixel Shuffle muestra el flujo de conversión de resolución dividido en ejemplos con tamaños de bloque de 2x2 y 3x3.
• Cada tema enlaza a un video complementario en YouTube que puede verse junto con las animaciones de la página.
• La página del proyecto incluye enlaces a Patreon y al canal de YouTube, y el código está publicado bajo la MIT License.

---

Animaciones y videos sobre redes neuronales

• Animated AI crea animaciones y videos educativos que explican redes neuronales.
• También se ofrecen enlaces oficiales para apoyar el proyecto y ver los videos.
  • Patreon
  • YouTube channel

Materiales de aprendizaje sobre Convolution

• Fundamental Algorithm of Convolution in Neural Networks es un video complementario de YouTube que aborda el algoritmo básico de Convolution.
• Convolution Padding - Neural Networks muestra las diferencias de Padding.
  • No Padding, es decir, “Valid”
  • Padding [1,1,1,1], es decir, “Same”
• Stride - Convolution in Neural Networks aborda las configuraciones de Stride y sus combinaciones con Padding.
  • Stride 1 y Stride 2
  • Combinación de No Padding “Valid” y Padding [1,1,1,1] “Same”
• Groups, Depthwise, and Depthwise-Separable Convolution (Neural Networks) es un material para comparar Groups y la familia de Convolution Depthwise.
  • 1 Group
  • 2 Groups
  • Depthwise, 8 Groups
  • Depthwise-separable, aplicación de pointwise después de 8 Groups

Ejemplos de Pixel Shuffle

• Pixel Shuffle - Changing Resolution with Style es un video complementario de YouTube sobre Pixel Shuffle.
• Con un tamaño de bloque de 2x2, se pueden ver ejemplos de Shuffle, Unshuffle y bucle repetido.
  • 2x2 Pixel Shuffle
  • 2x2 Pixel Unshuffle
  • 2x2 Pixel Shuffle/Unshuffle Loop
• También se ofrece el mismo flujo con ejemplos separados para un tamaño de bloque de 3x3.
  • 3x3 Pixel Shuffle
  • 3x3 Pixel Unshuffle
  • 3x3 Pixel Shuffle/Unshuffle Loop

Licencia

• El código del proyecto está licenciado bajo la MIT License.

[GN⁺]

Opiniones de Hacker News

• El diseño es bueno, y también está la herramienta de visualización de CNN surgida de una investigación de Georgia Tech
  https://poloclub.github.io/cnn-explainer/
  Colección de herramientas para diseñar y visualizar arquitecturas de redes neuronales: https://github.com/ashishpatel26/Tools-to-Design-or-Visualiz...
  También está TensorFlow Playground: https://playground.tensorflow.org/

  • ManimML: https://github.com/helblazer811/ManimML
    “But what is a convolution?”: https://youtu.be/KuXjwB4LzSA?si=qwnZMQYJhDxraGc8 https://github.com/3b1b/videos/tree/master/_2022/convolution... https://github.com/3b1b/videos/tree/master/_2023/convolution...
    “Convolution Is Fancy Multiplication”: https://news.ycombinator.com/item?id=25190770#25194658
    En https://news.ycombinator.com/item?id=37953886, enlaces relacionados con Manim, Blender, ipyblender, PhysX, o3de, FEM y CFD: https://github.com/ManimCommunity/manim/issues/3362
    La combinación Manim + O3DE parece bastante útil para aprendizaje, y también hay código de un video de algoritmos del cubo de Rubik hecho con Manim: https://github.com/polylog-cs/rubiks-cube-video/blob/main/co...
    Documentación de la API de Manim: https://docs.manim.community/en/stable/reference.html
  • Me gustó especialmente el widget “Understanding Hyperparameters” del artículo de poloclub, y una herramienta hecha de forma similar también puede ser útil
    https://static.laszlokorte.de/conv2d/

• Usaron muy bien el color, y al principio pensé que era una animación de ejemplo generada por IA
  Como en realidad la hicieron a mano, se nota aún más el esfuerzo invertido, y los videos del canal de YouTube también valen la pena

  • Dejo el enlace del canal para que sea fácil consultarlo: https://www.youtube.com/@animatedai/videos

• Es un buen proyecto, pero preferiría que no cargara imágenes GIF de más de 100 MB sin aviso

  • Si es una página que trata sobre animaciones, es normal que los medios sean más pesados que en una página común, y los sitios web corrientes de hoy también son bastante grandes
    NYT pesa 11 MB, Washington Post 22 MB, y una sola bajada en Reddit ronda los 40 MB
    En una página que dice que va a mostrar animaciones, no creo que un tamaño en el rango de los 100 MB requiera necesariamente una advertencia previa aparte
  • Bastaría con ponerle la etiqueta “56k killer”, como antes
  • Soy el creador del sitio; gracias por señalarlo. La cantidad de animaciones fue aumentando con el tiempo y no me di cuenta de que el tamaño total había crecido tanto
    Me gustaría saber qué comportamiento preferirían. Por ejemplo, una imagen estática que se reproduzca al hacer clic o tocar, secciones ocultas hasta desplegarlas, u otra alternativa
  • Para ser precisos, son 134 MB

• Está muy bien hecho, y me recuerda a estos excelentes videos explicativos con animaciones 3D: https://www.youtube.com/@animagraffs

• Hace tiempo hice animaciones por mi cuenta con Manim; quizá no tengan tanto brillo, pero podrían servir
  https://www.jerpint.io/blog/cnn-cheatsheet/

• También me gustaría ver una capa de atención animada de esta forma. Estoy en ese punto en el que siento que casi la entiendo, pero no del todo

  • Todavía no encuentro “esa visualización única” que haga que el concepto de atención en Transformer sea tan fácil de entender como esta visualización de CNN
    Si alguien tiene una página que le haya ayudado a tener ese momento eureka para entender por completo la capa de atención, sería bueno que la compartiera
  • Soy el creador del sitio; tengo buenas noticias. Ahora estoy trabajando en animaciones y videos explicativos sobre Transformer y self-attention
    Creo que la mejor forma de recibir aviso es suscribirse al canal de YouTube y activar el ícono de notificaciones
  • Parece que se refiere a que quiere ver una animación de atención. Esta página no muestra atención, sino convolución

• Para ver artículos interactivos sobre algoritmos de IA específicos, también vale la pena revisar mlu-explain de Amazon
  https://mlu-explain.github.io/

• Muy bueno. Sería genial que también hubiera secciones de RNN o Transformer, y estaría dispuesto a pagar por verlas

• Muchas veces he deseado que la documentación de pandas tuviera animaciones como estas. Creo que el pipeline groupby / split-apply-combine se podría explicar con un solo clip de 10 segundos