EdgeFlow - framework distribuido de procesamiento de video en tiempo real con escalado horizontal

Es un framework basado en k3s creado para implementar procesamiento de video de alto fps en dispositivos de bajo rendimiento como Raspberry Pi.
Implementa escalado horizontal distribuyendo frames de video consecutivos a varios nodos de procesamiento mediante Redis y luego volviéndolos a reunir.

En la práctica, se confirmó que la velocidad de ejecución de YOLOv5, que era de apenas 4 fps en una sola Raspberry Pi 4B, aumentó linealmente hasta 16~17 fps cuando se distribuyó entre 4 nodos.

El sistema está compuesto por un Producer que genera los frames, un Consumer encargado del procesamiento y un Gateway que reúne y muestra los resultados.
El Gateway permite intercambiar libremente la interfaz para extenderlo a varios sistemas, y Redis, que cumple el rol de broker intermedio (Broker), también tiene una estructura que puede personalizarse con otros protocolos.

Características principales

• Comando edgeflow: con un solo comando realiza de una vez el build de imágenes, push y despliegue en un clúster k3s.
• Pipeline intuitivo: permite configurar el pipeline de forma intuitiva mediante la sintaxis link().to().
• Administración flexible: es posible gestionar dependencias de forma independiente por nodo y, si no hay cambios en las dependencias, reflejar el código de inmediato en los pods en ejecución sin necesidad de reconstruir.
• Garantía de orden: para resolver el problema de desorden en el orden de los frames durante el procesamiento distribuido, se integró un Jitter Buffer en el Gateway.
• Pruebas locales: incluso sin un clúster de Kubernetes, es posible reproducir el pipeline en un entorno local usando multiproceso.

Estado actual

En la etapa de prototipo se logró incorporar directamente una cámara real de Raspberry Pi dentro de un pod, y actualmente se está avanzando en la implementación para reproducir esta función de forma estable dentro del framework.

---

Actualmente se está mejorando el proyecto para conectar varios sistemas. Aún tiene muchas áreas por desarrollar, pero cualquier comentario sobre sistemas distribuidos o diseño de pipelines de procesamiento de video sería de enorme ayuda y aprendizaje. Gracias por leer.

Pueden consultar más detalles o un tutorial rápido en el siguiente enlace.
Github: https://github.com/seolgugu/edgeflow