9 puntos por mirseo 2025-08-24 | Aún no hay comentarios. | Compartir por WhatsApp

¡Este es un paquete de defensa contra inyecciones en LLM para Python, creado sobre Rust!

Mientras usaba APIs de IA para hacer varias cosas, me di cuenta de que los ataques de inyección son más comunes de lo que pensaba. Como me resultaba incómodo repetir una y otra vez el filtrado y reemplazo con expresiones regulares basadas en re, desarrollé este servicio pensando en lo útil que sería contar con un paquete así. (¡Recibí mucha ayuda de IA durante el desarrollo!)

Las funciones principales son IPS, IDS e IUS.
IPS - bloquea el prompt del usuario e indica que se continúe con el prompt existente
IDS - no bloquea el prompt del usuario, pero marca las palabras que coinciden con las reglas de bloqueo
IUS - un IPS que funciona a gran velocidad mediante multithreading y caché

Como característica, permite el bloqueo agregando un nuevo JSON en la ubicación de rules.json dentro del paquete o modificando el rules.json existente, y las reglas pueden modificarse durante la ejecución volviendo a llamar a init. (reglas personalizadas -> reglas provistas)

¡Es la primera vez que publico algo así, así que me da un poco de miedo! ¡Gracias de antemano!

Aún no hay comentarios.

Aún no hay comentarios.