- Un proyecto paraguas que ofrece herramientas y evaluaciones abiertas de confianza y seguridad para ayudar a los desarrolladores a implementar modelos de IA generativa de forma responsable
- Como primer paso, se publican dos herramientas
- CyberSec Eval: benchmark de evaluación de seguridad de ciberseguridad para LLM
- Llama Guard: clasificador de seguridad para el filtrado de entradas y salidas, optimizado para facilitar su implementación
- Planean ofrecer estas herramientas a la comunidad de código abierto en colaboración con AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA y Scale AI
¿Por qué Purple?
- Creen que para mitigar de verdad los desafíos que plantea la IA generativa, es necesario contar tanto con una postura de ataque (equipo rojo) como de defensa (equipo azul)
- El equipo púrpura, formado por la combinación de equipos rojos y azules, es un enfoque colaborativo para evaluar y mitigar riesgos potenciales
- El proyecto Purple Llama se ofrecerá con una licencia permisiva que permitirá el uso en investigación y comercial
- Este es un paso importante para fomentar la colaboración de la comunidad y estandarizar el desarrollo y uso de herramientas de confianza y seguridad para el desarrollo de IA generativa
1 comentarios
Miré qué era AI Alliance - https://thealliance.ai y resulta que es una alianza creada con el liderazgo de IBM y Meta.
Participan más de 50 empresas y organizaciones, pero curiosamente faltan OpenAI, Google, NVidia y Microsoft, así que uno se queda pensando de qué va esto... jaja