Divulgación del incidente de filtración de secretos en la plataforma Spaces de Hugging Face

Respuesta de Hugging Face al incidente de seguridad

Resumen del incidente

• Se detectó acceso no autorizado en la plataforma Spaces de Hugging Face.
• Es posible que información secreta de algunos Spaces haya sido accedida sin autorización.

Medidas de respuesta

• Como primera medida, se revocaron los tokens de HF relacionados.
• Se notificó por correo electrónico a los usuarios afectados.
• Se recomienda renovar todas las claves y tokens, y cambiar los tokens de HF por tokens de acceso de permisos granulares.

Medidas de refuerzo de seguridad

• Se está investigando el problema y revisando las políticas de seguridad en colaboración con expertos externos en ciberseguridad.
• Se introdujeron varias mejoras importantes para reforzar la seguridad de la infraestructura de Spaces:
  • Se eliminaron por completo los tokens de organización para mejorar la trazabilidad y las capacidades de auditoría.
  • Se implementó un servicio de gestión de claves (KMS) para los secretos de Spaces.
  • Se reforzó la capacidad del sistema para identificar tokens filtrados e invalidarlos de forma preventiva.
  • Se mejoró la seguridad general.
  • Cuando los tokens de acceso de permisos granulares estén funcionalmente completos, se planea retirar por completo los tokens "clásicos" de lectura y escritura.

Medidas legales

• Este incidente fue reportado a las autoridades policiales y a las autoridades de protección de datos.

Guía para usuarios

• Se ofrecieron profundas disculpas por las molestias causadas por este incidente y se prometió tomarlo como una oportunidad para reforzar la seguridad de toda la infraestructura.
• Si hay preguntas adicionales, se recomienda contactar a [e-mail].

Opinión de GN⁺

• Necesidad de reforzar la seguridad: Este incidente recuerda una vez más la importancia de reforzar la seguridad en las plataformas de software. En particular, son cruciales el control de acceso y el monitoreo de la información sensible.
• Tokens de acceso de permisos granulares: Los tokens de acceso de permisos granulares son una buena forma de mejorar la seguridad. Esto permite aplicar el principio de privilegio mínimo y restringir permisos innecesarios.
• Colaboración con expertos externos: Colaborar con expertos externos en ciberseguridad ayuda mucho a resolver el problema. Esto permite abordar problemas complejos que serían difíciles de resolver solo con personal interno.
• Respuesta legal: Reportarlo a las autoridades policiales y a las autoridades de protección de datos es importante para mantener la transparencia y recuperar la confianza de los usuarios.
• Comunicación con los usuarios: Informar a los usuarios de manera rápida y clara sobre la situación es esencial para mantener la confianza. Esto fortalece la relación de confianza con los usuarios.

[GN⁺]

Comentarios en Hacker News

• Jossef Harush Kadouri descubrió en unas diapositivas presentadas en una conferencia de seguridad que, al usar modelos en lugares como Huggingface, el autor del modelo puede ejecutar código arbitrario en la computadora del usuario.
• Como alguien que no está en el campo de la IA, pensaba que los archivos de modelo eran simplemente matrices numéricas y metadatos, pero entendí que en realidad están compuestos por scripts de Python, lo que hizo que la estandarización fuera sencilla.
• La expresión "tienen sospechas" no es apropiada para usarse en una comunicación como esta.
• Huggingface ha hecho mucho trabajo para mejorar su infraestructura de seguridad, y esto debería llevar a más actividades que consumen bastante tiempo, como auditorías de seguridad y pruebas de penetración.
• Hace unas semanas se filtró una clave de OpenAI, y solo estaba activa en Huggingface Spaces. Hace unos días recibí un correo diciendo que el Space había sido comprometido.
• Se filtró una clave de Anthropic y eso generó un costo de 10,000 dólares. Me pregunto si Huggingface va a compensarlo.
• Por el título pensé que era un artículo sobre el espacio exterior, pero en realidad era sobre Spaces de Huggingface.
• No se menciona nada sobre cómo se manejarán los costos incurridos de forma indebida. Si se accede a información secreta, ¿no sería posible hacer llamadas a la API y generar cargos?
• Me pregunto qué es un "Space".
• No entiendo por qué Huggingface almacena "secretos". Parecería mejor guardar una clave pública y que el usuario firme las solicitudes con una clave secreta.
• Considerando lo difícil que es hacer incluso tareas simples, este problema no resulta sorprendente.