Keylogger descubierto en la extensión ComfyUI_LLMVISION

• Si usaste el nodo ComfyUI_LLMVISION publicado por u/AppleBotzz, fuiste comprometido
• Al usar ese paquete, información personal como contraseñas del navegador, datos de tarjetas de crédito e historial de navegación se filtra a un servidor de Discord
• El archivo de requisitos (requirements.txt) de ese paquete incluía wheels personalizados para las librerías de OpenAI y Anthropic
• Dentro de esos wheels había código malicioso oculto
• En el wheel de la versión 1.16.2 se instala una versión inexistente, la 1.16.3, que incluye el archivo /lib/browser/admin.py, el cual lee datos del navegador y los guarda en un directorio temporal
• Ese archivo envía los datos recolectados a un webhook de Discord dentro de una cadena cifrada
• La versión 1.30.2 incluye el archivo openai/_OAI.py, que contiene un enlace de Pastebin dentro de una cadena cifrada
• El primer enlace de Pastebin contiene otro webhook de Discord, y el segundo incluye la URL de un archivo malicioso (VISION-D.exe)
• El script crea entradas en el registro y roba claves de API para enviarlas a un webhook de Discord
• Para verificar si fuiste afectado, hay que revisar el directorio temporal, los paquetes de Python y el registro de Windows, entre otros
• Si se detecta el problema, es necesario eliminar los paquetes relacionados, borrar los archivos maliciosos, eliminar las claves del registro, ejecutar un antivirus y cambiar las contraseñas
• Dado que ese usuario (u/applebotzz) aparentemente actualizó el paquete dos veces para ocultar el código malicioso, se considera una acción intencional
• En adelante, hay que revisar con mucho cuidado los nodos personalizados y extensiones que se instalen

[GN⁺]

Comentarios en Hacker News

• Las extensiones de ComfyUI están compuestas de código Python arbitrario, por lo que son vulnerables en términos de seguridad.
• En deep learning suele ignorarse la seguridad. Antes, casi todos los modelos de deep learning se distribuían como archivos pickle.
• ComfyUI es muy potente, pero parece que Adobe se equivocó con la generación de imágenes. Se necesita un método más seguro.
• Me interesa saber qué opinan sobre reforzar la seguridad usando Docker. Me pregunto si se puede equilibrar la usabilidad y la seguridad.
• Hay curiosidad sobre la posibilidad de usar un code LLM que escanee repositorios de GitHub para detectar malware oculto en el código fuente.
• El proyecto parece pequeño. Tenía 40 estrellas en GitHub, y me pregunto si era el método principal para integrar GPT-4 y Claude antes de que eliminaran el repositorio.
• Se necesita una capa de validación a nivel del sistema operativo para evitar estos problemas. Me pregunto si podría resolverse inspeccionando el bytecode que se instala o ejecuta con un LLM local.
• Un grupo llamado Nullbulge Group afirma que tomó control del repositorio. Hay capturas de pantalla de antes de que el repositorio devolviera un error 404.
• La discusión en Reddit está llena de mucha desinformación y conocimiento falso. Eso da casi tanto miedo como el malware.
• Me pregunto si no hay manera de defenderse de un keylogger. Si un keylogger simple puede robar contraseñas, no sé qué se debería hacer.