- Copilot+ Recall: una nueva función de Microsoft Windows 11 que captura continuamente la pantalla de la PC del usuario y convierte toda su actividad en una base de datos con capacidad de búsqueda.
- Permite buscar fácilmente todo lo que el usuario vio anteriormente.
- La mayoría de los usuarios han reaccionado negativamente a esta función, debido a preocupaciones de privacidad y a la posible invasión de la vida privada del usuario.
Posibles usuarios de Copilot+ Recall
- Para un gerente de empresa con demasiadas tareas y poco tiempo, podría ser útil poder buscar al instante qué hizo sobre un tema específico hace un mes.
- Sin embargo, eso representa solo una parte muy pequeña de la base de usuarios de Windows.
- La mayoría de los usuarios de Windows quieren jugar, ver porno y vivir la vida humana cometiendo errores.
- La idea de que otra persona pueda acceder a su dispositivo y ver recuerdos personales registrados en imágenes resulta profundamente aterradora para mucha gente.
El error de Microsoft
- Microsoft se está haciendo daño a sí misma en nombre de la IA, y además de una manera que perjudica a clientes reales.
- Podría incendiar toda la marca Copilot.
- Se señala que esta función rompe de manera fundamental la promesa de seguridad de Windows.
[ Preguntas y respuestas sobre los problemas de seguridad de Copilot+ Recall ]
P. ¿Los datos no se procesan completamente de forma local en la laptop?
- Sí. Se tomó la decisión inteligente de hacer que código como Azure AI se procese en el edge.
P. Entonces, ¿eso significa que hackers y malware no pueden acceder?
P. Pero está cifrado, ¿no?
- Si inicias sesión en la PC y ejecutas software, se descifra para ti como usuario.
- El cifrado en reposo solo ayuda cuando alguien roba físicamente la laptop.
- Cosas como los troyanos InfoStealer han sido un gran problema durante más de 10 años, y ahora podrían modificarse fácilmente para soportar Recall.
P. Pero Microsoft dijo que solo el usuario puede acceder a los datos, ¿no?
- No es cierto. Se puede demostrar que otras cuentas de usuario del mismo dispositivo pueden acceder a la base de datos.
P. Entonces, ¿cómo funciona?
- Se toma una captura de pantalla cada pocos segundos.
- Azure AI la procesa automáticamente con OCR y la registra en una base de datos SQLite dentro de la carpeta del usuario.
- Este archivo de base de datos guarda, en texto plano, un registro de todo lo que el usuario vio en la PC.
P. ¿Cómo se ve la base de datos?
- Microsoft dijo a medios de prensa que un hacker no puede exfiltrar de forma remota la actividad de Copilot+ Recall.
- Pero en realidad es una base de datos en texto plano con todo lo que viste en la PC. Es muy fácil automatizar su exfiltración.
P. ¿Cómo se obtiene el archivo de la base de datos?
- Son archivos ubicados en la nueva carpeta CoreAIPlatform dentro de AppData.
P. Pero está altamente cifrado, ¿así que nadie puede acceder, verdad?!
- Puede verse en un video donde dos ingenieros de Microsoft acceden a la carpeta de la base de datos de Recall y manipulan la base de datos SQLite.
- Ni siquiera se requieren privilegios de sistema.
P. ¡Pero los usuarios normales no lo ejecutan como administrador!
- Según la propia página web de lanzamiento de Recall de Microsoft, eso dicen.
- En realidad, ni siquiera necesitas ser administrador para leer la base de datos.
P. Pero en ese video apareció un prompt de UAC, ¿eso no es un límite de seguridad?
- Según el propio sitio web de Microsoft y el MSRC, UAC no es un límite de seguridad.
P. Entonces, ¿dónde está la seguridad aquí?
- En el mundo real, hay huecos tan grandes que podría pasar un avión, así que no funciona correctamente.
P. ¿No toma capturas y hace OCR automáticamente a cosas como información financiera?
- No.
- Según la documentación, Recall no modifica el contenido.
- No oculta contraseñas ni números de cuenta bancaria.
- En caso de que el sitio no haya seguido protocolos estándar de Internet (como enmascarar contraseñas con
*, etc.).
P. ¿Qué tamaño tiene la base de datos?
- Está bien comprimida, y unos días de trabajo ocupan alrededor de 90 KB.
- Con una conexión de banda ancha promedio, se podrían exfiltrar en segundos meses de documentos y pulsaciones de teclado.
P. ¿Qué tal la velocidad de búsqueda?
- En el dispositivo es muy rápida.
P. ¿Has intentado exfiltrar tu propia base de datos de Recall?
- Sí. Se hizo una exfiltración automatizada y se creó un sitio web donde se puede subir la base de datos y buscar en ella de inmediato.
- Los detalles técnicos se están reteniendo intencionalmente para dar tiempo a Microsoft de lanzar la función.
- En realidad hay mucho que mostrar, y se cree que cuando esta función llegue al público, más comunidades de ciberseguridad la usarán con mucho entusiasmo, pero es algo realmente triste porque podría causar daños reales.
P. ¿Qué tipo de cosas hay en la base de datos?
- Todo lo que el usuario vio, ordenado por aplicación.
- Todo el texto que el usuario vio (Microsoft Edge InPrivate está excluido, pero Google Chrome no).
- Todas las interacciones del usuario, como minimizar ventanas.
- Existe una API de actividad del usuario, y apps de terceros pueden complementar los datos y ver los datos almacenados.
- Incluso terceros almacenan todos los sitios web visitados.
P. Si elimino mensajes de email/WhatsApp/Signal/Teams, ¿también se eliminan en Recall?
- No, permanecen indefinidamente en la base de datos.
P. ¿Los mensajes autodestructivos de apps de mensajería se eliminan de Recall?
- No, Recall los recopila y quedan disponibles.
P. Entonces, ¿esto permitiría filtraciones masivas de datos de sitios web?
- Sí. Si en el futuro ocurre un incidente masivo de fuga de datos con información de clientes claramente comprometida, se pensará que la empresa que procesó esos datos es responsable.
- Pero si se accedió a un servicio o app desde un dispositivo Windows con Recall, un hacker puede ver todo y generar un volcado de datos sin que incluso la empresa que opera el servicio lo sepa.
- Los datos ya están estructurados de forma consistente en la base de datos de Recall, así que son fáciles de usar para los atacantes.
- Hay que prepararse para incidentes de fuga masiva impulsados por IA.
P. ¿Microsoft indujo a BBC a malinterpretar la seguridad de Copilot?
P. ¿Microsoft indujo a sus clientes a malinterpretar la seguridad de Copilot?
- Sí. Por ejemplo, lo describe como una experiencia opcional, pero está activada por defecto y la gente tiene que desactivarla manualmente.
- El CEO de Microsoft se refirió a este producto como “capturas de pantalla”, pero el producto en sí usa solo el término “instantáneas”.
- Microsoft debe dejar claro qué es esto para que los clientes puedan tomar una decisión informada.
P. ¿Recall no aplica solo a un único dispositivo de hardware?
- No es cierto. Actualmente hay 10 dispositivos Copilot+ que se pueden pedir a todos los principales fabricantes.
- Además, en el sitio web de Microsoft se dice que están trabajando en compatibilidad para chipsets AMD e Intel.
- Recall está previsto para Windows 11.
P. ¿Cómo se desactiva Recall?
- Hay que hacer clic en la opción para desactivar Recall durante la configuración inicial de un dispositivo Copilot+ compatible.
- En entornos empresariales está activado por defecto, por lo que se necesita una política para apagarlo:
Turn off Saving Snapshots for Windows.
P. ¿Qué impacto tiene en la privacidad? ¿No viola el GDPR?
- No soy experto en privacidad ni en derecho.
- Los expertos en privacidad con los que hablé están muy preocupados por el impacto en hogares, por ejemplo en situaciones de violencia doméstica.
- Desde la perspectiva empresarial, hay que considerar el riesgo de procesar datos de clientes de esta manera.
- Microsoft no asumirá responsabilidad como encargado del tratamiento, porque el procesamiento ocurre en el edge device.
P. ¿Microsoft es una empresa grande y malvada?
- No.
- Son personas muy inteligentes, y a veces las personas muy inteligentes cometen errores. Lo importante es si reconocen el error y qué hacen al respecto.
P. ¿No eras un exempleado que odia a Microsoft?
- No, de hecho este mismo mes escribí un blog elogiando a Microsoft.
P. ¿De verdad es tan dañino como parece?
- Ve a la casa de tus padres, de tus abuelos, etc.; revisa una PC con Windows, mira el software instalado durante el último año, úsala y ejecuta un análisis antivirus.
- Existe una industria de seguridad de un billón de dólares por una razón, y gran parte de los problemas giran en torno al malware y los endpoints.
P. ¿Qué debería hacer Microsoft?
- En mi opinión, debería retirar Recall y rehacerlo correctamente como una función que pueda ofrecerse más adelante.
- También debería revisar las decisiones internas que llevaron a esta situación.
- A principios de este mes, el CEO de Microsoft envió un correo a todos los empleados diciendo: “Si tienen que elegir entre la seguridad y otras prioridades, la respuesta es clara. Elijan la seguridad”.
- Veremos si habla en serio sobre el contenido de ese correo.
- Deben asumir el golpe ahora y actuar con humildad; de lo contrario, podrían poner en riesgo la confianza del cliente en las marcas Copilot y seguridad.
- Francamente, casi no hay clientes clamando porque Recall no esté disponible de inmediato, pero si la respuesta de Microsoft es no hacer nada, lanzar el producto, retocarlo un poco o maquillar el problema ante la prensa, entonces sí sería motivo de seria preocupación.
1 comentarios
Opiniones en Hacker News
Estrategia de Microsoft: Microsoft está usando una estrategia de empujar con fuerza al principio para luego presentar una solución suavizada y así lograr su objetivo.
Experiencia con Windows y ChromeOS: Con base en una experiencia laboral previa en Microsoft, Windows no era un mal sistema operativo. Pero después de probar ChromeOS, al final regresó a Debian.
Cambio a Linux: Recientemente instaló Arch Linux y Steam en una laptop Framework 16 y está ejecutando juegos sin problemas. Ahora siente que se desligó por completo de los productos de Microsoft.
Cambio en la imagen de Microsoft: Con la adquisición de GitHub y la introducción del subsistema de Linux, Microsoft parecía una empresa genial, pero por la función Recall reciente y el inicio de sesión obligatorio con cuenta al instalar Windows 10, volvió a tener una percepción negativa.
Problemas con la función Recall: En el pasado, Microsoft se esforzaba por mantener la compatibilidad con software de terceros, pero ahora decepciona al introducir la función Recall, que invade la privacidad del usuario.
Steve Jobs y Microsoft: Steve Jobs entendía cómo se sentía la gente respecto a los productos, pero Microsoft no. Antes tampoco tomaba en cuenta los sentimientos de los usuarios, y parece que eso no ha cambiado.
Preocupaciones de privacidad: El problema de privacidad es serio, y existe la posibilidad de que mejore antes de que la situación empeore más. Pero si esta función se implementa bien, podría convertirse en la app matadora de la IA moderna.
La importancia del acceso a la información: Tener buen acceso a la información es una capacidad poderosa. La información personal es muy valiosa, y hace falta una forma de almacenarla y acceder a ella automáticamente. Con el tiempo, será necesario adaptarse a esto.
Dispositivo de espionaje: En 2017, la gente metía voluntariamente dispositivos de espionaje en sus casas, y en 2024 está activando keyloggers.
La película 'Antitrust' y la realidad: La película de 2001 'Antitrust' trataba sobre una empresa similar a Microsoft que monitoreaba todas las computadoras y robaba código. 23 años después, se volvió realidad.