Microsoft retrasa el lanzamiento de la función de IA Recall por preocupaciones de seguridad
(reuters.com)- Microsoft planea ofrecer primero una vista previa de Recall en el Windows Insider Program (WIP), en lugar de lanzarla de forma general para los usuarios de Copilot+ PC el 18 de junio como estaba previsto originalmente.
- La decisión se basa en el compromiso de Microsoft de brindar una experiencia confiable, segura y sólida para todos los clientes, y de recopilar comentarios adicionales antes de poner la función a disposición de todos los usuarios de Copilot+ PC.
- Copilot+ PC es una categoría de computadoras personales con funciones de inteligencia artificial (IA) presentada en mayo.
- WIP es un programa público de pruebas de software en el que millones de "fans de Windows" pueden ver por adelantado futuras funciones del sistema operativo.
- Microsoft planea ofrecer pronto la vista previa de Recall en todos los Copilot+ PC después de recibir comentarios de la comunidad de WIP.
Resumen de la función Recall
- La función Recall rastrea el historial de uso de la computadora, desde búsquedas web hasta chats de voz, y guarda un registro en el equipo para que el usuario pueda buscarlo cuando necesite recordar algo incluso meses después.
Preocupaciones de privacidad
- Poco después del anuncio de esta función, surgieron preocupaciones sobre la privacidad.
- Algunos usuarios de redes sociales expresaron su preocupación de que esta función pudiera facilitar el espionaje.
- El tecnólogo multimillonario Elon Musk la llamó un "episodio de Black Mirror", comparándola con la serie de Netflix que explora los efectos nocivos de la tecnología avanzada.
1 comentarios
Opiniones de Hacker News
Este texto es confuso y ambiguo, y eso parece ser exactamente la intención. Se enfoca en la seguridad y repite que la seguridad es la máxima prioridad, pero en realidad ya sabemos que no es así.
No dice qué problema de seguridad hubo, ni siquiera insinúa que haya existido o se haya detectado un problema concreto.
Suena a que están buscando un nuevo enfoque de marketing, o a que intentan amortiguar el golpe diciendo que “escucharán los comentarios de los usuarios” para luego, cuando se calme la indignación, empujarlo más lentamente.
Todos los actores con poder quieren que algo como Recall se vuelva estándar. Los jefes quieren vigilar a sus empleados; los gobiernos, a sus ciudadanos y enemigos; y los CEO de empresas tecnológicas quieren recopilar datos para entrenar IA y para segmentación publicitaria.
Los principales interesados probablemente tengan ideas distintas entre “intentarlo de nuevo más adelante”, “reorientarlo a otro uso” y “olvidarlo”, pero en una empresa del tamaño de Microsoft la toma de decisiones es muy lenta, así que es inevitable que el siguiente paso sea ambiguo. Como grupo, casi seguro todavía no lo saben.
Hace tiempo trabajé en una empresa que hacía una base de datos bastante conocida para apps móviles. Era una API sencilla para guardar datos en el teléfono y sincronizarlos con el servidor sin que el desarrollador tuviera que hacer mucho más.
Dos colegas pasaron varias semanas creando una app de chat convincente que sincronizaba mensajes de varios usuarios en varios dispositivos, y querían publicarla como demo, pero nadie se dio cuenta hasta que alguien señaló que no tenía seguridad en absoluto. El servidor simplemente aceptaba el último estado enviado por el cliente, lo que en un chat significaba que cualquier cliente podía reescribir todo el historial, y el servidor diría “¡gracias!” en la siguiente sincronización y lo distribuiría a todos.
Eran adultos con títulos de instituciones respetadas, y aun así jamás se les ocurrió esto. Creo que Recall se puede explicar perfectamente con la navaja de Hanlon y una cultura en la que a la gente no le gusta llevar la contraria. Está claro que hay mucha gente que quiere que las computadoras funcionen así, y puede que quisieran lanzarlo sin escuchar las críticas internas.
Hasta que eso cambie, hay que tomar con reservas qué tan seguro puede llegar a ser Recall.
En comparación con Apple Intelligence, Apple no solo ofrece la mayoría de las API locales en Swift, sino que también crea hardware dedicado y un sistema operativo parecido a un unikernel, y agrega capas de sandboxing que exponen solo las funciones del sistema operativo necesarias para el procesamiento de IA y la comunicación con el clúster.
En cambio, Microsoft está más cerca de “confía en nosotros, haremos lo correcto”.
Microsoft no consulta a los usuarios antes de agregar código a Windows. Los usuarios tampoco se comunican con Microsoft para decir qué código quieren o no quieren.
E incluso si lo hicieran, la empresa no se movería en función de las sugerencias de los usuarios. La reacción de periodistas, blogueros y comentarios sobre Recall no fue tanto “deberían retrasarlo”, sino “es una mala idea”.
Microsoft hará lo que quiera, como siempre.
El título enviado es un poco confuso, y la actualización tampoco lo aclara demasiado.
El original dice “Actualización de la función de vista previa Recall para Copilot+ PCs”, y señala que Recall pasará de ser una vista previa ampliamente disponible en Copilot+ PCs el 18 de junio de 2024 a una vista previa disponible primero en el Windows Insider Program en las próximas semanas.
Es decir, el lanzamiento público puede retrasarse, pero aún se distribuirá a Insider. Podría ser el 18 de junio de 2024, aunque la expresión “en las próximas semanas” sugiere que será después.
También dice que “anuncia actualizaciones que se aplicarán antes de que la vista previa de Recall se distribuya a los clientes el 18 de junio” y que “pronto planean llevar la vista previa de Recall a todos los Copilot+ PCs”.
Sí se retrasó, y como quizá ni nosotros ni Microsoft sabemos cuánto se retrasará, es un retraso indefinido.
Recall es un ejemplo típico de un error que Microsoft comete una y otra vez sin aprender: equivocarse en cómo mercadear y empaquetar una función.
Microsoft tiende a empujar con fuerza la integración para aumentar la adopción de nuevas funciones, y eso a menudo le sale en contra. Con Windows 8 también quería que la gente realmente usara la nueva interfaz Metro, así que la integró profundamente en el sistema operativo, la impulsó en todo el marketing y la convirtió en la primera pantalla después de iniciar sesión.
Había buenas funciones, como mejoras de rendimiento y de resultados de búsqueda, pero no eran opcionales. Los clientes que lo miraron por encima lo interpretaron como que “habían eliminado el escritorio”, y aunque no era cierto, esa impresión quedó porque Microsoft empujó demasiado la nueva función.
Ahora pasa algo parecido. Microsoft impulsó una herramienta objetivamente excelente, pero no les dio a los usuarios la oportunidad de elegir si la querían, y los mensajes y el marketing también hicieron confuso lo que realmente estaba ocurriendo. Esta publicación de blog también habla largo y tendido de la importancia de la seguridad, pero no dice cuáles son los problemas de seguridad reales ni cómo se resuelven.
Siempre me sorprende que Microsoft no aprenda, pese a que el marketing deficiente y la integración forzada ya le han costado caro varias veces.
El punto clave es que hay cosas que cualquiera quisiera que existieran solo temporalmente dentro de su computadora. Por ejemplo, al ingresar un número de tarjeta de crédito, uno definitivamente no quiere que la computadora tome una captura de pantalla. Más importante aún, uno suele usar editores de texto tipo “bloc de notas temporal” que pueden contener datos sensibles, y definitivamente no quiere que esos datos se vuelvan persistentes.
Microsoft no pensó bien las implicaciones de seguridad de esta función.
Ni siquiera estoy seguro de que la herramienta de IA solo hubiera funcionado sin conexión, y al final podría implicar compartir con Microsoft más datos completos que antes. Desde el punto de vista de la privacidad, esta función es repugnante.
Es decir, acceder localmente a todos los datos y subir los datos que se usan en apps en la nube.
Pero 10 años después quedó claro que el teclado y el mouse se usan muchísimo más.
Para quienes no han seguido la situación reciente, el gobierno de EE. UU. está reevaluando su relación con Microsoft por problemas de seguridad recientes vinculados a ataques patrocinados por los Estados ruso y chino.
Un caso reciente que se menciona es el incidente Microsoft Storm-0558: https://www.microsoft.com/en-us/security/blog/2023/07/14/ana...
Microsoft prometió recientemente mejorar sus prácticas de seguridad mediante incentivos en la compensación de ejecutivos y otras medidas: https://blogs.microsoft.com/on-the-issues/2024/06/13/microso...
Pero, pese a esas promesas, varios legisladores consideran que Microsoft no se toma en serio sus compromisos recientes de seguridad. Algunos de ellos tienen influencia sobre la cantidad de dinero que recibe Microsoft.
Recall se usa a menudo como un pararrayos que muestra el problema de Microsoft de lanzar funciones a toda prisa sin considerar la seguridad.
Video en el que el presidente de Microsoft es interrogado por un representante de Florida; también se menciona Recall: https://youtu.be/kB2GCmasH4c?t=8217
No creo que haya una sola razón para el retraso del lanzamiento, pero es muy probable que el hecho de que el mayor cliente de Microsoft vea Recall de esta manera haya influido mucho en la decisión de poner el lanzamiento en pausa.
La Microsoft de Satya Nadella es una empresa realmente extraña. Un lado parece correr siguiendo el “muévete rápido y rompe cosas” de Zuckerberg, y el otro dice: “Espera, somos la empresa de software más importante del mundo. ¡No se puede romper!”.
Ni hablar del intento de una década de alcanzar a Google y Apple en móviles con Windows Phone, RT y Nokia. Por suerte Nadella lo cerró.
Lo que me abrió los ojos fue que Surface Pro 10 existe solo para empresas. Diseñaron y produjeron todo el dispositivo, pero no lo venden a clientes comunes. Ese mercado, en cambio, tiene que ir a la línea Copilot, más experimental, que podría estar bien, pero de entrada no hay opción.
En resumen, los clientes que realmente importan, las empresas que pagan licencias por sitio, consideraron que esto era un riesgo de negocio inaceptable
Si en 2024 todavía usas Windows y no eres una multinacional ni una LLC, estás aceptando lo que te toca aceptar
Personalmente, me gustan mucho los videojuegos y la producción musical, así que uso arranque dual con Mint y Windows. En Linux, ambas cosas claramente se quedan cortas
La gente común fuera de nuestra burbuja geek no tiene muchas ganas de usar Linux de escritorio. Mac es excelente, pero es difícil jugar en serio ahí
También dice que adopta el open source. No quiere ser solo algo que usan los desarrolladores obligados por el trabajo, sino verse como una alternativa viva a Linux y Apple para los desarrolladores
Ahora también quiere atraer al “público masivo”, así que Windows viene con todo tipo de funciones supuestamente amigables para el usuario. También hay anuncios, pero no son tan graves como se dice. Es más bien que, cuando escribes mal algo en el menú Inicio, aparecen mezclados resultados de búsqueda web tipo Bing y anuncios, parecido a cuando buscas en Google. No sé si eso sea algo que “tengo que aceptar”, y no me ha molestado lo suficiente como para desactivarlo
Al final, usar Windows implica confiar tácitamente en Microsoft. Igual que los usuarios de iPhone o Android confían tácitamente en Apple o Google. Uno solo intenta reducir la cantidad de actores en los que tiene que confiar
Más bien, Microsoft siempre está bajo los reflectores y recibe muchas críticas fuertes, así que tiene más que perder que una empresa pequeña o con “mejor reputación”, y por eso no me da tanto miedo. Así que, aunque una nueva función inútil pudiera ayudar a la vigilancia de Microsoft, no veo mucha razón para preocuparme. Si quisiera vigilar, de todos modos podría hacerlo cuando quisiera
Ayer el presidente de Microsoft, Brad Smith, compareció ante el Comité de Seguridad Nacional de la Cámara de Representantes de EE. UU., y el comité argumentó que Microsoft es un riesgo para la seguridad nacional
Los clientes corporativos también podrían reaccionar a ese testimonio, pero por el momento, el motivo de este anuncio se siente más relacionado con el gobierno de EE. UU.
Lo interesante es que, gracias al sobrecalentamiento de la IA, incluso la gente no técnica empezó a pensar y hablar más sobre preocupaciones de privacidad y seguridad relacionadas con el software
Comparados con la recolección de datos que las grandes tecnológicas llevan años haciendo, los modelos de lenguaje grandes en sí no son especialmente más malignos. Pero la promoción de la AGI activó la reacción defensiva de la gente
Lo veo como algo positivo. La gente debería abordar los problemas de privacidad tecnológica con miedo, incertidumbre y duda
Claro que gran parte de mi actividad podría reconstruirse con otros datos de rastreo, pero capturas constantes de todo lo que estuvo en la pantalla son una mina de oro centralizada de datos, y quiero que nadie pueda acceder a eso
Me parece más maligno que la mayoría de las demás formas de recolección de datos
Recall usa un modelo de IA local integrado en Windows 11 para tomar capturas de pantalla de casi todo lo que ves o haces en la computadora, y permite buscar y volver a encontrar elementos que el usuario vio
Puedes desplazarte por instantáneas en una línea de tiempo navegable y revisar qué hiciste en la PC en una fecha específica. Según dicen, todo en Recall está diseñado para mantenerse local y privado dentro del dispositivo, y los datos no se usan para entrenar los modelos de IA de Microsoft
https://www.theverge.com/2024/6/13/24178144/microsoft-window...
Tuve que buscarlo, así que lo comparto para ahorrarle un minuto a alguien
Me pregunto cómo Microsoft podrá lanzar algo así a gran escala con ejecución en el dispositivo, en un ecosistema mucho más diverso de equipos Windows de bajo consumo y bajo costo
Esto es apenas el comienzo de productos centrados en IA que fueron sobrevendidos y luego se retrasarán o se desecharán discretamente
Los modelos de lenguaje grandes están bien para tareas simples, pero ya llegaron a su límite. Por muchos datos que haya, eso no resuelve los problemas de repetición y complejidad
Estas conversaciones las lideran personas que no han leído ni un solo paper sobre modelos de lenguaje grandes, o que ni siquiera los han usado de verdad. No conocen los riesgos en absoluto, pero siguen empujando porque algún jefe que no sabe nada les pidió hacer un plan de uso de IA
En cambio, Apple Intelligence no genera rechazo aunque recuerde todo lo que ocurre en todas las apps. Personalmente creo que la idea es buena y que debe implementarse con cuidado y seguridad, pero una función para volver a traer a la memoria los registros es más útil que buscar de nuevo.
Se ve el mismo doble estándar con la búsqueda generativa de Google y ChatGPT con búsqueda integrada de OpenAI. Si Google se equivoca, es un gran problema, pero del otro lado no tanto.
Apple AI básicamente ofrece hooks de API que permiten que las apps expongan acciones y datos al modelo. Por ahora parece que las propias apps de Apple hacen eso, pero cada dueño de app puede decidir si lo admite o no.
Es un enfoque completamente distinto.
Del lado del servidor también tiene una versión especial de sistema operativo estilo unikernel, de la que se eliminó todo lo que no es necesario para operaciones de IA o redes, y usa Swift y Secure Enclave.
No es lo mismo que una base de datos SQLite en texto plano escrita en C o C++ y COM, como le gusta a la división WinDev.
OpenAI y Bing dejan claro que el usuario está hablando con un chatbot de IA, y la mayoría de la gente no espera que sea tan confiable y preciso como el primer resultado de una búsqueda en Google.