Microsoft está vigilando a los usuarios de sus herramientas de IA

Microsoft está vigilando a los usuarios de sus herramientas de IA

• Microsoft anunció que descubrió que hackers de China, Rusia e Irán estaban usando sus herramientas de inteligencia artificial (IA) para mejorar sus capacidades de piratería informática.
• Esos hackers están siendo rastreados como Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon y Salmon Typhoon, y se determinó que están usando modelos de lenguaje de gran escala (LLM) para fortalecer las operaciones cibernéticas.
• La única manera en que Microsoft u OpenAI puedan detectar este tipo de actividad es vigilando las sesiones del chatbot.
• Los términos de servicio probablemente indiquen que se permite la vigilancia de los usuarios, y aunque no sea sorprendente que Microsoft y OpenAI vigilen el uso de IA, esta publicación confirma que eso está ocurriendo.

Opinión de GN⁺

• Esta nota aporta información importante al revelar que Microsoft está monitoreando el uso de herramientas de IA y rastreando actividades de hackers respaldados por estados.
• La vigilancia de usuarios puede generar preocupaciones sobre privacidad personal y seguridad, pero también puede verse como una medida clave para fortalecer la ciberseguridad y proteger la seguridad nacional.
• Esta actividad de monitoreo muestra la naturaleza de doble filo de la IA y puede avivar el debate sobre los nuevos retos éticos y legales que plantea su desarrollo tecnológico.

[GN⁺]

Comentarios de Hacker News

• Resumen de comentarios sobre el procesamiento de datos de usuarios de la API de OpenAI

  • Según los Términos de Servicio (TOS) de la API de OpenAI, OpenAI puede conservar las entradas y salidas de la API durante un máximo de 30 días para prestar el servicio y detectar abusos.
  • A menos que la ley lo exija, los datos se eliminan del sistema después de 30 días.
  • Los usuarios pueden solicitar (ZDR) que sus datos no se conserven para casos de uso específicos.
  • Los detalles del procesamiento de datos pueden consultarse en la página de documentación de la plataforma de OpenAI.

• Resumen de comentarios sobre el procesamiento de datos de usuarios de herramientas de IA de Microsoft

  • Aunque hay una afirmación de que "Microsoft vigila a los usuarios de sus herramientas de IA", lo que en realidad encontró Microsoft fue que gobiernos hostiles de países autoritarios estaban usando esas herramientas de IA para actividades ilegales.
  • Al aceptar los términos de servicio, los usuarios reconocen que Microsoft puede realizar este rastreo de datos.

• Resumen de comentarios sobre Google Bard y Gemini

  • Gemini de Google aclara desde su sitio web que las conversaciones de los usuarios son revisadas por humanos y se usan para mejorar la tecnología de la app de Gemini.
  • No debes introducir información que no quieras que se muestre a un revisor o que Google utilice.
  • El contenido de Google Workspace no se revisa ni se usa para mejorar Gemini.
  • Si desactivas la actividad de la app de Gemini, puedes evitar que las futuras conversaciones sean revisadas o usadas para mejorar modelos de machine learning.

• Resumen de comentarios sobre los términos de servicio y la política de privacidad

  • Muchas compañías tecnológicas tienen derecho a vigilar el uso de IA de los usuarios según lo indicado en sus términos de servicio.
  • Si existe una cláusula en los términos que autoriza el monitoreo, es razonable asumir que la empresa sí está monitoreando.
  • La política de privacidad busca que el usuario confíe en la empresa, pero no hay forma de verificar si la compañía realmente la cumple.

• Resumen de comentarios sobre el monitoreo de datos de usuarios de herramientas de IA de Microsoft

  • El monitoreo de Microsoft del uso de herramientas de IA por parte de los usuarios no es una sorpresa y, de hecho, ya es algo ampliamente conocido.
  • Varias compañías de tecnología, incluido Microsoft, tienen permisos para ver el contenido de las conversaciones de los usuarios, y eso solo debería hacerse con autorización explícita y revocable del usuario.

• Resumen de comentarios sobre uso de herramientas de IA y recolección de datos

  • Usar herramientas de IA significa que se recopilan datos de los usuarios a gran escala.
  • Si te importa la protección de datos del usuario, solo deberías usar IA local.

• Resumen de comentarios sobre la relación entre el desarrollo de IA y la recolección de datos

  • La IA se basa en datos, y cuanta más data se recolecta, mejor se puede entrenar la IA, lo que crea un ciclo virtuoso en el que más usuarios quieren aportar sus datos.

• Resumen de comentarios sobre la recolección de datos y la detección de abusos en plataformas

  • Es evidente que todas las plataformas recopilan las entradas de los usuarios para entrenar el siguiente modelo y detectar abusos.