Preguntando a Microsoft: ¿están usando nuestros datos personales para entrenar IA?
(foundation.mozilla.org)- 9 personas —incluidos abogados, expertos en privacidad y activistas— revisaron el nuevo Acuerdo de Servicios (Service Agreement) de Microsoft, pero nadie pudo determinar si usa datos personales para entrenar modelos de IA
- La revisión abarcó datos personales recopilados por 130 productos, incluidos audio, video, chats y archivos adjuntos de productos como Office, Skype, Teams y Xbox
- Si ni siquiera 9 expertos en privacidad pueden entender los términos, es prácticamente imposible que usuarios comunes lo hagan
- Mozilla exige a Microsoft que responda con claridad a una pregunta simple: "¿usa datos personales para entrenar IA?"
- La cuestión central planteada es la falta de transparencia sobre cómo se usan los datos
Cuestión central planteada por la campaña
- 4 abogados, 3 expertos en privacidad y 2 activistas revisaron el nuevo acuerdo de servicios de Microsoft
- Ninguno de los 9 expertos pudo determinar si Microsoft planea usar datos personales para entrenar modelos de IA
- Debido a la ambigüedad de los términos, no es posible confirmar cómo se usarán los datos
- Si ni siquiera 9 expertos en privacidad pueden entender los términos, es poco probable que una persona promedio pueda hacerlo
Alcance de los datos revisados
- Se revisaron datos personales recopilados por 130 productos
- Ejemplos de productos incluidos: Office, Skype, Teams, Xbox
- Tipos de datos: audio, video, chats, archivos adjuntos
Lo que exige Mozilla
- Pide a Microsoft que declare directamente si usa datos personales para entrenar IA
- Lleva adelante una campaña para presionar por una respuesta mediante la participación de los usuarios (firmas)
1 comentarios
Comentarios de Hacker News
La estructura regulatoria para las grandes tecnológicas es un desastre total
No se debería permitir que, de facto, dos empresas controlen una parte tan grande de los puntos de contacto digitales de la gente en todo el mundo
No hay absolutamente ninguna razón para confiar en que no abusarán de esa posición de formas opacas y difíciles de rastrear. Son empresas con fines de lucro con capital de billones, con ejércitos de abogados y lobistas capaces de intimidar incluso a países medianos, y van a explotar todas las debilidades de un sistema regulatorio y político incompetente, caótico y capturado
Tienen presión para actuar así en beneficio de los accionistas, y a esos accionistas solo les importa tener unas cuantas “ganadoras” tecnológicas en su portafolio, sin importar si esta estructura de duopolio monopólico termina arruinando todo el futuro digital. Cuanto más se retrasen las medidas serias, más difícil será después
Solo cambian las herramientas; esa característica humana que empuja ese tipo de comportamiento siempre ha existido. No hay ningún interruptor que se active de repente cuando los activos superan cierto nivel
Tampoco creo que las empresas tengan una “obligación legal” hacia alguien, ni siquiera que exista tal “obligación”. Los directivos intentan alcanzar sus objetivos con las herramientas que tienen a mano, y en la práctica eso es exactamente lo que hacen
Este es el hilo más kafkiano y absurdo que he visto en Hacker News
Si los datos analíticos cuentan como información personal, entonces Microsoft claramente usa datos analíticos: https://www.microsoft.com/insidetrack/blog/microsoft-uses-an...
Si la pregunta es si Microsoft está leyendo cuentas de Gmail, documentos de Word o actividad pornográfica para meterlos en OpenAI, según sus términos no lo está haciendo: https://learn.microsoft.com/en-us/legal/cognitive-services/o...
Ahora, si Microsoft está haciendo en general cosas que no podemos saber, yo diría que sí
Desde hace mucho me opongo a la laberíntica política de privacidad de Microsoft
Antes, en otro foro, cuando los asistentes de programación con “IA” todavía no eran de uso generalizado, pregunté si la política de privacidad de Microsoft permitía subir y usar mi código cuando la telemetría estaba activada en VS Code
En ese momento lo descartaron como una tontería, pero nadie pudo señalar en los términos o la política de privacidad de Microsoft algún lugar donde ese tipo de procesamiento quedara excluido de forma clara y transparente
Ahora existe esta obsesión de entrenar modelos de aprendizaje automático con todos los grandes conjuntos de datos posibles, así que quizá aquella cautela de antes ya no parezca tan ridícula
A menos que haya una ventaja comercial o legal en decir “no haremos X”, las grandes empresas no se imponen conscientemente ese tipo de restricciones
Como referencia, aquí está el texto completo del próximo Contrato de Servicios de Microsoft
https://www.microsoft.com/en-us/servicesagreement/upcoming.a...
Y aquí está el resumen de cambios
https://www.microsoft.com/en-us/servicesagreement/upcoming-u...
La única limitación explícita que se ve parece ser sobre publicidad dirigida. Algo como: “no usamos correo electrónico, chat, videollamadas o mensajes de voz, documentos, fotos u otros archivos personales para dirigirle publicidad”
El resumen de cambios no menciona modificaciones a la política de privacidad, y esa política de privacidad tampoco parece excluir el entrenamiento de modelos de IA con datos de usuarios
He trabajado en la industria publicitaria y me parecen interesantes las leyes sobre información de identificación personal. En California existe la CCPA, así que entiendo que si solicito mediante un formulario la eliminación de mi información de identificación personal, deberían borrarla unos 90 días después.
Pero si entrenan un modelo con la información de identificación personal de un residente de California, luego llega una solicitud de eliminación, y tres meses después alguien pregunta por esa persona, ¿qué pasa si el modelo suelta información de identificación personal “eliminada”?
Supongo que al final eso se decidirá en tribunales, pero si alguien conoce bien la ley de California, me pregunto por qué todavía no ha habido intentos de apuntar a esto, aunque sea buscando un acuerdo económico
No conozco la ley de California, pero muchas leyes de privacidad similares permiten excepciones para datos agregados aunque se reciba una solicitud de “eliminación”
En general, la ley se aplica a los registros de datos en bruto, y no a los datos agregados, métricas o modelos. Aunque, en este caso, recuerdo que lo de los modelos se basa en un fallo específico relacionado con la industria de seguros o de calificación crediticia.
Ni siquiera hace falta que el modelo “suelte” los datos eliminados. Puede no ser un modelo generativo, sino un clasificador o un modelo de regresión, y en un mundo ideal ni siquiera debería haber sido entrenado con mis datos desde el principio.
También es importante que técnicamente es difícil. Supongamos que un modelo cuesta una suma enorme X y normalmente se reentrena cada 6 meses. Pero si siguen llegando solicitudes de eliminación, reentrenarlo con frecuencia para cumplir sería demasiado caro.
Existe investigación sobre machine unlearning para manejar esto de forma eficiente, pero hasta ahora ha sido bastante decepcionante
Si la parte personal desapareció, no tengo claro si habría base para una reclamación
¿Cómo logra el equipo legal de Microsoft una hazaña así? ¿Será que han construido suficientes capas de abstracción lingüística como para que solo un equipo lo bastante grande, como Microsoft o un gran jurado, pueda extraer el significado?
¿Son frases señuelo con trampas ocultas en lugares aparentemente inofensivos? ¿O es más bien una forma de dar vueltas sin jamás dar una respuesta precisa?
Si no excluyeron explícitamente un uso, puedes asumir que eventualmente se usará como datos de entrenamiento mientras esos datos sigan siendo útiles. Aunque no sea ahora mismo, pasará en algún momento. Eso aplica a toda empresa del planeta que acumula datos.
Esa debería ser la suposición por defecto de todos, y salvo que aparezca una ley, en general será correcta. Incluso si aparece una ley, puede ser inútil para datos pasados por la evasión de jurisdicciones, y es muy probable que solo proteja débilmente los datos nuevos.
Bienvenidos al nuevo petróleo
La privacidad y la información de identificación personal no son lo mismo. En muchos sentidos, es imposible evitar el uso de datos personales.
El texto predictivo usa datos personales. “Aprende” de todo el mundo. ¿Las oraciones y los párrafos son datos personales? Un motor de búsqueda registra lo que escribo. ¿Clasificarías una búsqueda como “personal”? Podría copiar y pegar el primer comentario de este hilo; ¿eso también es dato personal?
Puede que yo esté completamente equivocado, y quizá no deberíamos escribir nada en una página web.
Parecía que ni cuatro abogados ni tres expertos en privacidad lograban ponerse de acuerdo sobre qué es un dato personal. Si las big tech meten los datos generados por la gente en herramientas de “IA”, sí. Si las empresas tecnológicas pequeñas también lo hacen, sí.
Estoy listo para agarrar el rastrillo junto con Mozilla, pero quiero saber por qué. Necesitamos gente que diga claramente cómo proteger mis intereses, no que solo encienda a la multitud.
El uso de datos, de cualquier dato, está sujeto a contratos. Si lees los “documentos legales” que aceptaste al usar Hacker News, hay toda una sección sobre cómo usan los datos personales. ¿También deberíamos ir contra HN con rastrillos, o aquí sí está bien?
¿Qué de todo esto cuenta como “entrenamiento de IA”?
Un sistema de detección de abuso que aprende del comportamiento y los datos de los usuarios para escalar usuarios maliciosos a revisión humana, una función de ranking que aprende de todo el comportamiento de los usuarios cuando haces búsquedas web, un redactor de correos que sugiere autocompletado según mi historial de escritura, una interfaz pública de chat con LLM que aprende de mis correos privados.
En la mayoría de los casos, el “entrenamiento de IA” se parece más a un detalle de implementación que a algo que debería ir en una política de privacidad. Ojalá Mozilla dijera con más precisión qué conducta le preocupa
Sí, las megacorporaciones hacen eso y lo seguirán haciendo. Si crees que alguna gran corporación piensa en nuestro mejor interés y además tiene una gobernanza perfectamente resuelta, ja, ja, ja, pero en grande