El escándalo del escaneo de IA de Microsoft: es necesario replantear los estándares de privacidad

• Microsoft detectó recientemente que hackers respaldados por Estados estaban utilizando sus herramientas de IA generativa para ataques. En la comunidad de seguridad surgieron dudas sobre cómo Microsoft llegó a saberlo.
• Algunas personas rechazaron caracterizar la conducta de Microsoft como "espionaje". Sostienen que es normal que un proveedor de servicios en la nube supervise la actividad de los usuarios, y que no es justo llamarlo espionaje.
• Esto puede verse como un ejemplo de las cambiantes expectativas colectivas sobre la privacidad. Para entenderlo, hay algo que aprender de la pesca.
• A mediados del siglo XX, la sobrepesca empezó a reducir drásticamente la cantidad de peces en los océanos. En la industria ballenera apareció una tendencia similar de disminución.
• Daniel Pauly se dio cuenta de que los investigadores estaban cometiendo un error grave al decidir cuál era una captura permisible. El problema era que los investigadores no percibían la gravedad de la disminución de las poblaciones de peces.
• Pauly señaló que cada generación de investigadores tiene un punto de referencia (baseline) distinto para comparar las estadísticas actuales, y que el punto de referencia de cada generación es más bajo que el de la generación anterior. A esto lo llamó "síndrome de la línea base cambiante (shifting baseline syndrome)".
• La vigilancia en internet y la invasión de privacidad que la acompaña están siguiendo la misma trayectoria. La naturaleza generalizada de la tecnología moderna ha hecho que vigilar sea más fácil que nunca, y cada generación se acostumbra a la situación de privacidad de su juventud.
• Los chatbots de IA son el ejemplo más reciente de este fenómeno. Los chatbots generan respuestas a las entradas de los usuarios, pero detrás de escena existe un sistema complejo basado en la nube que rastrea esas entradas.
• El desplazamiento de la línea base está en el centro de nuestra pérdida colectiva de privacidad. La Corte Suprema de Estados Unidos ha sostenido durante mucho tiempo que nuestros derechos de privacidad dependen de una expectativa razonable de privacidad. Pero las expectativas son fáciles de alterar y están afectadas por el desplazamiento de la línea base.
• Entonces, ¿qué deberíamos hacer ahora? Los científicos de la pesca ahora observan el panorama completo. Ya no consideran medidas relativas, como comparar con la década anterior. En cambio, adoptan una visión integral de cómo debería verse un ecosistema marino saludable y una captura sostenible.
• En privacidad y seguridad necesitamos el mismo enfoque. En lugar de compararnos con una línea base desplazada, debemos dar un paso atrás y observar cómo sería un ecosistema tecnológico saludable.

[GN⁺]

Opiniones en Hacker News

Resumen de comentarios de Hacker News

• Comprender el comportamiento del consumidor respecto a la privacidad: Los consumidores toman decisiones mediante supuestos simplificados en un mundo complejo. En la economía digital, el problema no es el criterio de los consumidores, sino el cambio en los estándares regulatorios.
• El fracaso del instinto de privacidad: Las personas solo reaccionan con sensibilidad ante invasiones de privacidad de gente que conocen personalmente. Les es indiferente que organizaciones anónimas recopilen datos.
• Google y la privacidad: Google ha recopilado durante mucho tiempo nuestros correos electrónicos, historial de búsqueda y más. La mayoría de la gente considera razonable renunciar a la privacidad y usar herramientas convenientes.
• Big Tech y la privacidad: Las grandes tecnológicas, como las tabacaleras, convencen a la gente de que son beneficiosas. Debemos priorizar a las personas y la privacidad por encima de todo.
• Snowden y Big Tech: Snowden reveló que Big Tech entrega datos a la NSA. Los servicios de IA como OpenAI no son la excepción.
• La dificultad de proteger la privacidad: Es muy difícil lograr que la gente se interese por los problemas de privacidad. Se necesita educación y apoyo.
• La transparencia de Microsoft: Microsoft declara públicamente que sus servicios de IA son monitoreados. En la UE, legalmente deben conservar registros.
• Apple y el espionaje corporativo: Se afirma que Apple investiga dispositivos de forma ilegal. Esto plantea problemas sobre actividades de espionaje corporativo.
• Los problemas de Windows: Windows se está volviendo cada vez más problemático, y existen alternativas.
• Privacidad y costo: Algunas personas renuncian a la privacidad y eligen menor costo o funciones adicionales. También puede existir mercado para productos que prioricen la privacidad.