- Recientemente me encontré con un artículo publicado por investigadores de NYU y Cornell titulado "How to think about end-to-end encryption and AI". Este artículo aborda preguntas importantes sobre la IA y el cifrado de extremo a extremo, y aunque no estoy de acuerdo con algunas conclusiones, trata un tema muy importante.
¿Qué es el cifrado de extremo a extremo y qué relación tiene con la IA?
- Durante la última década, una de las historias más importantes relacionadas con la privacidad ha sido el auge de las plataformas de comunicación con cifrado de extremo a extremo. Antes de 2011, la mayoría de los dispositivos conectados a la nube subían los datos en texto plano.
- El cifrado de extremo a extremo es una tecnología que impide que el servidor pueda ver el contenido en texto plano de los mensajes. Sin embargo, esta tecnología puede dificultar que el servidor procese los datos.
- Con el avance de la IA, es cada vez más probable que mucho procesamiento de datos se descargue a servidores remotos. Esto puede generar problemas de privacidad.
Impacto de la IA en la mensajería con cifrado de extremo a extremo
- Los sistemas con cifrado de extremo a extremo están diseñados para que el contenido de los mensajes no pueda ser accedido durante la transmisión por nadie fuera de los dispositivos de los participantes. Sin embargo, no garantizan cómo procesará los datos el usuario.
- La forma en que la IA procesa los datos puede generar problemas complejos relacionados con el consentimiento del usuario. Algunas empresas podrán orientar bien a los usuarios, pero otras no.
Hardware confiable y "Private Cloud Compute" de Apple
- Apple introdujo un enfoque llamado "Private Cloud Compute" para resolver los problemas de privacidad de la IA. Es una forma de proteger los datos usando hardware confiable.
- Este sistema hace que tanto para atacantes como para empleados de Apple sea difícil filtrar datos. Sin embargo, sigue ofreciendo garantías de seguridad más débiles que el cifrado.
¿Para quién trabajan los agentes de IA?
- La forma en que los agentes de IA procesan los datos de los usuarios puede abrir la posibilidad de que los gobiernos exijan acceso. Esto plantea preguntas importantes sobre la privacidad.
- Las decisiones técnicas pueden no ser suficientes para garantizar la privacidad, y no hay mucha certeza de que la sociedad vaya a tomar las decisiones políticas correctas.
1 comentarios
Opinión de Hacker News
A medida que aumentan los sistemas de detección automatizada, disminuye el personal que atiende casos individuales y los administradores dependen más de la detección automática. Esto puede causar una gran frustración porque, cuando aparecen falsos positivos, resolver el problema se vuelve difícil. En particular, si se usa en la aplicación de la ley, esto puede ser devastador para la vida de una persona
Por ejemplo, alguien contó que en Amazon fue marcado por error por reseñas ilegales e intentó sin éxito contactar a una persona para resolver el problema. Si una situación así ocurriera en un asunto penal grave, podría arruinarle la vida a alguien
Los sistemas de detección automatizada no deberían reemplazar a las personas, sino complementarlas para permitir hacer más trabajo con menos personal. Sin embargo, hoy faltan incentivos y quienes toman decisiones no manejan casos reales, por lo que no perciben el problema
La verdadera amenaza puede surgir cuando la IA pasa de acelerar el trabajo individual a convertirse en una herramienta de control organizacional. Eso puede hacer más efectivas a las organizaciones, pero también debilitar la creencia de que los empleados son seres humanos reales
El verdadero riesgo de la vigilancia masiva es recopilar información sobre personas incómodas para hacer que dejen de serlo. Aún no se han revelado todas las consecuencias de la vigilancia masiva
OpenAI declara con transparencia que los datos se conservan durante 30 días y que empleados y contratistas externos pueden revisarlos
Se están planteando preguntas difíciles sobre si los sistemas de IA realmente trabajan para nosotros. Las tendencias actuales dejan poca esperanza para un futuro neutral y que priorice la privacidad
Apple anunció que publicará imágenes de software para que investigadores de seguridad puedan verificar errores, pero no publicará el código fuente. Apple afirma que no almacena datos de usuarios y que los ingenieros de soporte no pueden ver esos datos
En la cuestión de para quién trabaja la IA, es muy probable que las empresas de adtech hagan que la IA opere en contra del interés del usuario. Esto se debe a la expectativa de servicios "gratuitos" financiados con publicidad
Es importante el concepto legal de para quién trabajan realmente los agentes de IA. Lo que se ha propuesto actualmente incluye vigilancia frente a diversas amenazas
Como consecuencia de la vigilancia masiva, los datos almacenados en la nube pueden ser escaneados, lo que aumenta el riesgo de quedar bajo vigilancia por una simple opinión disidente
Las garantías técnicas no son lo mismo que las promesas al usuario. El PCC de Apple mejora la seguridad, pero no garantiza transparencia ni rendición de cuentas. La transparencia es un problema mayor que la seguridad
Para que la IA sirva a la sociedad, hay que corregir la asimetría de información. Si queremos un buen comportamiento empresarial, debemos hacer que operen con transparencia
Las decisiones técnicas pueden no resolver los problemas de privacidad. Lo importante es a quién se le dará acceso a los agentes de IA. Técnicamente, se puede ejecutar un agente de forma local y bloquear la conversación con personas que no puedan acceder al sistema