Jueza rechaza argumento de un ‘programa de vigilancia masiva’ que perjudica a todos los usuarios de ChatGPT

• La orden judicial para que OpenAI conserve indefinidamente los logs de ChatGPT de millones de usuarios, con el fin de preservar evidencia en una demanda por copyright, llevó la controversia sobre la privacidad de los usuarios al centro del litigio
• El segundo solicitante, Aidan Hunt, objetó que la orden, que también abarca chats borrados y anónimos, se parece más a un programa nacional de vigilancia masiva, y que incluso si solo se conservaran las salidas, estas podrían revelar las preguntas de entrada o los temas tratados
• La jueza Ona Wang consideró que la orden es una medida para que una empresa privada preserve, separe y resguarde datos existentes con fines del litigio, y no aceptó la interpretación de vigilancia masiva
• El tribunal determinó que una posible vulneración de la privacidad constitucional o contractual de los usuarios de ChatGPT es una cuestión colateral sin relación directa con el fondo del caso de infracción de copyright, por lo que no permitió la intervención de Hunt
• OpenAI debatirá sus objeciones a la orden de preservación en una audiencia oral el 26 de junio, y Corynne McSherry, de la EFF, subrayó la necesidad de mecanismos de notificación, borrado y transparencia para los registros de chat de IA

---

Orden de preservación de logs de ChatGPT e intento de intervención de usuarios

• El tribunal ordenó a OpenAI conservar indefinidamente los logs de ChatGPT de millones de usuarios, incluyendo también los chats eliminados
• La orden busca preservar evidencia potencial en una demanda por infracción de copyright presentada por organizaciones de noticias
• La primera solicitud de intervención de un usuario se presentó a nombre de una empresa, pero la jueza Wang la rechazó en mayo porque la compañía debía haber presentado los documentos a través de un abogado
• El segundo solicitante, Aidan Hunt, dijo que usa ChatGPT ocasionalmente y que, durante el uso del servicio, a veces envía a OpenAI “información personal y comercial muy sensible”

Alegato de Aidan Hunt sobre invasión de privacidad

• Hunt sostuvo que la orden de preservación creó un programa nacional de vigilancia masiva que afecta y potencialmente perjudica a todos los usuarios de ChatGPT
• También cuestionó que los usuarios no fueron informados de antemano de que, de repente, sus chats eliminados y anónimos pasarían a conservarse
• Consideró que el riesgo persiste incluso si el alcance de la preservación se limita a las salidas de ChatGPT
  • Esto se debe a que las salidas pueden revelar esencialmente la pregunta de entrada o el tema tratado, y a menudo incluso reformularlo de manera explícita
• Hunt señaló que no sabía que OpenAI estaba conservando esa información hasta enterarse del asunto en un foro en línea
• Afirmó que se violaban sus derechos de la Cuarta Enmienda y al debido proceso, y propuso solicitar que se anulara la orden judicial

Solicitud para excluir chats anónimos y temas sensibles

• Hunt señaló que la jueza Wang no consideró excluir los Anonymous Chats del alcance de preservación y divulgación
• Sostuvo que los chats anónimos probablemente contienen la información más sensible y potencialmente más dañina de los usuarios
• Los tipos de chats cuya exclusión pidió fueron los siguientes
  • Chats sobre temas médicos, financieros, legales o personales
  • Chats que contienen información profundamente privada sobre el usuario, pero que no guardan ninguna relación con los intereses de las organizaciones periodísticas demandantes
• Hunt consideró que este caso plantea una nueva e importante cuestión constitucional sobre el derecho a la privacidad en relación con el uso de IA
• También planteó como tema si una orden de discovery en un caso civil puede crear un programa nacional de vigilancia masiva

Fundamentos de la jueza Wang para el rechazo

• La jueza Wang no aceptó los argumentos de Hunt en la orden del 20 de junio
• En una nota al pie dejó claro que la orden de preservación de documentos no puede interpretarse como vigilancia masiva
  • La orden exige que una empresa privada preserve, separe y resguarde ciertos datos que ya posee, únicamente para fines del litigio
  • También indicó expresamente que el poder judicial no es una agencia de aplicación de la ley
• Consideró que la cuestión de si la preservación temporal, durante el litigio, de ciertos datos de logs de salidas de chats que OpenAI normalmente borraría puede vulnerar los derechos de privacidad constitucionales o contractuales de consumidores individuales es una cuestión colateral
• Estimó que ese punto no contribuye “de ninguna manera” a establecer los hechos del fondo del caso de infracción de copyright
• Determinó que las cuestiones “nuevas” planteadas por Hunt no forman parte del litigio por infracción de copyright y que, aun si se abordaran, retrasarían indebidamente la resolución de las cuestiones reales del caso

Audiencia oral de OpenAI y problema de la notificación a usuarios

• OpenAI tendrá la oportunidad de presentar argumentos orales ante la jueza Wang el 26 de junio sobre sus objeciones a la orden de preservación
• El punto que más preocupaba a Hunt era que la orden se mantuviera y que los datos de chats pudieran ser divulgados a las organizaciones periodísticas demandantes
• La jueza Wang consideró que, por ahora, no existe ese riesgo porque todavía no se ha entregado ningún dato de chats a las organizaciones de noticias
• Hunt advirtió que, incluso si los datos no se comparten, el solo hecho de que OpenAI los conserve puede causar un daño grave e irreparable
• Algunos usuarios han planteado dudas sobre qué tan firmemente luchará OpenAI
  • Hunt teme que, si OpenAI prioriza otras preocupaciones como el costo del caso, una resolución rápida o evitar daño reputacional, la defensa de la privacidad de los usuarios quede en segundo plano
• OpenAI no respondió de inmediato a una solicitud de comentarios, y anteriormente había dicho que impugnaría la orden indicando el alcance de los usuarios afectados
• Corynne McSherry, de la Electronic Frontier Foundation, consideró que esta orden de discovery crea un riesgo real para la privacidad de los usuarios y podría sentar precedente para otros litigios
• McSherry dijo que, en las apps de chat con IA, los usuarios deben poder borrar sus registros y tener la certeza de que realmente fueron eliminados, y que también se necesitan notificaciones oportunas sobre solicitudes de información de usuarios y reportes periódicos de transparencia