Tras las críticas, Zoom dice que no usará datos de clientes para entrenar modelos de IA
(darkreading.com)- Tras el creciente rechazo por el alcance excesivo de los permisos de uso de datos después de introducir funciones de IA generativa, Zoom modificó sus términos y su producto para que el contenido de los clientes no se use para entrenar modelos de IA
- La exclusión incluye audio, video, chat, uso compartido de pantalla y archivos adjuntos, además de contenido de carácter comunicacional como resultados de encuestas, pizarras y reacciones
- El origen de la controversia fue la política anterior, que permitía usar algunos datos de clientes para el entrenamiento en funciones como Zoom IQ Meeting Summary y Zoom IQ Team Chat Compose
- Tras la reacción de los clientes, Zoom primero añadió una opción de opt-out, pero luego volvió a modificar sus términos el 11 de agosto para eliminar en gran medida las referencias al uso de IA
- Los nuevos términos siguen manteniendo derechos sobre los datos generados por el servicio, como telemetría, uso del producto y datos de diagnóstico, por lo que persiste la tensión entre las funciones de IA y la confianza de los usuarios
Los términos de Zoom cambian para excluir el contenido de clientes del entrenamiento de IA
- Tras los comentarios de los clientes, Zoom actualizó sus Terms of Service para dejar en claro que no usará contenido de clientes para el entrenamiento de modelos de IA de Zoom ni de terceros
- Los contenidos excluidos del entrenamiento de IA son los siguientes
- audio
- video
- chat
- uso compartido de pantalla
- archivos adjuntos
- contenido de clientes de carácter comunicacional, como resultados de encuestas, pizarras y reacciones
- Detrás de la controversia están las funciones de IA generativa de Zoom
- Zoom IQ Meeting Summary: función de resumen automático de reuniones basada en IA
- Zoom IQ Team Chat Compose: función de redacción de chat basada en IA
- La política anterior otorgaba a Zoom el derecho de usar algunos datos de clientes para entrenar modelos de IA detrás de estas funciones, y el hecho de que pudiera hacerlo sin consentimiento del cliente provocó rechazo
Amplios derechos de uso de datos y una mayor carga sobre la confianza
- Los términos anteriores otorgaban a Zoom derechos muy amplios en relación con el uso de datos de clientes
- derechos “perpetual, worldwide, non-exclusive, royalty-free, sublicensable, and transferable”
- fines amplios que incluían aprendizaje automático, inteligencia artificial, entrenamiento y pruebas
- acciones sobre los datos como “redistribute, publish, import, access, use, store, transmit, disclose”
- Cuando la reacción de los clientes se extendió por redes sociales, Zoom primero modificó su política en la dirección de “no usar audio, video ni chat de clientes para entrenar modelos de IA sin consentimiento del cliente”
- Después, el 11 de agosto, volvió a revisar sus términos para eliminar prácticamente la mayoría de las expresiones relacionadas con el uso de inteligencia artificial
- Aun así, los nuevos términos mantienen los derechos de Zoom sobre los datos generados por el servicio
- datos de telemetría
- datos de uso del producto
- datos de diagnóstico
- Shomron Jacob, responsable de aprendizaje automático en iterate.ai, considera que las empresas tecnológicas llevan mucho tiempo utilizando datos de clientes para mejorar la experiencia del usuario e introducir nuevas funciones
- En ese contexto, Google, Facebook y Amazon han usado datos de usuarios para personalizar servicios y mejorar algoritmos de IA
- A medida que aumenta el escrutinio sobre los problemas de privacidad, seguridad y ética de la IA, también crecen las expectativas de transparencia y consentimiento del usuario
- Con marcos regulatorios como el GDPR y la CCPA de California estableciendo criterios para la recolección y uso de datos, las empresas tecnológicas deben manejar al mismo tiempo el uso de datos para mejorar la IA, el cumplimiento normativo y la protección de la confianza del usuario
1 comentarios
Opiniones de Hacker News
Si los datos están almacenados en una base de datos que la empresa puede leer y acceder libremente, es decir, si no hay cifrado de extremo a extremo, al final la empresa intentará cambiar los términos para usar esos datos en entrenamiento de IA.
Creo que el incentivo es demasiado fuerte como para resistirse.
A los clientes de paga les molesta mucho que sus datos se usen para entrenar modelos de IA sin su permiso, y este caso de Zoom es el ejemplo más reciente.
Las empresas que intenten algo así se van a quemar fuerte, y Zoom ya se quemó bastante. Personalmente, creo que Zoom en realidad no intentaba hacer eso; más bien no dejó lo suficientemente claro que no lo haría, y eso desató un desastre de relaciones públicas.
Si a los clientes de paga no les gusta, para la empresa el incentivo está mucho más fuerte del lado de no hacerlo.
Para las empresas sería un dolor de cabeza tener que rastrear bajo qué versión de los términos se almacenó cada fragmento de datos, pero tendría que volverse así de molesto para que empiecen a tratar los datos como lo que deberían ser: una deuda.
No tienen contexto ni control de calidad. Aunque se asuma que la sabiduría de las masas, en promedio, se acerca a la respuesta correcta, al final estarías entrenando a la IA para dar respuestas mediocres.
Durante la fiebre del big data, muchas empresas guardaban todo diciendo que los datos tenían valor, pero la mayoría ni siquiera valía lo que costaba el disco duro. Para que tengan valor, tiene que haber un comprador dispuesto a pagar el costo de aprovecharlos.
En el mundo hay muchos datos, pero lo que realmente tiene valor es la información y el conocimiento.
Zoom solo se decepcionó de que se difundiera el cambio en sus términos, y probablemente también de que su reputación de ser amigable con la privacidad fuera tan alta como para que esto generara controversia.
Me pregunto si Teams enfrentaría una reacción similar si sus términos no incluyeran ya algo así.
Otros quizá lo sientan distinto, pero todas las personas que conozco ya odian Teams y solo lo usan cuando la empresa las obliga.
Hace tiempo hablé con un ejecutivo de Microsoft, y me dijo que alguna vez surgió la idea de poner anuncios contextuales en Hotmail al estilo de Gmail, pero fue rechazada con fuerza.
La idea de usar datos de clientes, incluso datos de usuarios gratuitos, de esa forma era tabú. Microsoft gana dinero con enormes contratos empresariales, y si los datos de clientes se usaran de cualquier forma que beneficiara a competidores, esos contratos podrían verse amenazados.
Artículos relacionados:
Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - agosto de 2023 (35 comentarios)
How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - agosto de 2023 (177 comentarios)
Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - agosto de 2023 (16 comentarios)
Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - agosto de 2023 (194 comentarios)
Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - agosto de 2023 (510 comentarios)
Zoom claramente tiene varios modelos de IA, y lo mismo pasa con Teams, Google Chat y otros.
Necesitan esos modelos para subtítulos y transcripciones automáticas de reuniones, y también para el desenfoque automático de fondo y la separación del fondo. Probablemente también estén trabajando en un producto de “resumen de reuniones”.
Son funciones que a la gente le gustan y usa todo el tiempo. Me pregunto cómo esperan que Zoom mejore esas funciones sin recopilar datos reales de usuarios de la plataforma.
Demasiado tarde. Me tomó una hora levantar una instancia de Jitsi autohospedada, y no tengo razones para volver.
Me sorprendieron el rendimiento y la estabilidad de Jitsi.
Varias personas que conozco, incluyéndome, estamos por seguir ese camino pronto.
Estoy armando una lista de empresas de IA que entrenan con datos de usuarios: https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
Voy a actualizar la entrada de Zoom, pero todavía me parece sospechoso
La semana pasada ajusté un modelo de regresión con parte de los datos de clientes; entonces, ¿entrené una IA con datos de clientes? ¿Es una cuestión de intención, de si está dirigido a usuarios públicos, o de si es un modelo generativo?
Por eso no creo que ese criterio aplique
¿Zoom almacena los datos de video o audio de las llamadas? Esa es realmente la pregunta clave
Si almacenan cualquier cosa, no se puede confiar en ellos
Además, si usan protocolos de streaming de video como HLS o MPEG-DASH, el stream se guarda como fragmentos de video y luego se elimina
Vuelve a ser decepcionante que las grandes empresas intenten colar este tipo de políticas sin que se note
¿Quién cree que esto está bien? ¿Algún ejecutivo que solo quiere embolsarse dinero? Tenemos que ser mejores que eso
“Tras la reacción negativa, Zoom dijo que no usará datos de clientes para entrenar modelos de IA”
Por ahora
Para empezar, si todo tiene cifrado de extremo a extremo, ¿cómo podrían entrenar algo?
Me parece bastante claro para todos cuál de las dos opciones es más plausible, aunque curiosamente creo que habrá opiniones divididas sobre cuál de las dos no tiene sentido
Zoom, como Meet, Teams, WebEx y muchos otros servicios que conozco, está “cifrado”, pero el “cifrado de extremo a extremo” en el sentido habitual no es la opción predeterminada. Algunos tienen una opción de E2EE, pero está enterrada en lo profundo de la configuración del servicio y no es fácil activarla
Por eso, por diseño, el servidor puede ver el audio y el video, y de hecho los ve. Si la infraestructura se ve comprometida, un atacante también podría verlos. El cifrado en el modo predeterminado solo impide que el ISP vea el contenido de la llamada
En cambio, las llamadas de Signal sí tienen E2EE. Incluso si una llamada se retransmite a través de los servidores de Signal, Signal no puede ver el video ni el audio descifrados. Eso sí, aun en ese caso puede saber quiénes participan en la llamada, pero no lo que se dijo
Como nota al margen, por eso creamos Booth.video: para mostrar que esto no es una disyuntiva fundamental, y que las videoconferencias con E2EE y seguridad de metadatos son posibles incluso en el navegador