Meta suspende programa de seguimiento de empleados tras filtración interna de datos

 (wired.com)
1 puntos por GN⁺ 5 시간 전 | 1 comentarios | Compartir por WhatsApp
  • Meta suspendió temporalmente el programa Model Compatibility Initiative (MCI) después de que los datos que recopilaban entradas en las computadoras de empleados quedaran expuestos de forma excesiva dentro de la empresa
  • MCI se implementó en abril para empleados en Estados Unidos y generó rechazo interno por recopilar información como movimientos del mouse, ubicación de clics, pulsaciones de teclas y contenido de la pantalla
  • La dirección consideraba que los datos de empleados eran necesarios para que la IA aprendiera cómo las personas usan el software, pero las preocupaciones de privacidad y seguridad derivaron en un problema real de exposición interna
  • Stephane Kasriel informó a los empleados que un problema de seguridad detectado el 18 de junio fue atendido en un plazo de 4 horas, pero que la corrección inicial no se mantuvo, por lo que restringieron aún más el acceso a los datos
  • Meta explicó que solo reanudará MCI cuando tenga certeza de que los controles de protección de datos son efectivos, y que ya recopiló suficientes datos para evaluar su valor a largo plazo

Suspensión de MCI y exposición interna de datos

  • Meta suspendió temporalmente el programa de seguimiento de empleados MCI
  • La suspensión ocurrió después de que datos potencialmente sensibles recopilados por MCI quedaran expuestos a otros empleados dentro de la empresa
  • Tracy Clayton, portavoz de Meta, explicó que el programa fue diseñado para contar con medidas de protección de la privacidad y que, aunque por ahora no hay indicios de que empleados de Meta hayan accedido indebidamente a los datos, se suspende durante la investigación

Datos recopilados y rechazo de empleados

  • MCI es una herramienta distribuida en abril a empleados de Estados Unidos
  • Los empleados señalaron en una petición de oposición que recopilaba lo siguiente:
    • Movimientos del mouse
    • Ubicación de clics
    • Pulsaciones de teclas
    • Contenido de la pantalla
  • Al momento del lanzamiento, los empleados no podían optar por no participar en MCI, aunque tras las protestas se hicieron cambios limitados
  • Los empleados venían expresando preocupación de que MCI pudiera vulnerar la privacidad, la seguridad y la libertad individual

Por qué Meta impulsó MCI

  • La dirección de Meta defendió reiteradamente que la recopilación de datos de MCI era necesaria para entrenar sistemas de IA
  • El objetivo es que la IA aprenda cómo las personas operan software en una computadora
  • La dirección consideraba que los empleados eran los mejores ejemplos de los que la IA podía aprender

Aviso interno de seguridad y reacción de empleados

  • El lunes, un ingeniero de Meta informó en un aviso interno de seguridad que una base de datos con información recopilada por MCI había quedado expuesta para cualquier persona dentro de la empresa
  • Un exempleado que participó en actividades contra MCI calificó el problema como “a mess” y dijo que era algo que los empleados esperaban que ocurriera
  • Ese exempleado criticó que el liderazgo impulsó el programa pese a las preocupaciones de los empleados y que no reconoció los riesgos para la seguridad y privacidad de los datos de trabajadores y clientes
  • El lunes, los foros internos se llenaron de comentarios críticos sobre el problema de seguridad, y luego Meta suspendió MCI por completo, algo que sorprendió a algunos empleados
  • Varios empleados dijeron que estaban confundidos porque la herramienta seguía ejecutándose en sus laptops hasta antes del anuncio de suspensión

Aviso de Kasriel y condiciones para reanudarlo

  • Stephane Kasriel, vicepresidente a cargo de la investigación de IA de Meta, informó tarde el lunes a los empleados sobre la suspensión de MCI
  • Según Kasriel, el problema de seguridad fue descubierto el 18 de junio y atendido en un plazo de 4 horas
  • Sin embargo, la corrección inicial no se mantuvo, por lo que fue necesario bloquear más el acceso a los datos
  • Debido a este problema, “algunos datos derivados de MCI” quedaron accesibles para más personas de las previsto, aunque no se ofrecieron detalles concretos
  • MCI solo volverá a activarse cuando Meta tenga confianza en la efectividad de los controles de protección de datos
  • Meta ya recopiló suficientes datos para evaluar el valor a largo plazo de MCI y planea compartir más información sobre su futuro

Lecturas relacionadas

1 comentarios

 
GN⁺ 5 시간 전
Opiniones de Hacker News

  • Meta sigue siendo la empresa más descarada y una de las más vergonzosas para trabajar
    Cuesta pensar en uno solo de sus productos que no haya hecho al mundo claramente peor
    Incluso su incursión reciente en hardware va por la línea de hombres grabando a mujeres ebrias con Ray-Ban, vigilancia y otras formas de destruir la confianza en las interacciones cotidianas
    Algunos conocidos en laboratorios de frontera más “considerados” dicen que solo por eso descartan de inmediato a postulantes de Meta

    • Facebook, por ejemplo, les hizo ganar mucho dinero a sus accionistas, y todos sabemos que eso equivale a hacer del mundo un lugar mejor
    • Si hablamos de productos que no empeoraron claramente el mundo, ahí está zstd
      Con React y PyTorch la opinión está más dividida
    • Meta es como una cárcel dorada para adolescentes de unos treinta que no logran madurar hagan lo que hagan. Es vergonzoso
    • Los productos de Meta sí le hacen daño a la sociedad, pero yo diría que una empresa aún más vergonzosa para trabajar es Palantir
    • Facebook en 2004~2005 era realmente bueno
      Se propagó como incendio forestal y era muy divertido de usar. Era la época en la que solo estábamos yo, mis amigos de la universidad y los amigos de ellos

  • Si hacen esto incluso con empleados a quienes querían retener pagándoles, ¿qué estarán dispuestos a hacer con los datos de los usuarios?
    ¿Y qué más querrán hacer con sus propios sistemas conectados a los sistemas de los usuarios?
    Al parecer, “Dumb f*cks” ha sido la línea de conducta desde el día 1 en esta empresa

  • Cada vez me convenzo más de que estas filtraciones son la única resistencia realmente efectiva contra la sociedad de vigilancia hacia la que estamos entrando
    Meta va a seguir haciendo esto, otros empleadores probablemente la imitarán, y el gobierno añadirá esos datos a sus carpetas mediante el “debido proceso legal”
    La expansión de cámaras de vigilancia, el control de chats y la eliminación del anonimato están ocurriendo en tiempo real
    Cuando este tipo de datos se filtra, queda claro para todos el enorme riesgo de responsabilidad que implica. Los datos de ejecutivos de Meta también están en ese montón, y militares y legisladores figuran en la base de datos de Flock
    ¿Cuántos senadores tendrán a PornHub con un perfil exacto de sus gustos?
    Claro que estas filtraciones causan daño. Pero ¿de verdad ese daño es peor que que todos sean vigilados por todos en todas partes?

    • Cuando no se filtra, el daño puede ser aún mayor
      Porque puede usarse para chantajear a quienes tienen poder. Ni siquiera hace falta haber hecho algo ilegal; basta con comentarios polémicos o gustos sexuales poco comunes
      Claro, también podría haber cosas ilegales, y aun si no las hubiera, podría bastar para fabricar una investigación con construcción paralela

  • Si lees el artículo enlazado, dice que entre los datos filtrados había capturas de pantalla donde se ven conversaciones privadas en texto plano de algunos empleados e información de desempeño
    Fue una decisión bastante osada grabar toda la pantalla y esperar que la anonimización saliera bien

  • Quienes dicen “si no rompes las reglas, no tienes nada que temer” deberían considerar que la mayoría de las empresas ve trabajar estrictamente según las normas como una forma de protesta
    Incluso si solo sigues las reglas al pie de la letra, esta vigilancia servirá para identificarte y sancionarte

  • Ese sistema parece que sería una pesadilla en un proceso de descubrimiento de pruebas

    • Hasta suena como una gran idea
      Me pregunto si ya pensaron en eso y excluyeron de la vigilancia a los puestos con más probabilidades de generar “pruebas decisivas”

  • Una empresa basura está entrando en una espiral de muerte

    • Lamentablemente, con el efectivo acumulado y Facebook como gallina de los huevos de oro, probablemente aguante bastante tiempo más

  • Solo lo pausaron temporalmente, y claramente tienen intención de volver a activarlo
    No entiendo por qué recibe votos negativos. El artículo literalmente dice esto
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • Al parecer Meta sí paga muchísimo

  • Seguramente escribieron esa utilidad con AI. No sería tan sorprendente que una AI no pudiera mantener bien la seguridad