- Meta redujo su plan de usar las pulsaciones de teclado y los clics del mouse de los empleados para entrenar modelos de IA, y agregó controles para detener la recolección de datos por hasta 30 minutos cada vez
- El nuevo control permite a los empleados pausar la recolección de datos de MCI o solicitar una exclusión total, y Meta se negó a hacer comentarios oficiales
- La oposición de los empleados continuó durante semanas, y una petición contra la introducción del rastreo reunió más de 1,500 firmas
- Meta dijo que, para crear agentes que ayuden con tareas cotidianas en la computadora, necesita ejemplos reales de uso, que los datos no se usarán para otros fines y que existen salvaguardas para proteger contenido sensible
- Un memorando interno reconoció las preocupaciones planteadas por los empleados sobre datos personales, duración de la batería y control del momento de captura, y señaló que el equipo de MCI introdujo optimizaciones para mitigar el impacto en la batería de las laptops
Meta reduce su plan de rastreo de actividad de empleados
Meta redujo su plan de rastrear la actividad informática de sus empleados, según un memorando interno publicado el martes. El plan está relacionado con una herramienta que registra las pulsaciones de teclado y los clics del mouse de los empleados para usarlos en el entrenamiento de modelos de IA.
Según Reuters, el nuevo control permite a los empleados detener la recolección de datos “por hasta 30 minutos cada vez” y también solicitar quedar completamente excluidos de este plan. Meta se negó a hacer comentarios oficiales.
Model Capability Initiative y la reacción
El nombre de esta herramienta es Model Capability Initiative (MCI). En su anuncio inicial, Meta dijo que “para crear agentes que ayuden a completar tareas cotidianas usando computadoras, los modelos necesitan ejemplos reales que muestren cómo las personas usan realmente una computadora”.
Meta añadió que esos datos “no se usarán para otros fines” y que la herramienta cuenta con “salvaguardas para proteger contenido sensible”.
La oposición de los empleados continuó durante semanas, y algunos iniciaron una petición en contra de la medida. Esa petición ya reunió más de 1,500 firmas.
Preocupaciones planteadas por los empleados
Un empleado de Meta dijo que la idea de que su comportamiento se use para entrenar modelos de IA se siente “muy distópica”. Los empleados ya esperaban más recortes de personal.
Meta despidió a unas 2,000 personas este año. En abril, informó a los empleados que planeaba recortar el 10% de toda su fuerza laboral, unas 8,000 personas.
Otra persona que dejó Meta recientemente describió la herramienta de rastreo como “la forma más reciente de imponer la IA a todo el mundo”.
Ajustes descritos en el memorando interno
Según Reuters, el memorando interno fue escrito por Stephane Kasriel, vicepresidente de la división Meta Superintelligence Labs.
Kasriel dijo que el equipo de MCI introdujo “varias optimizaciones” para reducir el impacto en la duración de la batería de las laptops. El cambio llegó después de que empleados reportaran que la herramienta disparaba el uso de datos y aumentaba el consumo de internet mientras trabajaban desde casa.
Kasriel señaló en el memorando que sigue confiando en las medidas de privacidad que pasaron por varias etapas de revisión de riesgos en el lanzamiento, pero que había escuchado las preocupaciones sobre los datos personales en los dispositivos de trabajo, la duración de la batería y el deseo de tener más control sobre el momento en que se realizan las capturas.
1 comentarios
Comentarios de Hacker News
Me hizo pensar en un excelente pasaje de Snow Crash que describe el trabajo en “Fed Land”
La mamá de Y.T. abre un nuevo memo y empieza a leerlo, y el tiempo estimado de lectura es de 15.62 minutos. Después, la gerencia revisa cuánto tardó cada empleado en leerlo: si fue menos de 10 minutos, hay charla por actitud; si fue entre 10 y 14 minutos, posible falta de seriedad; si fue exactamente 15.62 minutos, eres un “presumido” y también hay charla por actitud; si pasa de 18 minutos, revisan el video de seguridad por sospechas de una pausa no autorizada al baño o algo así
La mamá de Y.T. decide leerlo entre 14 y 15 minutos, presionando Page Down a intervalos regulares y a veces regresando a la página anterior para fingir que relee. La computadora también registra ese comportamiento y valora positivamente la relectura, y el texto dice que esos pequeños hábitos, al cabo de unos 10 años, terminan destacando mucho en el resumen de hábitos laborales
Como dice un comentario más abajo, no se puede saber hasta qué nivel llega la vigilancia. Si el CEO está leyendo esto, hola
Siempre fue difícil saber qué tan duro es el rastreo que realmente se hace, y los profesionales de IT tampoco suelen hablar mucho de esto
En EE. UU. existe la idea de que, si usas un dispositivo entregado por la empresa, toda tu actividad ahí puede ser completamente vigilada y registrada, y usada en tu contra por cualquier motivo. En la práctica, mucha gente tampoco se preocupa demasiado por navegar un poco por la web, ver Hacker News o hacer asuntos personales en la computadora del trabajo
Pero con la IA la situación cambia mucho. Ahora, bajo el pretexto del “entrenamiento”, un robot puede clasificar y examinar con detalle cada acción mínima, así que parece que pronto habrá que prepararse para un nivel de rastreo absolutamente brutal
Entre esos extremos, también hay muchas empresas que solo imponen seguridad básica y se reservan el derecho de investigar si ocurre algún problema. Cuando hablas de esto con líderes de empresa, por increíble que parezca, muchos rechazan con fuerza las formas de rastreo más invasivas
Aun así, con cualquier vigilancia, el auge de la IA se vuelve una oportunidad peligrosa para hacer observación mucho más dirigida. Ya no hace falta que una persona dedique tiempo a mirar: puedes decirle a la IA que vigile constantemente y detecte lo que te interesa
Uno de los riesgos más realistas cuando un empleado común usa la computadora del trabajo para asuntos personales probablemente sea la amenaza interna de un administrador de IT malicioso que puede acceder a los dispositivos de la empresa sin suficiente supervisión
Curiosamente, en HN esto genera bastante polémica. Cuando he dicho que traigan su teléfono personal al trabajo para hacer trámites bancarios o escribir en HN, mucha gente ha reaccionado de forma extrañamente molesta, como si fuera una incomodidad enorme. Ahora es muchísimo más fácil separar mundos que antes de los smartphones
No hay ninguna razón para que mi empleador sepa qué asuntos personales tengo que resolver durante el día, y al mismo tiempo la empresa tampoco aprobaría que yo hiciera trabajo confidencial en un dispositivo personal, así que todos ganan
En contabilidad, banca, compraventa de acciones y similares, en teoría puedes diseñar un sistema que evite el fraude al 100%, pero sería tan engorroso que nadie lo usaría. Si para comprar un taco necesitas 15 escaneos de retina, extracción de sangre y la aprobación de un supervisor del banco, no funciona
Aquí pasa lo mismo. Con IA y modelos de lenguaje a gran escala, podrían intentar medir y optimizar al segundo cuánto trabaja una persona. Amazon ya hace algo así en sus almacenes, y siguen apareciendo casos de empleados que tienen que seguir trabajando al lado de un cadáver en el piso
Para conseguir gente que trabaje en esos sistemas, Amazon ha tenido que ir agotando comunidades una por una, y en sus reportes ante la SEC dicen que el agotamiento de la población es una amenaza real para la fuerza laboral
Así que incluso para una megacorporación malvada, la cantidad óptima de vigilancia no es 100%. Amazon ya pasó ese punto de equilibrio y parece estar siendo empujada de vuelta hacia el óptimo. Ese punto puede estar mucho más adelante de lo que pensábamos
Las empresas que triunfen en los próximos 10 años probablemente serán las que respeten la dignidad básica de sus empleados y los traten como profesionales competentes y responsables. Pensé lo mismo hace años cuando amigos que trabajaban en grandes corporaciones me contaban que instalaban mouse jigglers para satisfacer el software de vigilancia de laptops cuando se alejaban de su escritorio
Se parece también a las pruebas de drogas. Salvo en trabajo gubernamental o con autorizaciones de seguridad, siempre he visto las pruebas de drogas como una buena señal de una cultura que no respeta a sus empleados y de un bajo estatus del sector
Meta dejó muy claro hacia dónde va, y se parece a entrar a trabajar en Cisco en 2012. Ojalá les vaya bien contratando el talento que necesitan para IA y tecnologías emergentes entre la Gen Z que ahora ya está en sus 20
Entiendo que legalmente puede ser posible, pero jamás trabajaría en un lugar así
No trabajo en Meta, pero sí me pregunto cuántos años más quiero seguir en la industria tecnológica. Tengo más de 40 y mis hijos todavía son pequeños. Ya abrí las cuentas 529 para ellos y además estamos en medio de reparaciones caras de la casa
Cuando eso termine y arme un fondo de colchón, quizá los 5 a 10 años que me queden de vida laboral los pase en otra industria. Me pregunto si alguien más tiene un plan parecido
Recomiendo muchísimo salir de la industria tecnológica. Mi nivel de cortisol es muchísimo más bajo que antes y ya no tengo que acomodar mi vida a reuniones de EMEA y APAC fuera del horario laboral. Solo trabajo más de 40 horas cuando yo quiero, y a veces lo hago. Ahora el trabajo de verdad es disfrutable
Puedo generar una diferencia visible para la gente y trabajar en algo que me importa. En vez de complacer a inversionistas o capitalistas de riesgo, cada año nos enfocamos en maximizar el impacto y llegar al punto de equilibrio
La compensación y los beneficios han empeorado en algunos aspectos, pero no me importa mucho. Tengo una pareja con un seguro médico decente y uso ese, y mientras trabajaba en tecnología terminé de pagar la hipoteca y ahorré bastante. No soy rico en el sentido en que la gente de tecnología piensa en riqueza, pero si quisiera podría vender lo que tengo e irme a vivir muy bien a alguna playa de Latinoamérica sin volver a trabajar
El consejo real es que te tomes el tiempo de calcular cuánto necesitas para renunciar. Estaba acostumbrado a un sueldo de seis cifras, pero mi vida real nunca pasó de un nivel de cinco cifras, así que lo que necesitaba era mucho menos de lo que pensaba
También deberíamos poder sujetar al liderazgo a algún código ético. No quiero trabajar en una empresa que haga robots asesinos o dé marcha atrás a sus compromisos climáticos
El desprecio abierto hacia los empleados, de arriba abajo, se vuelve cada vez peor y no se le ve final. Al cumplir 50, quedará a la suerte si me toca estar entre los senior que purgan cada año
Ya no hay excusa para fingir que no sabemos cómo funciona esta industria. La máscara se cayó hace años
Podríamos hacer cosas como teléfonos tontos que de verdad sean inteligentes y funcionen para los usuarios, televisiones open source, modelos de IA locales y navegadores que no vigilen
Amo hacer software, pero no soporto trabajar en esta industria
Es una combinación sacrílega de mala cultura corporativa y principios morales dudosos
Quiero hacerle una pregunta seria a cualquiera que lea esto mientras trabaja en Meta. ¿Cómo pueden seguir trabajando en esa empresa?
De verdad no entiendo por qué no dejan una empresa tan tóxica y se van a otro lado o empiezan algo por su cuenta. Solo dejen que Meta muera
Me sorprende que tanta gente valore muchísimo más el dinero que hacer el bien. Todos los que están dispuestos a dejar de lado sus valores por efectivo son parte del problema. Da asco
También está la realidad de que hay que mantener a la familia y prepararse para el retiro. No es perfecto, pero ¿dónde trazas la línea de lo que hace que una empresa sea tóxica? ¿Hasta dónde estás dispuesto a transar cuando hay otras ventajas? Las respuestas a esas preguntas son distintas para cada quien. Algunas personas dirían que incluso trabajar en tecnología está mal por razones ambientales
En lo personal, probablemente trabajaría en Meta sin problema. Mucha gente usa y disfruta sus servicios. Tal vez no sea el mejor trabajo para la sociedad, pero lo mismo aplica a Netflix, Amazon o Apple
Al trabajar en Meta, la empresa te está traicionando. Está grabando tu pantalla abiertamente para entrenar a tu reemplazo de IA. Trabajar en otro lugar es algo así como si tú traicionaras a Meta
Simplificándolo al extremo, ¿qué conviene más? ¿Ganar 400 mil dólares al año durante 5 años y luego ser despedido, arriesgándote a haber ayudado a Meta a construir la tecnología de reemplazo que hará que casi desaparezcan los empleos? ¿O ganar 200 mil al año durante toda tu carrera, sin que las oportunidades de empleo se sequen porque no ayudaste a construir la tecnología de reemplazo?
Claro, espero que sea un caso muy extremo y poco frecuente, pero hay muchísimos escenarios en los que el dinero sí marca una diferencia considerable. También cambia mucho si la única persona afectada por la decisión soy yo o si hay otras personas involucradas
Al elegir un puesto así, esas implicaciones prácticas también pueden tener un peso importante
En general se considera que las entrevistas de Meta no son tan difíciles, y eso alimenta todavía más el síndrome del impostor. Como entraron con facilidad, se quedan con la sensación de que les pagan de más. Casi hace pensar que es una estrategia intencional
Qué ironía que empleados que se dedicaban a rastrear a toda la gente del mundo ahora también estén siendo rastreados :)
Estas empresas ya rastrean muchísimo el comportamiento de los usuarios, y una buena parte de eso tiene sentido desde la perspectiva de seguridad. Me pregunto qué es lo que aún no se ha rastreado y podría tener valor
Me cuesta ver cómo cada pulsación de tecla y movimiento del mouse podría ser más valioso que los resultados del trabajo, que en su mayoría ya se rastrean con unidades de valor adecuadas
Tal vez simplemente no les importa en absoluto perder talento real y quieren hacer que todavía más gente renuncie
Todo el MAG-7 quiere mover el gasto de I+D de salarios a capex de centros de datos para IA, así que parecen dispuestos a tolerar que se vaya el 90% del talento que genera el 99% del valor real
No es que sean idiotas que no saben lo que realmente pasa en el terreno. Es que creen, con una confianza arrogante en que pueden hacer lo que sea y apoyarse en su posición de mercado, que pueden obligar a todos a soportarlo aunque la decisión sea un desastre
Si el modelo es malo, pueden presionar al Congreso para ilegalizar los modelos de pesos abiertos; si no gustan los precios, pueden hacer que el gobierno pague el costo del producto; y si China o Europa lo hacen mejor, pueden prohibir la competencia con el pretexto de la seguridad nacional
Me recuerda al artículo satírico de The Onion de 2015, “HR Director Reminds Employees That Any Crying Done At Office Must Be Work-Related”
Pero por supuesto que el propio opt-out también será rastreado. Si lo eliges, podría aparecer en tu evaluación de desempeño
Me recuerda a la escena en la que O’Brien apaga la telepantalla
“Tú eres…”
“Sí… a nosotros no se nos permite ese privilegio”
Casi seguro que quienes hicieron esta política están exentos de ella
Winston podía sentarse en el hueco de la pared y, si se echaba hacia atrás, mantenerse fuera del alcance de la telepantalla en lo que respecta a la visión. Claro que podían oírlo, pero mientras permaneciera en su posición actual no podían verlo. Fue, en parte, la peculiar disposición de la habitación lo que le hizo pensar en lo que ahora iba a hacer