Meta comienza a recopilar movimientos del mouse y pulsaciones de teclas de empleados para entrenar IA

• Meta instaló software en computadoras de empleados en EE. UU. para rastrear movimientos del mouse, clics y pulsaciones de teclas y usarlos como datos de entrenamiento para modelos de IA, además de capturar periódicamente instantáneas de pantalla en apps y sitios web de trabajo
• Esta herramienta, llamada Model Capability Initiative (MCI), busca obtener datos de entrenamiento sobre áreas en las que la IA todavía no replica bien el comportamiento humano, como la selección en menús desplegables y el uso de atajos de teclado
• El CTO Andrew Bosworth presentó la visión de que, a través del programa interno de transformación de IA ahora renombrado como Agent Transformation Accelerator (ATA), “los agentes realicen principalmente el trabajo y los humanos den instrucciones, revisen y mejoren”
• Meta comenzará una reducción del 10% de su plantilla global a partir del 20 de mayo, mientras impulsa activamente entre sus empleados el uso de agentes de IA para tareas como programación
• Expertos en derecho señalan que esta medida aplica a empleados administrativos un nivel de vigilancia en tiempo real antes reservado para repartidores y trabajadores gig, y que también podría violar el GDPR europeo

---

Cómo funciona la herramienta MCI

• MCI se ejecuta en las apps y sitios web de trabajo de los empleados y captura movimientos del mouse, clics y pulsaciones de teclas
• También incluye una función para tomar instantáneas periódicas del contenido en pantalla del empleado
• Se dio a conocer a través de un memorando interno publicado por un científico investigador de IA en el canal del equipo de Meta SuperIntelligence Labs
• El objetivo es mejorar áreas en las que a los modelos de IA les cuesta replicar la interacción humana con la computadora, como la selección en menús desplegables o el uso de atajos de teclado
• La explicación indica que “todos los empleados de Meta pueden contribuir a mejorar el modelo simplemente realizando su trabajo diario”

Estrategia de transición laboral con IA

• En un memorando aparte, el CTO Andrew Bosworth dijo que reforzarán la recopilación de datos internos y renombró este programa como Agent Transformation Accelerator (ATA)
• Presentó la visión de que “los agentes realicen principalmente el trabajo y que el rol humano sea dar instrucciones, revisar y apoyar mejoras”
• La meta es que los agentes identifiquen automáticamente los puntos en los que los humanos sintieron la necesidad de intervenir, para hacerlo mejor la próxima vez
• Bosworth no explicó explícitamente cómo se entrenarán los agentes, pero señaló que serán estrictos en acumular datos y evaluaciones sobre todo tipo de interacción dentro del proceso de trabajo
• El vocero de Meta, Andy Stone, reconoció que los datos de MCI son una de las entradas usadas en el entrenamiento del modelo

Reestructuración laboral impulsada por IA

• Los datos de MCI no se usarán para evaluaciones de desempeño y se destinarán solo al entrenamiento de modelos; existen salvaguardas para proteger “contenido sensible”, aunque no se explicó qué datos quedan excluidos de la recopilación
• La capacidad de las herramientas de IA para manejar tareas complejas con mínima supervisión humana, como crear apps u organizar grandes volúmenes de datos, está dominando Silicon Valley y derivando en caídas de acciones de empresas de software tradicionales y en planes de recortes masivos de personal
• Meta comenzará una reducción del 10% de su plantilla global a partir del 20 de mayo y también evalúa nuevos recortes importantes este año
• Amazon recortó en los últimos meses unos 30,000 empleados administrativos (alrededor del 10%), mientras que Block despidió en febrero a casi la mitad de su personal
• Meta está alentando a sus empleados a usar agentes de IA para tareas como programación, aunque a corto plazo reduzca la velocidad
• También está avanzando en eliminar distinciones entre ciertos puestos e integrarlos bajo el título genérico de "AI builder"
• El mes pasado creó el equipo de ingeniería de Applied AI (AAI) para reforzar la capacidad de programación de los modelos de Meta AI y centrarse en desarrollar agentes de IA que en el futuro realicen la mayor parte del trabajo de construcción de productos e infraestructura
• A comienzos de este mes empezó a reasignar a ingenieros de software “destacados” hacia AAI

Preocupaciones por la vigilancia sobre empleados administrativos

• Según Ifeoma Ajunwa, profesora de derecho en Yale, las tecnologías de registro de actividad en computadoras y capturas de pantalla se han usado históricamente para detectar mala conducta o actividad no laboral de empleados
• El registro de pulsaciones de teclas lleva la recopilación de datos un paso más allá y aplica a empleados administrativos un nivel de vigilancia en tiempo real antes experimentado solo por repartidores o trabajadores gig
• En la ley federal de EE. UU. no existen restricciones sobre la vigilancia de trabajadores, y la mayoría de las leyes estatales solo exigen que el empleador informe de manera general que hay monitoreo
• Valerio De Stefano, profesor de derecho en la Universidad de York, considera que bajo la legislación europea este tipo de monitoreo probablemente estaría prohibido
  • En Italia, rastrear la productividad de empleados mediante monitoreo electrónico es explícitamente ilegal
  • Los tribunales alemanes mantienen el criterio de que el registro de pulsaciones de teclas solo se permite en situaciones excepcionales, como sospechas de delitos graves
• Es muy probable que estas prácticas constituyan una violación del GDPR en Europa
• La percepción sobre la vigilancia del empleador tiende a inclinar el equilibrio de poder dentro del trabajo a favor del empleador

[unsure4000]

¿En qué estaría pensando la persona que estaba programando ese sistema de rastreo?

[t7vonn]

Parece que lo de mejorar el modelo es solo una fachada y que en realidad están acumulando datos para justificar los despidos.

[winkagn]

Esto me hace pensar: ¿en qué se diferencia de Gran Hermano?

[GN⁺]

Opiniones de Hacker News

• Esto simplemente parece basura tóxica. Ojalá lo hackeen por todos lados y alguien arme una contramedida que le meta datos falsos ridículos a montones al codicioso ducto de recolección de Meta
• Creo que esto va a tener un efecto paralizante enorme sobre los empleados. Ahora hasta las conversaciones fuera del trabajo o la charla casual tendrían que hacerse sin la más mínima expectativa de privacidad. Antes quizá ya era posible revisar logs, pero se siente completamente distinto mirar algo de forma limitada después de un incidente que tener vigilancia masiva permanente
  • Da hasta cinismo pensar que no hay grupo al que esto le quede mejor. La ironía es tan fuerte que parece que va a reventar el detector
  • Yo siempre he asumido que en equipos de la empresa todo lo que hago puede ser monitoreado por TI. Por eso nunca hice en hardware de la empresa nada que a la empresa pudiera no gustarle, y usé mi smartphone y mi computadora personal. Incluso antes, cuando hubo conflictos entre ingeniería y la dirección en una startup, los ingenieros hicieron un grupo privado con sus cuentas personales de Signal y hablaron sin problema
  • Sinceramente, no creo que a Meta le importe si esto intimida a sus empleados. Ya entró en la fase de extraer más valor, y ya no me parece una empresa que atraiga talento de punta
  • Entiendo la postura de que no debería haber expectativa de privacidad en una máquina de trabajo porque es propiedad de la empresa. Trabajo en una empresa tecnológica en India, y nos incentivan a crear skills.md basados en las características de nuestros compañeros para reducir el riesgo de depender de personal clave. De hecho, el código de algunos ingenieros despedidos por reestructuración hoy lo mantienen sus equivalentes de IA. Me da la impresión de que Meta va en esa dirección
  • Desde que empecé mi vida laboral he pensado que los bienes y equipos de la empresa son algo que la empresa tiene derecho a vigilar o incluso registrar con keylogging. De hecho me sorprendió más que muchas veces no llegaran tan lejos, pero creo que el derecho lo tienen. No entiendo por qué la gente espera tener derecho a actividades no laborales en horario de trabajo. En todas las empresas donde trabajé, el contrato y las políticas dejaban claro lo permitido; si quieres hablar mal de la empresa, hazlo fuera de Slack o Teams, fuera de la empresa o junto a un dispensador de agua, o por números personales
• Sale la broma de que la próxima generación de IA probablemente será muy buena haciendo scroll en Hacker News
• De verdad no entiendo cómo esto puede ser legal. Casi parece que en EE. UU. Facebook no tuviera prácticamente ningún requisito de compliance. En capturas de series temporales de una pantalla de SRE inevitablemente van a aparecer cosas sensibles como contraseñas, claves de cifrado o PII; cuesta creer que tenga sentido que esta aspiradora de datos lo guarde todo. También me pregunto si el empleado puede apagarlo cuando quiera, y qué pasa si alguien deja accidentalmente en pantalla la clave privada root por ssh de toda la empresa y no puede desactivarlo. Incluso antes de hablar de legalidad, una persona con acceso a estos datos de entrenamiento terminaría teniendo un acceso demasiado amplio a los sistemas de la empresa, y eso solo aumenta el riesgo de hackeo
  • Bajo la ley estadounidense, especialmente en dispositivos de la empresa, esto suele ser legal para la mayoría de las compañías y, por desgracia, tampoco es algo raro. Normalmente el compliance de estos datos se maneja como el de otros datos sensibles: se restringe el acceso a las capturas a grupos específicos. No es que yo lo apoye, pero muchas empresas no hacen esto ignorando preocupaciones de seguridad, sino justamente con el argumento de resolver problemas de seguridad. Aun así, Meta se siente distinta; da más la impresión de que quiere construir un modelo para reemplazar a parte de su personal
  • Creo que estos datos tarde o temprano se van a filtrar en algún incidente de seguridad. Se van a usar en tribunales, se van a usar para entrenamiento y, diga quien diga lo que diga, si la IA puede terminar haciendo el trabajo, también se van a usar para despedir gente. Y aun cuando pase todo eso, Meta probablemente igual logre esquivar la responsabilidad. Por eso mismo se siente urgente aprobar leyes que impidan este tipo de cosas
  • Existe la preocupación de que cualquier experimento psicológico mínimamente relacionado con la web empezó a tratarse como automáticamente legal desde que se normalizó el A/B testing. Esto no era algo para cubrir con un consentimiento general, sino un ámbito que debería requerir participación voluntaria y revisión independiente. Ya el gato salió de la bolsa, pero eso no significa que deje de ser problemático
• Esto de verdad parece una locura. Antes los ingenieros eran vistos casi como profesionales de verdad, y ahora parece que llegamos al punto en que la empresa exige spyware en vez de confianza. Suena parecido a decir que instalemos software de vigilancia en las laptops de un bufete por si un abogado hace arreglos por detrás con un juez, o que vigilemos 24/7 cada acción de un médico. Hasta provoca hacer la sátira de que mejor apliquemos vigilancia 24/7 auditable públicamente a los políticos
  • Segurísimo que los políticos serían los primeros en crearse excepciones para ellos mismos con alguna excusa de seguridad. En teoría, mientras más poder tiene alguien, más responsabilidad y supervisión debería tener; pero el mundo real funciona exactamente al revés
  • De los ejemplos que diste, el único que directamente pagamos con impuestos y que en principio trabaja para mí es el político. Los abogados y los médicos no son mis empleados ni están trabajando sobre mis bienes. Más bien lo que esto muestra es que en la relación empleador-empleado en EE. UU. ya casi se cayó por completo la máscara, y como además hasta el seguro está atado al empleo, ya queda muy poco margen para resistirse
  • A alguien incluso le parece que instalar esa vigilancia en la laptop de un bufete sería hasta una buena idea
  • A mí sí me han apuñalado por la espalda varios abogados. Más que los correos, lo que de verdad hay que temer son las llamadas telefónicas
• Respuesta de que, si Meta dice que los datos recolectados no se usarán para evaluación de desempeño ni otros fines, sino solo para entrenar modelos, ¿de verdad creen que los empleados de Meta les van a creer?
  • Como estos empleados son quienes voluntariamente han venido programando una de las mayores redes de vigilancia del planeta, tal vez sí estén preparados para creerse muchas cosas
  • Si ya van cuatro años seguidos de despidos y se siente que viene otro recorte del 20%, la apuesta es que los empleados de Meta, aunque sean una minoría, van a estar bastante desconfiados
  • Al final lo importante es la compensación, y la visión fría es que los sueldos altos probablemente van a inducir obediencia
  • La credibilidad de esa frase estaría al nivel del viejo "It's free and always will be"
• Qué alivio haber decidido ni siquiera empezar el proceso de entrevistas con Meta. Ya entonces la empresa me parecía bastante ridícula, pero ahora esto está en otra liga
• Hace imaginar cómo sería la empresa opuesta a Meta. Algo pequeño y centrado en la privacidad, quizá un lugar donde HN esté bloqueado en la empresa; no sé si me estoy perdiendo algo
• Me imagino que este sistema va a terminar recolectando masivamente escenas de empleados de Meta trabajando con IA. Luego desplegarán modelos entrenados con eso y la siguiente vez volverán a recolectar empleados usando IA que usa bien la IA; si repites esto unas cuantas veces, al final terminarán recolectando las entradas de gente golpeando desesperada el teclado mientras grita por qué el modelo no puede hacer nada: una verdadera comedia negra
  • La especulación es que lo de entrenar IA es solo un pretexto, y que en realidad podría servir para sacar gente con grandes despidos sin que se note tanto y reducir también las indemnizaciones
  • Estos datos también mostrarán quién no está usando suficiente IA, así que al final esos empleados podrían recibir un PIP o ser despedidos
  • Parece un modo de falla gracioso, pero desde el punto de vista técnico hasta podría ser algo bueno. El modelo ya tiene en cierta medida las habilidades que antes un humano le pedía a la IA; ya sea usando subagentes o absorbiendo dentro del modelo el trabajo que antes hacía la IA aparte, el hecho de que los humanos hayan desplazado la distribución de tareas más cerca de la distribución de la IA hace que entrenar sea más fácil
  • Última hora: Meta creó el simulador definitivo de "gato sentado sobre el teclado"
• Como historia relacionada, esto hizo recordar Manna de Marshall Brain, y se ve que https://marshallbrain.com/manna1 conecta bastante con la situación actual