Enfermeras de Kaiser: “La vigilancia con IA empeora el trabajo y la atención al paciente”
(localnewsmatters.org)- Enfermeras de consejería y triaje de Kaiser Permanente dicen que la gestión del desempeño que rastrea las llamadas de más de 15 minutos, el tiempo entre llamadas y el cumplimiento de guías reduce su criterio profesional y la atención al paciente
- La IA probada en 2024 incluso evaluó la empatía y el tono de voz de las enfermeras, y ellas criticaron que asignaba puntajes erróneos sin entender el contexto del trabajo
- Incluso cuando las consultas largas son inevitables —como con pacientes en riesgo de suicidio, síntomas complejos o que necesitan intérprete— deben estar pendientes del puntaje mensual y de las reuniones de evaluación, y en horas pico el tiempo para registrar y recuperarse después de una llamada se reduce a 30 segundos o menos
- Kaiser respondió que no evalúa el desempeño por tiempo promedio de gestión y que todas las herramientas tienen revisión y supervisión humanas, pero no reveló la lista concreta ni cómo operan sus sistemas internos
- El sindicato está tratando la IA como tema central en la negociación contractual de 25,000 personas, y la legislatura de California también revisa proyectos de ley para proteger al personal médico que rechace recomendaciones automatizadas y para limitar la IA de predicción emocional
La presión de desempeño creada por el umbral de 15 minutos
- Siete enfermeras de consejería y triaje de Kaiser dijeron que si hablan con un paciente más de 15 minutos de forma repetida reciben críticas de la gerencia o son llamadas a reuniones de evaluación de desempeño
- La duración de las llamadas se refleja en el puntaje de desempeño que reciben cada mes
- El software intenta predecir a diario si la enfermera es improductiva o si no contesta el teléfono con suficiente rapidez
- Raquel Alvarez Sanchez, que trabaja en Vallejo desde 2010, habló durante más de una hora con un paciente en riesgo de suicidio hasta que llegó la policía
- Aunque sabía que una llamada tan larga podía empeorar durante semanas su promedio de tiempo y generar preguntas de la gerencia, no cortó la llamada
- Como dirigente sindical, al asistir a reuniones de evaluación con colegas vio casos en los que la atención había sido completamente adecuada, pero igual se cuestionaba solo por haber pasado de 15 minutos
- Dice que no ha visto enfermeras despedidas por esto, pero teme que la presión constante termine empujando a renuncias o jubilaciones anticipadas
- Las enfermeras dicen que durante las llamadas reciben instrucciones de seguir guías establecidas y limitar los consejos a no más de 2 o 3
- Eso puede dejarlas ante la disyuntiva de reservarse orientación necesaria o aceptar un impacto en su evaluación de desempeño
Impacto incierto en la atención al paciente
- No está claro cuál es el efecto real de la gestión algorítmica y de los límites de tiempo en las llamadas sobre los resultados de los pacientes
- Las enfermeras de consejería no dan seguimiento a los pacientes después de colgar, por lo que es difícil saber si hubo resultados negativos
- Aunque CalMatters pidió registros públicos al California Department of Managed Health Care en 2024, no encontró quejas de pacientes relacionadas con los tiempos de llamada de Kaiser
- Las enfermeras dicen que las siguientes consultas requieren más de 15 minutos
- Pacientes que necesitan evaluar varios síntomas o enfermedades crónicas al mismo tiempo
- Padres primerizos que necesitan orientación y contención
- Pacientes que quieren educación adicional sobre salud
- Pacientes que recibieron un diagnóstico que les cambia la vida y están en shock o ansiedad
- Llamadas que requieren intérprete y que por lo general pueden tomar más de 30 minutos
- Cerca de 4 de cada 10 residentes de California hablan un idioma distinto del inglés, y la mitad de ellos no domina bien el inglés
- Una enfermera contó que inicialmente pensó que una paciente mayor con diagnóstico de cáncer terminal estaba en riesgo de suicidio, pero en realidad necesitaba hablar con alguien en medio del shock
- Quería ofrecer más empatía y consuelo, pero habló menos por temor a bajar su puntaje mensual y recibir reclamos de su supervisor
- Tenía que calcular por su cuenta si desviarse de la guía o hablar más de lo necesario podía traerle sanciones
- Michele Ramos, de Consumer Watchdog, cree que como muchos pacientes de Kaiser comienzan su atención con una llamada de consejería, las restricciones en esa etapa pueden convertirse en el inicio de problemas posteriores
- Kaiser ya llegó a un acuerdo tras hallazgos de que retrasó citas de salud mental más allá de los plazos legales y usó en exceso terapias grupales en lugar de atención individual, lo que incluyó una multa récord de 50 millones de dólares
- En 2002 fue criticado por pagar bonos a personal de call center que no era de enfermería a cambio de llamadas cortas, aunque las enfermeras dicen que hoy no viven esa misma práctica
La IA que calificó empatía y tono de voz
- Kaiser probó en el verano de 2024 una herramienta de IA para evaluar la empatía y el tono en las voces de enfermeras y pacientes
- Las enfermeras firmaron una petición exigiendo protección de la privacidad del paciente, transparencia, respeto al criterio profesional y participación de enfermería en la adopción de la tecnología
- También usaron en la campaña el lema “Trust nurses, not AI” que habían llevado a una protesta fuera del hospital ese mismo año
- La prueba terminó en noviembre de 2024, pero representantes sindicales dicen que la gerencia les comentó que el programa podría reintroducirse más adelante
- Sanchez dijo que la vigilancia existente ya hacía sentir hostigadas a las enfermeras, y que el plan para que la IA evaluara y puntuara las llamadas agravó esa sensación
- Según una enfermera anónima, la IA calificaba mal de manera constante porque no entiende el trabajo de enfermería
- Kaiser no respondió preguntas sobre esa herramienta, sobre los sistemas automatizados usados para evaluar el desempeño de enfermería ni sobre si informó a los pacientes que se evaluaban la empatía y el tono
Treinta segundos entre llamadas y desgaste emocional
- Las enfermeras dicen que antes recibían unos 10 minutos después de una llamada para ordenar el registro del paciente o recuperarse de una consulta difícil
- Ahora, cuando el volumen de llamadas es alto, normalmente tienen 30 segundos o menos antes de la siguiente llamada
- En horarios más tranquilos, como tarde en la noche, puede ser más tiempo
- Especialmente después de consultas muy difíciles, pueden pedir autorización al supervisor para obtener más tiempo
- Incluso después de hablar con pacientes en riesgo de suicidio, en crisis de salud mental o cercanos al final de la vida, casi no tienen tiempo, y preocupa que ese ritmo lleve a errores por pasar por alto señales importantes del estado del paciente
- Un estudio de 2023 sobre call centers en cuatro países desarrollados confirmó que quienes trabajan con gestión y vigilancia basadas en IA tienen menos tiempo entre llamadas y más desgaste emocional
- Casi la mitad de quienes respondieron dijo que las herramientas de IA aumentaban el estrés laboral
- Un estudio previo del mismo equipo confirmó la relación entre vigilancia del desempeño y altas tasas de desgaste emocional
- Virginia Dolleghast, de Cornell University, considera que el caso de Kaiser forma parte de una tendencia industrial más amplia de vigilar de forma constante a trabajadores que resuelven problemas complejos y emocionales
- En el ámbito de la salud, el riesgo es mayor porque los errores causados por estrés y burnout se conectan directamente con la vida y la salud de las personas
- Quienes tienen más margen para decidir el ritmo y el momento de su trabajo suelen tener mayor satisfacción laboral y menos ausentismo
Algoritmos y criterio profesional del personal de salud
- Una encuesta de National Nurses United a más de 2,000 enfermeras en 2024 encontró que la mitad dijo que su empleador usa sistemas algorítmicos para analizar registros de salud
- Esos sistemas pueden predecir la vulnerabilidad del paciente o el tiempo de atención necesario
- Dos tercios de las encuestadas dijeron que su criterio ha discrepado de las predicciones de la computadora
- 6 de cada 10 no confían en que su empleador priorice la seguridad del paciente cuando usa IA
- Pa Vue, enfermera de Kaiser, conversa regularmente con sus supervisores sobre la eficiencia de sus llamadas y recibe un puntaje de evaluación cada mes
- En una ocasión repitió recomendaciones a un paciente porque le preocupaban síntomas inusuales y una posible afección cardíaca, y su puntaje bajó
- También ha visto casos en que baja el puntaje si se rechaza una recomendación del software por criterio profesional o si se agenda una cita sin consultar con un médico
- Vue no se opone a la IA en sí si beneficia al paciente, pero considera que la vigilancia de empatía y tono está enfocada en elevar la productividad y reducir costos
- A nivel nacional, a medida que crece la adopción de IA, los sindicatos exigen a los empleadores abordar en las nuevas negociaciones contractuales los problemas que esta genera
- Los 2,400 trabajadores de salud mental de Kaiser en el norte de California también están negociando contrato
- Les preocupa el uso de transcripciones de sesiones terapéuticas para entrenar modelos de IA y la posibilidad de que la IA reemplace empleos
La IA que Kaiser ha incorporado al proceso de atención médica
- Kaiser usa o prueba IA en varias áreas del proceso de atención, además de los centros de consejería
- Analiza historias clínicas electrónicas para identificar riesgos de eventos adversos en pacientes hospitalizados
- Usa Preventus para decidir el momento del alta de pacientes
- Médicos y terapeutas graban consultas presenciales y convierten voz en texto con Abridge
- En instalaciones del Bay Area prueba monitoreo remoto con IA para pacientes que necesitan atención adicional
- Cathy Kennedy, de National Nurses United y la CNA, considera que la IA de detección de empatía es una medida más dentro de una cadena de acciones para limitar la autonomía de enfermería y aumentar la eficiencia
- Como la IA puede automatizar y fragmentar el trabajo de enfermería, exige que las empresas que la desarrollan e implementan demuestren la efectividad y la equidad de los sistemas antes de desplegarlos
- El contrato entre Kaiser y el sindicato de enfermería incluye la notificación por introducción de nuevas tecnologías, pero según la CNA a veces esa notificación se omite
- La dirigencia sindical pide a sus afiliadas que avisen cuando detecten nueva tecnología y está rastreando cuántos modelos de IA se usan en Kaiser
- Así respondieron a la IA de empatía y tono, y también frenaron una prueba que buscaba reemplazar con cámaras a enfermeras al lado de la cama de pacientes en estado de confusión
- La Coalition of Kaiser Permanente Unions también opera una campaña de “see something, say something” para que trabajadores en el terreno reporten adopciones de IA
- El sindicato dice que con demasiada frecuencia la gerencia incorpora IA a los flujos de trabajo sin avisar ni recoger opiniones del personal
- El radiólogo Debru Carthan teme que los detectores de tono de voz puedan discriminar a enfermeras de distintos contextos culturales
La respuesta de Kaiser y la negociación laboral
- Kaiser respondió que no evalúa el desempeño del personal de consejería por Average Handle Time ni impone un criterio obligatorio de duración de llamadas
- Señaló que las herramientas del call center apoyan el aseguramiento de calidad y pasan por revisión y supervisión humanas
- Dice que en el uso de IA prioriza la seguridad del paciente, la privacidad y la equidad, pero que por motivos de seguridad y operación no divulga información específica sobre sus sistemas tecnológicos internos
- Kaiser es el mayor empleador privado de California y brinda servicios de salud a 9 millones de personas en el estado y a otros 3 millones en otras regiones de EE. UU.
- La California Nurses Association iniciará en julio de 2026 la negociación de un nuevo contrato con Kaiser, que abarca a 25,000 personas, incluyendo 1,000 enfermeras de call center
- Las enfermeras hicieron una huelga de un día en marzo contra la IA
- El otoño anterior también realizaron piquetes contra el uso de IA
- La CNA no ha revelado antes de la negociación las cláusulas detalladas que exigirá sobre IA
Regulación de la IA en el trabajo en California
- AB 1018 y SB 7, respaldadas por la CNA, habrían exigido que los empleadores avisaran al personal antes de usar sistemas automatizados para ascensos, sanciones, evaluaciones de desempeño y otros fines
- El gobernador Gavin Newsom vetó la SB 7
- La AB 1018 no logró aprobarse por tercer año consecutivo ante la fuerte oposición de empresas, incluida Kaiser
- Legisladores volvieron a presentar una nueva versión de la SB 7, la SB 947
- Otros proyectos de ley buscan las siguientes regulaciones
- Prohibir que empleadores usen IA para predecir el estado emocional de trabajadores
- Proteger a médicos y enfermeras contra represalias si ignoran recomendaciones de sistemas automatizados
- Exigir que los proveedores de salud entreguen cada año a su personal una lista de los sistemas automatizados que usan
- La CNA y la California Labor Federation apoyan alrededor de seis proyectos de ley para regular el uso de IA en el trabajo
- Las enfermeras temen que la vigilancia y la puntuación conviertan a quienes cuidan personas en máquinas automáticas de llenar casillas
- Como las llamadas se graban, se vuelve más difícil expresar humor o empatía personal hacia los pacientes
- Creen que al reducir los intercambios humanos que no están en la guía se daña la esencia del trabajo de enfermería y el cuidado que esperan los pacientes
1 comentarios
Opiniones de Hacker News
Al leer el artículo, parece que la mayor parte de las quejas se refiere a los indicadores de desempeño de call center y a la presión para limitar la atención, así que el problema es el mal uso de las métricas, no la IA en sí. Evaluar la empatía con IA fue un programa piloto de 2024 y ya se suspendió
Mi esposa usa LLM médicos en Kaiser, y dice que ahorran tiempo y permiten dar una mejor atención gracias a la interpretación en tiempo real, los resúmenes de notas clínicas y la búsqueda de respuestas integrales. Los pacientes mayores suelen traer alertas de Apple Watch que detectaron anomalías cardíacas
En vez de meter en el mismo saco tecnologías con efectos y riesgos muy distintos, hay que evaluarlas según cada uso específico
Como directivos y analistas están aprovechando el furor por la “IA” para impulsar automatización, informatización e incluso despidos en general, es natural que quienes se oponen también usen el mismo nombre
Este lenguaje impreciso enturbia el debate y dificulta concentrar la indignación y la energía en problemas clave como el encubrimiento de la responsabilidad humana, la erosión de la autonomía, la pérdida de flexibilidad organizacional y la desprofesionalización, pero la culpa de eso no empezó con los críticos de la IA
Si a alguien le parece buena idea usar una máquina para evaluar cuánta empatía tiene una persona, no debería tener poder
Se necesitan compensación y evaluación, pero es dudoso que lo mejor sea gestionar con métricas calculadas por algoritmos, y en ese proceso se están perdiendo la empatía y el sentido común
Mi médica de cabecera dijo que las herramientas de IA para documentación le dieron un gran alivio. Antes tenía que escuchar al paciente y teclear todo al mismo tiempo, pero ahora puede concentrarse en escuchar al paciente y registrar con detalle solo lo necesario, así que su estrés bajó muchísimo
Pero en el momento en que reglas operativas imponen cómo atender y dictan cómo tratar al paciente, eso provoca una fuerte reacción, y la idea de reemplazar el juicio clínico con IA es una tontería
Los indicadores laborales y la vigilancia producen efectos secundarios con facilidad, pero el trabajo de enfermería también necesita cierto nivel de supervisión de seguridad, como cualquier otro empleo
He oído a varias médicas aconsejar tener cuidado con las interacciones con enfermeras durante una hospitalización; no todas las enfermeras son dedicadas, y algunas son negligentes o buscan pretextos y terminan perjudicando al paciente
La medicina no es solo una vocación sagrada sino también un trabajo, así que hace falta supervisión, pero si se trata de métricas impuestas por la empresa, es muy probable que se distorsionen gravemente según la ley de Goodhart
Como el estudio salió justo antes de la negociación del contrato sindical de enfermería, parece razonamiento motivado. Hay muchos problemas reales, pero el estudio no los abordó bien y hace falta una crítica más efectiva
La IA podría servir para identificar de forma selectiva a pacientes que sobreutilizan los servicios médicos y reducir ese uso atendiendo las causas de fondo. Eso mejoraría la calidad de atención y la calidad de vida del personal médico, y también liberaría tiempo para llegar a quienes usan poco el sistema pero necesitan atención preventiva
Me pregunto si Manna de Marshall Brain todavía suena como una historia del futuro
https://marshallbrain.com/manna
El problema de que la IA del trabajo intervenga en el cumplimiento del deber médico de las enfermeras hacia los pacientes no se limita a Kaiser; UHC también ha introducido y usa herramientas similares de vigilancia con IA
La mayoría de las enfermeras está cuidando a personas que viven el peor día de su vida
El artículo menciona el uso de IA, pero casi no presenta daños concretos causados por IA. En cambio, sí muestra de forma concreta cómo Kaiser optimiza las llamadas para reducir costos más que para mejorar la calidad de la atención
Tratar las llamadas largas como un problema o perjudicar a enfermeras que dieron más de tres consejos probablemente degrade la calidad de la atención
En un hospital rural de la zona ponen rastreadores a las enfermeras para registrar todos sus movimientos dentro del hospital, e incluso el tiempo que permanecen en cada lugar cuenta para su evaluación
Hace unos años se quedaban 15 a 20 minutos en cada habitación, pero ahora entran y salen rápido. El número de pacientes no aumentó y el de enfermeras incluso creció, así que creo que métricas de evaluación equivocadas deterioraron el nivel de atención
La enorme sobreutilización médica en Estados Unidos está elevando los costos, pero no quieren reconocerlo con honestidad
Kaiser ya tenía fama de dar un servicio pésimo, así que este cambio preocupa aún más