El sistema de soporte con IA de Cursor IDE alucinó y generó confusión entre los usuarios

• Una ventaja de Cursor IDE es que permite iniciar sesión al mismo tiempo en varios dispositivos y cambiar de uno a otro para seguir trabajando
• Sin embargo, desde cierto momento comenzó a ocurrir que, cuando un usuario pasaba de la desktop a la laptop o iniciaba sesión en varios dispositivos, se cerraba la sesión automáticamente
• Como el cierre de sesión ocurría sin ninguna advertencia ni notificación, los usuarios terminaron confundidos
• Como trabajar en múltiples dispositivos es una función esencial para los desarrolladores, muchos interpretaron naturalmente el bloqueo repentino como una nueva política

La "guía de política falsa" del sistema de soporte

• Cuando los usuarios enviaron consultas al correo de soporte de Cursor, la respuesta que recibieron fue: "Esto es un comportamiento normal conforme a la nueva política de inicio de sesión"
• El problema es que esa respuesta fue generada por un chatbot de IA, no por una persona real, y era información falsa que no correspondía a ninguna política real
• Esta explicación creada autónomamente por la IA se difundió rápidamente entre los usuarios y fue confundida con una política oficial
• Basándose en esa información falsa, varios usuarios anunciaron públicamente la cancelación de su suscripción y perdieron la confianza en Cursor

Reacción de la comunidad y falta de respuesta

• El hilo principal de Reddit donde se compartía la situación y se discutía el problema fue bloqueado y luego eliminado
• Por eso, dio la impresión de que se mantuvo silencio, sin una respuesta oficial ni aclaración sobre el incidente
• En realidad no se trataba de un cambio de política, sino de un simple error en el procesamiento de sesiones del backend, pero la explicación generada por la IA terminó causando un daño mayor

Significado del incidente

• Este caso muestra que no fue solo un error técnico, sino un ejemplo de cómo un sistema de soporte con IA puede destruir la confianza de los usuarios
• Cuando la atención al cliente queda en manos de una IA y no de un equipo real, puede aparecer el fenómeno de "alucinación (hallucination)", en el que se genera información falsa, y el daño resultante puede ser grande
• Si en la comunicación con los usuarios se combinan la falta de transparencia y una mala supervisión de los sistemas de IA, el resultado puede ser crítico

[GN⁺]

Opinión de Hacker News

• La gente insiste con ganas en que las alucinaciones ya no son un gran problema, y es irónico que la empresa que se beneficiaría de esa narrativa sea la directamente perjudicada por ella

  • Claro, van a intentar ignorar este problema
  • Es mejor que admitir que este problema sigue existiendo y que no va a desaparecer fácilmente

• Me incomodan los LLM

  • Me pregunto por qué un desarrollador de software con amor propio usaría algo así
  • Hay que aprender a escribir buen software y volverse experto en ese campo
  • La IA devalúa el valor del software, arruina el proceso y elimina por completo la esperanza de desarrollar habilidades para los futuros desarrolladores junior
  • Seguiré usando Debian, Python y Vim
  • Seguiré escribiendo código del que pueda sentirme orgulloso y que sea fácil de mantener, incluso sin LLM, LSP ni autocompletado

• Desde una visión conspirativa, parece que quieren culpar al "agente de soporte con IA" por el cambio de política y esperar que nadie investigue demasiado

  • No tengo conocimientos ni razones al respecto más allá de una desconfianza general hacia la empresa

• Comparte un enlace al archivo de la publicación original de Reddit

• No cancelé la suscripción porque crea que el cambio de política sea real, sino porque esto me recordó que no lo he usado mucho este mes

• Cursor es raro

  • Tiene miles de issues sin resolver en un GitHub que casi no se usa
  • Tiene más bugs que VSCode
  • Lo uso todos los días y pago por él, pero lo odio
  • Has tenido éxito cuando haces un producto que la gente usa aunque lo odie
  • Me pregunto si hay otras alternativas
  • Probé Continue, pero el autocompletado con Tab y la experiencia de escritura fueron decepcionantes

• Cursor está atrapado en un juego del gato y el ratón contra el "hack" de usuarios que crean cuentas nuevas para usarlo de forma ilimitada

  • Incluso llegó a estar en tendencia en GitHub
  • Cursor siempre va a tener dificultades para mantener su propio fork de VSCode
  • Otras empresas en este espacio están escalando rápido, y yo también empecé a cambiarme a Roo y Cline

• ¿Cuál es la evidencia de que "decenas de usuarios cancelaron públicamente su suscripción"?

  • En los comentarios, un total de 4 usuarios afirmaron que cancelaron o cancelarían su suscripción, y 3 de esos 4 dijeron que la cancelarían si este problema fuera real o si les ocurriera a ellos
  • Solo 1 persona afirmó que ya la había cancelado
  • Me pregunto si hay otras discusiones sobre esto

• En la publicación principal de Reddit:

  • Hay una disculpa por la confusión
  • Si hubiera sido una disculpa sincera, habrían dejado de intentar dar soporte con un chatbot

• Este caso quedará en la historia como un ejemplo de cómo el hype de la IA supera las capacidades reales de la IA