Exempleados de OpenAI: por qué los ex trabajadores no pueden hablar

• ChatGPT puede hablar, pero los empleados de OpenAI no
  • Firmaron acuerdos de no crítica, y si los incumplen tienen que renunciar a sus acciones

Lanzamiento del nuevo ChatGPT 4o de OpenAI

• OpenAI lanzó el nuevo ChatGPT 4o
• Tiene una voz similar a la del asistente de IA interpretado por Scarlett Johansson en la película "Her" de Spike Jonze de 2013
• Sam Altman, CEO de OpenAI, publicó un tuit mencionando esa película

Renuncias de figuras clave en OpenAI

• La noticia del lanzamiento de ChatGPT 4o quedó opacada por las renuncias de Ilya Sutskever, cofundador y científico jefe de OpenAI, y de Jan Leike, quien lideraba el equipo de Superalignment
• Jan Leike, quien apareció en la lista Future Perfect 50 el año pasado, también renunció
• Las renuncias no fueron tan sorprendentes
  • Sutskever estuvo involucrado en la revuelta de la junta que llevó al despido temporal del CEO Sam Altman el año pasado
  • Después de que Altman regresara rápidamente al puesto de CEO, Sutskever expresó públicamente su arrepentimiento por sus acciones y apoyó el regreso de Altman
  • Pero desde entonces, mientras otros integrantes de los equipos de políticas, alineación y seguridad de OpenAI se iban, Sutskever estuvo mayormente ausente de la empresa

Especulaciones sobre el silencio de los exempleados

• El silencio de los exempleados ha dado pie a especulaciones
• Sutskever dejó un mensaje de renuncia bastante común
  • "Confío en que OpenAI construirá una AGI segura y beneficiosa. Estoy entusiasmado por lo que viene"
• Leike simplemente dijo que "renuncié"
  • Días después explicó que había renunciado por preocupaciones de que OpenAI se alejó de una cultura centrada en la seguridad
• Hay varias especulaciones sobre por qué los exempleados guardan silencio
  • Si fueron forzados a salir, si es una secuela del despido temporal de Altman el otoño pasado, o si renunciaron en protesta por un nuevo proyecto secreto y peligroso, entre otras

La razón del silencio de los exempleados

• Hay una razón clara por la que los exempleados guardan silencio
  • Los acuerdos de salida extremadamente restrictivos incluyen una cláusula que les prohíbe criticar a su antiguo empleador de por vida
  • Incluso reconocer la existencia misma del NDA constituye una infracción
• Si un empleado que se va no firma los documentos o los incumple, puede perder toda la participación accionaria que recibió mientras trabajó en la empresa
  • Es muy probable que eso valga millones de dólares
• Daniel Kokotajlo, un exempleado, confirmó públicamente que dejó la empresa sin firmar el NDA y renunciando a una gran cantidad de acciones como consecuencia
  • Dijo que fue "porque perdí la confianza en que OpenAI actuará de manera responsable en la era de la AGI"

Las prácticas de NDA en el competitivo Silicon Valley

• En el ferozmente competitivo Silicon Valley, el NDA en sí no es algo inusual
• Pero sí es inusual poner en riesgo acciones ya otorgadas si alguien se niega a aceptarlo o lo incumple
  • Para los empleados de startups como OpenAI, las acciones son una compensación importante, mucho mayor que el salario
  • Amenazar este dinero potencialmente transformador es una forma muy efectiva de silenciar a los exempleados

La contradicción de OpenAI respecto a la apertura y la transparencia

• OpenAI al principio se promocionó como comprometida con construir sistemas poderosos de forma transparente y responsable
  • Pero ahora abandonó la idea de ofrecer sus modelos como open source alegando preocupaciones de seguridad
• Ha dejado ir a los integrantes más experimentados y respetados de su equipo de seguridad
  • Eso genera dudas sobre si la seguridad es realmente la razón por la que OpenAI se volvió más cerrada
• Un vocero de OpenAI dijo que "nunca hemos cancelado el equity de ningún empleado actual o anterior, y no lo haremos aunque no firme al salir"
  • Dijo que esto representa un cambio en la política que ellos entendían

La posición inusual de OpenAI en tecnología y políticas públicas

• OpenAI ha ocupado desde hace tiempo una posición inusual en el mundo tecnológico y de políticas públicas
  • Lanzamientos como DALL-E y ChatGPT son impresionantes, pero por sí solos difícilmente provocan fervor casi religioso
• Lo que hace especial a OpenAI es su ambicioso objetivo de desarrollar inteligencia artificial general (AGI) para beneficiar a la humanidad
  • Muchos de sus empleados creen que pueden lograrlo con unos 10 años (o menos) y billones de dólares
• Como la propia OpenAI ha dicho durante mucho tiempo, eso es emocionante, pero también puede ser peligroso

OpenAI como actor responsable

• Históricamente, OpenAI se ha presentado como un actor responsable que busca llevar la AGI para beneficio de todos, por encima de los incentivos comerciales
  • Ha dicho que estaría dispuesta a desacelerar el desarrollo, dejar pasar oportunidades de ingresos o permitir supervisión externa si fuera necesario
• La estructura corporativa única de OpenAI (una empresa de ganancias limitadas controlada en última instancia por una organización sin fines de lucro) estaba pensada para aumentar la rendición de cuentas
• No había señal más fuerte del compromiso de OpenAI con su misión que el papel visible de personas como Sutskever y Leike
  • Eran técnicos con una larga trayectoria de compromiso con la seguridad, y parecía que estaban dispuestos a exigirle a OpenAI que cambiara de rumbo si fuera necesario

Cambio de interés de OpenAI en el trabajo de seguridad

• Su salida no anuncia un cambio en el objetivo de OpenAI de construir inteligencia artificial general
  • Ese sigue siendo el objetivo
• Pero casi con certeza sí anuncia un cambio en el interés de OpenAI por el trabajo de seguridad
  • La empresa no ha anunciado quién liderará el equipo de Superalignment
• Queda claro que las preocupaciones de OpenAI por la supervisión externa y la transparencia no eran tan profundas
  • Si de verdad quieres supervisión externa y que el mundo tenga un papel en lo que haces, hacer que los exempleados firmen NDAs extremadamente restrictivos no va precisamente en esa dirección

Decepción con OpenAI

• Aquí está la razón por la que OpenAI resulta fundamentalmente decepcionante para quienes realmente se preocupan por que la IA termine siendo algo bueno y beneficioso para la humanidad
  • La dirección de la empresa dice que quiere cambiar el mundo, hacerlo de forma responsable y recibir con gusto opiniones del mundo sobre cómo hacerlo de manera justa y sabia
• Pero cuando hay dinero real en juego (y en la carrera por dominar la IA hay muchísimo dinero en juego), queda claro que probablemente no pretendían que el mundo opinara tanto
  • Sus procesos impiden que los exempleados, es decir, las personas que mejor saben lo que pasa dentro de OpenAI, puedan contárselo al mundo
• Puede que haya ideales elevados en el sitio web, pero los acuerdos de despido están llenos de lenguaje legal implacable
  • Es difícil exigirle rendición de cuentas a una empresa cuando los exempleados están limitados a decir "renuncié"

La nueva voz linda de ChatGPT puede ser encantadora, pero yo no estoy particularmente enamorado.

[GN⁺]

Opinión de Hacker News

Resumen de comentarios de Hacker News

• Cómo eludir los acuerdos de confidencialidad

  • Para eludir los acuerdos de confidencialidad, una opción es que los empleados involucrados se reúnan, escriban todo lo que quieran decir, lo usen para entrenar un LLM (modelo de lenguaje de gran tamaño) y luego lo publiquen. Esto aprovecharía la lógica legal actual que traslada la responsabilidad a los usuarios del modelo.

• Los acuerdos de confidencialidad de OpenAI

  • Los ex empleados de OpenAI tuvieron que firmar contratos con cláusulas muy estrictas de confidencialidad y de no difamación. Si las incumplen, podrían perder acciones valoradas en millones de dólares.

• La gravedad de la situación

  • La situación es muy grave, y algunas personas la consideran una conducta criminal. También hay opiniones que comparan las acciones de OpenAI con el caso Enron.

• Necesidad de asesoría legal

  • Se necesita asesoría legal relacionada con la SB 331 de California (ley del derecho a no guardar silencio). Esta ley podría aplicarse no solo al acoso sexual, sino también a otras formas de contratos abusivos.

• Contratos irrazonables

  • Obligar a los empleados a aceptar acuerdos de no difamación de por vida es injusto. Esto podría ser legalmente problemático, y para resolverlo haría falta que alguien con valentía presentara una demanda.

• Los límites de la IA

  • Hay quienes opinan que la IA no puede reemplazar todo el trabajo humano. Por ejemplo, consideran que la IA no puede pintar una casa ni reparar una caldera.

• La compensación con acciones en startups

  • En las startups, las acciones son un medio importante de compensación. Los empleados de OpenAI reciben salarios altos y acciones, y se les exige firmar NDA. Hay casos parecidos también en Apple.

• Respeto por Jan Leike

  • Se expresa aún más respeto por Jan Leike.

• La validez del contrato

  • Para que un contrato sea válido, debe ofrecerse una nueva compensación en acciones. Obligar a firmar un nuevo contrato usando una compensación ya existente es injusto.

• La naturaleza privada del contrato

  • Un contrato es un asunto entre las partes, y si hay un problema legal debe resolverse en los tribunales. Conviene evitar que todos los problemas se traten públicamente.