Dos razones presentadas a los empleados de OpenAI para el despido de Sam Altman
(businessinsider.com)- La junta independiente de OpenAI comunicó a los empleados dos casos para respaldar la explicación de que Sam Altman “no fue consistentemente sincero en su comunicación con la junta”
- El domingo por la noche, cuando Ilya Sutskever presentó al ex CEO de Twitch Emmett Shear como nuevo CEO interino, los empleados que esperaban el regreso de Altman reaccionaron con fuerza
- Los casos citados por la junta fueron haber asignado el mismo proyecto a dos personas dentro de la empresa y haber expresado opiniones distintas sobre cierta persona a dos miembros de la junta
- Los empleados no quedaron convencidos con la explicación, y más del 90% del personal de OpenAI firmó una carta abierta exigiendo la renuncia de la junta y el regreso de Altman
- Altman sigue negociando la posibilidad de volver mientras mantiene un puesto interino dentro de Microsoft, el mayor inversionista de OpenAI con al menos 10 mil millones de dólares invertidos
Dos casos que la junta presentó a los empleados
- La junta independiente de OpenAI sostuvo que Sam Altman fue despedido porque “no fue consistentemente sincero en su comunicación con la junta”
- Se compartieron con los empleados dos casos concretos
- Que Altman asignó el mismo proyecto a dos personas dentro de OpenAI
- Que Altman expresó opiniones distintas a dos miembros de la junta sobre cierta persona
- Un vocero de OpenAI no respondió a la solicitud de comentarios al respecto
El nombramiento de Emmett Shear aumentó el impacto interno
- El domingo por la noche, Ilya Sutskever presentó a los empleados en una de las oficinas de OpenAI en San Francisco al ex CEO de Twitch Emmett Shear como nuevo CEO interino
- Shear fue nombrado para reemplazar nuevamente a Mira Murati, quien se había convertido en CEO interina tras suceder a Altman el viernes
- Solo una minoría de empleados de OpenAI asistió a la reunión, mientras que el resto realizó en la práctica un walkout
- Los empleados esperaban escuchar ese día que Altman volvería como CEO
- Según una fuente, durante unos 30 minutos la noche del domingo los empleados fueron enterándose internamente de las noticias en este orden
- Altman vuelve
- Altman no vuelve
- Shear es nombrado
- La noticia del nombramiento de Shear fue otro golpe para unos empleados que ya habían pasado el fin de semana en tensión, y muchos la recibieron “muy mal”
Desconfianza en torno a Sutskever
- Sutskever votó a favor del despido de Altman y fue quien le comunicó efectivamente la destitución por Google Meet
- Se dice que Sutskever lucía “sombrío” en la reunión donde se anunció el nombramiento de Shear
- Los empleados no quedaron convencidos con las dos explicaciones presentadas por la junta
- Dentro de la empresa se extendió la interpretación de que este episodio fue un golpe interno descarado organizado por la junta
- Una fuente dijo que cualquier motivo que la junta presente ahora casi no tiene poder de persuasión entre los empleados
Carta abierta y presión de renuncia colectiva
- Unas horas después de la reunión sobre el nombramiento de Shear, comenzó a redactarse entre los empleados de OpenAI una carta abierta que circuló durante la noche
- La carta abierta también fue firmada por líderes de OpenAI, incluidos Murati y Sutskever
- Según el recuento más reciente al mediodía del lunes, la había firmado más del 90% de los empleados
- En la carta abierta, los empleados dijeron que renunciarían si no se cumplían estas condiciones
- Que renuncien los miembros restantes de la junta
- Que se nombren nuevos integrantes de la junta
- Que Altman regrese a la empresa
- Una fuente dijo: “La gente está furiosa, y una salida masiva es inminente”
Composición de la junta y relación futura
- En ese momento, la junta de OpenAI estaba compuesta por el CEO de Quora Adam D'Angelo, la emprendedora tecnológica Tasha McCauley, Helen Toner del Georgetown Center for Security and Emerging Technology, e Ilya Sutskever
- Aunque Sutskever firmó la carta abierta que amenazaba con renuncias, técnicamente seguía siendo miembro de la junta
- Sam Altman y el presidente de OpenAI Greg Brockman también habían formado parte antes de la junta
- Altman seguía negociando la posibilidad de regresar a OpenAI mientras mantenía un puesto interino dentro de Microsoft coordinado por el CEO Satya Nadella
- Microsoft es el mayor inversionista de OpenAI y ha invertido al menos 10 mil millones de dólares
- Murati provocó la indignación de algunos empleados inmediatamente después del despido de Altman, pero luego el ambiente se calmó
- Según se comenta, Murati siguió deferring a Sutskever después del viernes
- Murati ha dicho que dejará la empresa si Altman no regresa
- Sutskever expresó públicamente su regret por haber participado en el despido de Altman, pero algunos creen que no será perdonado con facilidad y que quizá no sea invitado a unirse a la nueva iniciativa de Microsoft ni a quedarse
1 comentarios
Opiniones de Hacker News
Enlace sin paywall: https://web.archive.org/web/20231120233119/https://www.busin...
Parece que necesariamente tiene que haber un contexto más grande en todo esto
Altman tomó una organización sin fines de lucro, atrajo una enorme cantidad de donaciones y luego convirtió a OpenAI en la startup estilo TC más candente del mundo, acelerando a fondo la comercialización
La semana pasada, en un contexto en el que Hinton advertía que la mayor amenaza de una IA potente es que la gente rica y poderosa use la tecnología para reforzar su dominio sobre la sociedad, intentó fabricar aceleradores de IA con decenas de miles de millones de dólares de fondos saudíes
Si a eso se le suma una junta directiva sin experiencia y las maniobras de D'Angelo, se vuelve uno de los mayores desastres en la historia de la industria tecnológica
Votaron y ganó un lado; puede que no haya una historia más grande e interesante
Es algo común en empresas de software, y quizá todo se reduzca a que la junta de OpenAI tomó una decisión que destruyó miles de millones de dólares en valor de marca y buena voluntad
Quora está siendo reemplazado rápidamente por ChatGPT, y cuando OpenAI anunció los GPTs en Dev Day, también golpeó de lleno al producto competidor de Quora, la “monetización para creadores de Poe”
https://quorablog.quora.com/Introducing-creator-monetization...
https://techcrunch.com/2023/10/31/quoras-poe-introduces-an-a...
Una organización sin fines de lucro no tiene por qué ayudar solo a los pobres, y no queda claro qué intriga política o engaño hay en crear una subsidiaria con fines de lucro que genere ingresos mediante licencias sobre la investigación de OpenAI
El propósito de este tipo de estructura legal es hacer que los dueños se enfoquen en la misión por encima del valor para los accionistas, y en este caso la meta era crear AGI de forma ética
Además, esta estructura no la inventaron Sam Altman ni OpenAI
El tema de los fondos saudíes también se conecta con la estructura legal mencionada, pero es un argumento bastante teórico que asume tanto que ese control es realmente posible como que la correlación entre el rendimiento del modelo y la cantidad de cómputo seguirá manteniéndose
Entrenar GPT-4 costó más de 100 millones de dólares, y ese dinero tiene que salir de algún lado
Hasta que digan lo contrario, voy a aceptar lo que declararon: que fue porque a) asignó a dos personas al mismo proyecto y b) dio explicaciones distintas a dos miembros de la junta sobre el mismo empleado
No hace falta que internet invente nuevas razones plausibles en lugar de la junta
Estas dos razones no parecen tener relación con grandes ideologías como la seguridad de la AGI o el estatus sin fines de lucro de OpenAI; más bien parecen microgestión de decisiones de personal
Ilya Sutskever también está transmitiendo los motivos del despido como algo que él escuchó
La gente se puso del lado de la junta porque entendió que era un despido impulsado por un investigador jefe preocupado por la AGI, pero ahora la junta parece estar representada más bien por D'Angelo, que posee una empresa de chatbots de IA que empezó a competir más directamente con OpenAI después de Dev Day
Aplicando la navaja de Occam, suena plausible
Donde yo estoy, si una junta no hiciera nada en una situación así, sus miembros podrían terminar siendo personalmente responsables de toda clase de acciones legales duras
No sé si por ser una organización sin fines de lucro es distinto, o por qué la junta todavía cree que puede dejar pasar esto
Creo que en Quora también hizo algo parecido
Greg no fue invitado, así que faltó un voto del lado de Sam, y a Sam también pudieron haberle pedido que se abstuviera en la votación, por lo que tres personas podrían haber conseguido la mayoría
Ilya, que ahora está en “Team Sam”, podría haber votado en contra, o quizá en ese momento pensó que él podía ser el siguiente y simplemente siguió la corriente
Convocar a la junta sin avisarle a Greg y proceder sin él fue poco profesional, y parece ser el punto en el que Ilya metió la pata
Sam también debería haber dicho en ese momento: “Un momento, no seguimos hasta que Greg llegue aquí”
OpenAI quizá no quería convertirse, en la práctica, en la organización de investigación y desarrollo de Microsoft
La app móvil de ChatGPT no estaba pulida y parecía tener muy poco diseño de producto, así que la crítica de que estaban sacando funciones demasiado pronto parece válida, especialmente cuando se veía como producción masiva de funciones para Microsoft
Si uno imagina que Sam era el caballo de Troya de Microsoft, creo que eso habría sido inaceptable
Si dicen que Sam es un maestro de la política, puedo estar de acuerdo aunque no lo conozca bien
Es una figura alineada con Microsoft que cuenta con el apoyo del 90% del equipo de OpenAI, y esas dos cosas juntas generan un conflicto de intereses
Preguntarle al CEO “¿todavía crees en la visión de OpenAI, o ahora crees en la visión de Microsoft?” es una pregunta bastante legítima
La empresa está en una crisis existencial, pero no ha habido declaraciones públicas desde el tuit de la 1 a. m.
Me imagino que esperará a entender la situación antes de actuar como si tuviera todo bajo control desde el primer día después de una convulsión así.
Lo que leí sobre Shear es básicamente que es partidario de desacelerar el desarrollo de IA y simpatiza con el catastrofismo de IA al estilo Yudkowsky, lo cual puede no ser una medicina que la empresa esté lista para tragarse.
https://x.com/drtechlash/status/1726507930026139651
“Digo claramente que estoy a favor de desacelerar. Es parecido a una pausa, pero no se trata de detenerse, sino de bajar la velocidad”
“Si la velocidad actual es 10, una pausa la reduce a 0. Yo creo que deberíamos apuntar a 1~2”
“- Emmett Shear, 16 de septiembre de 2023”
https://x.com/eshear/status/1703178063306203397
Si no se mueven rápido, en HN aparecerán todo tipo de especulaciones extremas, y eso sería inaceptable, al parecer.
Peor aún, si no hay actualizaciones casi en tiempo real, quizá la gente termine dándose cuenta de que esto no es tan importante y pase a otras noticias.
Claro, podría haber consecuencias graves, como que cambie la URI a la que apunta un endpoint de la API, así que no debería bromear.
Por más que calcule todos los escenarios, no veo una forma en que esto termine a su favor.
Un CEO experimentado de Silicon Valley habría hecho ese cálculo y lo habría visto como una causa perdida; el hecho de que lo haya aceptado parece una señal de que no es un líder particularmente bueno.
¿Le dieron el mismo proyecto a dos personas?
Me parece que eso es algo común cuando quieres obtener enfoques distintos y luego combinarlos para lanzar el producto.
¿Que hayan dado opiniones distintas sobre la misma persona es motivo para despedir al CEO?
Parece que el directorio no tiene razones para despedirlo, o no quiere decir la verdadera razón por la que despidió a Sam.
La arruinaron.
Tal vez Sam veía a Ilya como un factor de inestabilidad y un punto único de falla de la empresa, y quiso asegurarse de que OpenAI pudiera continuar sin Ilya.
[0] https://news.ycombinator.com/reply?id=38357843
Como la interpretación de los datos era muy compleja, como verificación adicional hicieron que dos equipos interpretaran los datos y generaran imágenes de forma aislada entre sí.
Si los resultados eran casi iguales, eso sería una confirmación fuerte de que estaban en lo correcto.
Así que esto claramente es una estrategia válida.
Altman parece estar mucho más cerca del rango normal para ser CEO de una empresa de miles de millones de dólares.
No digo que sea perfecto, pero estos motivos menores para despedirlo huelen raro.
Tengo la sensación de que Ilya puede ser algo ingenuo sobre cómo se mueve la gente, y quizá lo usaron en una lucha de poder clásica disfrazada de asunto de seguridad.
Era rueda clicable contra multitouch y, sorprendentemente, el iPhone con rueda clicable perdió.
Tenía que elegir si quedarse en DOS, irse a OS/2 o irse a Windows; Lotus eligió OS/2, pero el mercado se fue a Windows y Excel la destruyó.
En ese momento Lotus era una empresa rica, así que yo habría creado tres grupos y habría avanzado con las tres opciones.
Al ver la explicación de que “Altman le dio el mismo proyecto a dos personas de OpenAI”, uno se pregunta si estas personas alguna vez trabajaron en otra empresa.
En casi cualquier empresa con más de 10 empleados pasan cosas así.
No es broma.
Sobre todo si no era un caso de pedirle a una persona que probara este enfoque y a otra que probara aquel para comparar los resultados, y más aún si las mantuvieron sin saber de la existencia de la otra hasta el final.
Si asumimos que actuaron de manera adecuada y correcta con la información que tenían en ese momento, ¿qué pasaría, por ejemplo, si el segundo proyecto estaba relacionado con alineación y Sam le ocultó su existencia a Ilya o lo engañó al respecto?
Si Sam lo hizo porque creía que Ilya estaba alineando demasiado la IA y reduciendo su funcionalidad, ¿podría considerarse apropiada esa acción?
La falta de transparencia del directorio puede interpretarse como “ocultar una decisión muy mala y poco profesional”, y por ahora esa posibilidad parece alta.
Pero también puede interpretarse como que se equivocaron en la comunicación inicial y que ahora son extremadamente cautelosos con todo lo que dicen porque la empresa filtra por todos lados y no quieren entrar en una pelea embarrada con Sam.
Todavía está demasiado oscuro como para juzgar.
Solo con esto, no suena como la verdadera razón por la que Altman fue despedido
Por eso se habla de un “golpe”, pero eso tampoco responde la pregunta real
¿Por qué despidieron realmente a Altman?
Claramente parece haber una razón que no pueden decir
Podría estar pasando algo malo en la empresa, como falta de efectivo, una situación lo bastante grave como para despedir al CEO pero que no pueden hacer pública
Imaginemos que el directorio de un banco despide al CEO porque dejó que el capital cayera demasiado; no podrían decirlo así porque podría arruinar las posibilidades de recuperación
Puede que haya “algo” que Altman no le dijo al directorio, y que ellos tampoco puedan decirnos a nosotros
Es como parchear la realidad para que vuelva a tener sentido
A veces, personas con egos inflados se frustran por insultos menores y el pensamiento grupal toma el control, y por un momento un bombardeo orbital puede parecer una buena idea
Yo también estoy racionalizando ahora
Si quedas atrapado en un bucle irresoluble como un solucionador SAT, tienes que relajar al menos una restricción
Puede que no haya habido una buena razón, o que la razón haya sido mala
Como directorio, sufrieron un fracaso nivel Chernóbil
Además, por lo apresurado que fue todo, también parece que ese hecho ocurrió muy recientemente
Por ejemplo, podría haber sido una conversación o un acuerdo en APEC
Pero el hecho de que Ilya haya dado marcha atrás arruina esta especulación descabellada, así que al final yo también estoy como todos: “????????”
Uno era presidente del directorio y el otro era miembro del directorio
Pero ambos quieren que Sam sea recontratado
También es difícil acusarlos a ambos de ser cómplices de una falta, porque el directorio quería que Greg se quedara en la empresa, e Ilya sigue en el directorio y antes los apoyaba
Sea cual sea la razón, queda muy claro que fue un problema personal y político con Sam, no la crisis grave que insinuaron
Según lo entiendo, Altman ya había mostrado conductas deshonestas al transformar OpenAI de una organización sin fines de lucro a una con fines de lucro, y de modelos open source a modelos cerrados
Lo peor es que la gente parece aceptar por completo ese tipo de carácter
Lo peligroso no es la IA en sí, sino que la IA sea creada por Altmanes
Y si hubiera sido un asunto concreto, lo más probable es que Ilya hubiera seguido defendiendo el despido, no que se arrepintiera
Esto parece una simple lucha de poder en la que el directorio y los empleados iban en direcciones distintas
No está directamente relacionado con este último giro, pero Geoffrey Irving, de DeepMind, confía más en el directorio que en Altman: https://x.com/geoffreyirving/status/1726754270224023971
Si hay un conflicto de intereses tan grande y sabes 0 datos, deberías quedarte callado
También dice: “Sentí que debía decir unas palabras por personas a las que respeto, especialmente Helen Toner e Ilya Sutskever”, pero Toner no parece tener autoridad moral aquí
Ilya claramente sí tenía esa autoridad, y si quería prender fuego a OpenAI, probablemente pensé que también tenía derecho a hacerlo
Aunque, como mínimo, habría sido mejor entregar todo a Microsoft
Pero como todos sabemos, Ilya dio un giro de 180 grados, y eso fue realmente sorprendente
La frase “presentó dos explicaciones que Sutskever afirmó haber oído del directorio” necesita verificación
Sutskever ha dicho cosas bastante inconsistentes durante todo este divertido desastre
“los no empleados Adam D’Angelo, Tasha McCauley y Helen Toner”
Lanzado el jueves por la mañana:
https://x.com/poe_platform/status/1725194752901988744?s=46
No hagan caso al hombre detrás de la cortina