Exmiembro de la junta de OpenAI revela la causa de la destitución temporal de Sam Altman

• La exmiembro de la junta de OpenAI Helen Toner afirma que Sam Altman le mintió a la junta en varias ocasiones, y que esa ruptura de confianza llevó a su destitución temporal en noviembre de 2023
• La junta se enteró del lanzamiento de ChatGPT por Twitter, y según Toner, Altman ocultó o comunicó de forma incorrecta durante años lo que ocurría dentro de la empresa
• El hecho de que Altman no informara que era propietario de OpenAI startup fund se presenta como un caso clave que chocaba con su insistencia en que era un miembro independiente de la junta
• Toner considera que Altman también dio información inexacta sobre la cantidad de procesos de seguridad oficiales de OpenAI, lo que dificultó que la junta evaluara si las medidas de seguridad eran suficientes
• La junta comenzó a debatir seriamente su destitución desde octubre de 2023, pero lo restituyó como CEO en menos de una semana después de que surgieran amenazas de salida de empleados y la posibilidad de que Microsoft contratara al equipo de Altman

---

Helen Toner explica el trasfondo de la destitución

• La exmiembro de la junta de OpenAI Helen Toner reveló en una entrevista en “The TED AI Show” de Bilawal Sidhu el contexto detrás de la destitución temporal de Sam Altman en noviembre de 2023
• Según Toner, Altman le mintió a la junta “varias veces”, y la junta incluso se enteró del lanzamiento de ChatGPT a través de Twitter
• Se dice que Altman ocultó información durante años y comunicó de forma incorrecta lo que estaba pasando en la empresa
• Además, siguió afirmando que era un miembro independiente de la junta sin intereses financieros en la empresa, mientras no informaba a la junta que era propietario de OpenAI startup fund
• Esto dañó gravemente la confianza de la junta en Altman, y para octubre de 2023 ya se discutía con bastante seriedad la necesidad de destituirlo
• OpenAI no respondió de inmediato a la solicitud de comentarios de Business Insider

Procesos de seguridad y problemas de confianza en el liderazgo

• Se informa que Altman también dio información inexacta a la junta sobre los pocos procesos de seguridad oficiales que existían en OpenAI
  • Por eso, para la junta era casi imposible entender si las medidas de seguridad eran suficientes o si había que modificarlas
• Toner considera que hubo más casos individuales, pero que al final la junta llegó a un punto en el que ya no podía confiar en lo que decía Altman
• También se enfatiza que el rol de la junta era la supervisión independiente de OpenAI, y no solo ayudar al CEO a recaudar más fondos
• En octubre de 2023, dos ejecutivos hablaron varias veces con la junta para describir sus experiencias con Altman y usaron la expresión “psychological abuse”
  • Estos ejecutivos consideraban que Altman no era la persona adecuada para llevar a la empresa hacia la AGI
  • También transmitieron que no creían que pudiera cambiar o que fuera a cambiar, y que intentar darle retroalimentación o resolver los problemas con él no servía de nada
• Toner considera que, cuando la junta reconoció la necesidad de reemplazar a Altman, estaba claro que si él se enteraba intentaría impedir el movimiento de la junta “por todos los medios”
  • Según Toner, Altman empezó a mentirles a otros miembros de la junta para intentar sacar a Toner de la junta
  • La junta avanzó con el proceso hasta el 17 de noviembre de 2023 sin avisarle con antelación a casi nadie, salvo al equipo legal
• La destitución de Altman no duró mucho, y después de que surgieran amenazas de renuncia de empleados y especulación sobre que Microsoft podría llevarse al equipo de Altman de OpenAI para contratarlo directamente, la junta lo restituyó como CEO en menos de una semana
• Toner renunció a la junta de OpenAI menos de dos semanas después de que Altman volviera como CEO

[GN⁺]

Opiniones de Hacker News

• https://archive.is/LpDuJ

• Todo este episodio es un caso de estudio interesante sobre autoridad nominal y poder real.
  En el papel, la junta directiva tiene la autoridad, supervisa a la dirección y se encarga de contratar y despedir; pero en la práctica depende de la dirección para obtener información.
  El poder real está donde un inversionista posee la mitad, los fundadores dirigen el roadmap y también influyen en si el personal clave se va o no.

  • En este caso, la posición de la junta directiva de OpenAI era mucho peor.
    La empresa era, en la práctica, una combinación de investigadores, ingenieros y créditos de Microsoft Azure, así que podían reemplazar al CEO, pero si no les gustaba, todo el valor de la empresa podía salir caminando por la puerta.
  • La junta simplemente se rindió.
    No eran las personas adecuadas para esa misión y, si hubieran aguantado un poco más y armado bien una estrategia de comunicación pública, habrían ganado.
  • Más precisamente, es la diferencia entre poder basado en el cargo y poder basado en relaciones.
  • Me recuerda a una frase de A Song of Ice and Fire:

    Varys smiled. “Here, then. Power resides where men believe it resides. No more and no less.”
    
    “So power is a mummer’s trick?”
    
    “A shadow on the wall,” Varys murmured, “yet shadows can kill. And ofttimes a very small man can cast a very large shadow.”  
    

• Parece bastante probable que esto sea cierto, pero al mismo tiempo hace que la junta se vea como un grupo incompetente e incapaz de manejar la confrontación.
  Tenían opciones como plantear objeciones formales, reforzar la supervisión, transferir las responsabilidades de Sam a otra persona o advertir sobre acciones legales, pero en vez de eso intentaron un golpe secreto, y el resultado fue que Sam terminó pareciendo la parte débil.

  • Creo que estás malentendiendo de forma fundamental el papel de una junta directiva.
    A menudo se dice que la junta de una empresa tiene básicamente una sola tarea: nombrar y despedir al CEO.
    Puede ser una ligera exageración, pero el punto central es que cuando la junta se mete en las decisiones de la dirección, las cosas empeoran.
    Si no le gustan las decisiones, debe reemplazar al CEO, y ahí es donde está su autoridad.
    No sé ante quién se supone que harían un “planteamiento formal”.
    La junta es la autoridad final, así que no queda claro ante quién presentarían una queja.
    “Transferir las responsabilidades de Sam a otra persona” también sería visto por cualquier experto en gobierno corporativo como una receta para el desastre, y ni siquiera sería posible dentro de la jerarquía de la empresa.
    He dicho varias veces que la forma en que manejaron el despido de Altman fue muy ingenua y que la comunicación en ese momento fue pésima, pero no veo que haya sido algún tipo de “golpe”, y las respuestas propuestas tampoco tienen sentido.
  • He visto mucho el término “golpe”, pero es difícil justificarlo.
    Ellos son la junta directiva, y contratar y despedir al CEO es una función central.
    En una organización sin fines de lucro, mantener la alineación con la misión también lo es.
  • ¿Ante quién harían un “planteamiento formal”?
    La propia junta es la autoridad final con poder para investigar y actuar.
    Si sus miembros tienen preocupaciones, actúan o no actúan; no hay otro lugar al que pasarle la responsabilidad.
  • Si desconfías tanto de alguien que solo se comportaría bien poniéndole una camisa de fuerza metafórica, no entiendo qué sentido tiene mantenerlo como CEO.
    Además, si tiene una tendencia vengativa, puede causar daño mucho más fácilmente desde adentro y con autoridad.
  • Creo que el consejo estándar al tratar con una persona abusiva en una relación personal es escapar.
    En general, porque no es realista esperar que puedas arreglarla.
    ¿Hay alguna razón por la que la misma lógica no se aplique a una relación de negocios que debe basarse en la confianza?

• No avisarle casi a nadie de antemano buscaba proteger a la junta de la interferencia de Altman, pero al final la dejó en una posición indefendible.
  Fue como tener que pelear solos contra personas muy ricas y muy bien conectadas, sin siquiera una narrativa que presentar.

  • Tengo la sensación de que un solo comunicado de prensa podría haber cambiado por completo el resultado.
    Si eres una junta directiva, ¿no deberías poder al menos ponerte de acuerdo entre ustedes sobre un comunicado de prensa?
  • El punto clave es que hicieron esto y aun así no pudieron explicar públicamente por qué lo hicieron.
    Si vas a hacer algo así, tienes que haber terminado toda la preparación y estar listo para defenderlo.

• Dicen que “eligieron con mucho cuidado y prudencia a quién informar, y salvo el equipo legal, prácticamente no avisaron a casi nadie por adelantado”; pero si les preocupaban tanto las filtraciones, ¿no deberían haber preparado al menos material informativo para dárselo ese mismo día a los principales inversionistas, es decir, a Microsoft?
  Más aún si no habían podido convencer de antemano a sus principales inversionistas, que en la práctica eran sus jefes.

  • En este caso, los principales inversionistas no son los jefes de la junta.
    Porque OpenAI es una organización sin fines de lucro.
    Microsoft tiene incentivos para actuar en contra de los objetivos de la carta constitutiva sin fines de lucro, y de hecho así actuó también esta vez.

• Toda la evidencia apunta a que Altman mintió y actuó con doble cara.
  Yo también lo habría despedido.

  • ¿Te refieres a la persona que fue expulsada de dos países por negarse a obedecer órdenes gubernamentales y no dejar de escanear los ojos de la gente a cambio de una shitcoin?
    ¿Esa persona mintió y fue doble cara?

• Lo que sigue siendo raro es cómo la junta lo trajo de vuelta.
  No tiene sentido desde ningún ángulo.
  Es muy claro que mintió y maquinó; no entiendo por qué eso se volvió un problema.
  Después de ser destituido, ya no tenía autoridad.
  Si otra empresa quería contratarlo, que lo hiciera; si solo soltaba frases convincentes en Twitter, no había que hacerle caso.
  Si los empleados amenazaban con irse, había que dejarlos ir.
  Creo que muchos en realidad no se habrían ido y, aun si se iban, se podía volver a contratar y encontrar un CEO adecuado.
  Es muy probable que quienes se quedaran fueran precisamente las personas que había que retener.
  Entonces, ¿por qué lo recontrataron y luego renunciaron? ¿No podían renunciar dejándolo despedido?
  Tampoco entiendo por qué a Microsoft le importaba tanto Altman.
  No tenía un asiento en la junta, así que no había nada que hacer, y no debería haber tenido influencia.
  Si quería OpenAI, que la comprara.
  Tampoco entiendo qué valor obtenía Microsoft llevándose a Altman a su propia empresa.
  Nada tiene sentido.
  Más bien, lo más evidente es el patrón de conducta negativo de Altman.
  Recuerdo cuando proclamaba en voz alta, haciéndose el ingenuo, que no tenía participación en OpenAI.
  Claro, ¿se supone que debemos creer que un inversionista de riesgo con experiencia estructuró una nueva empresa para no tener ningún beneficio económico?
  En otra línea temporal, OpenAI lo habría destituido, nombrado a un CEO interino, ignorado todo el demás ruido y contratado a un nuevo CEO, y habría funcionado bien.
  No entiendo por qué Microsoft y otros hicieron tanto escándalo, ni por qué la junta emitió un comunicado de prensa tan enigmático cuando pudo haber dado detalles.
  Incluso contemplando posibilidades conspirativas, no lo entiendo.
  Da la impresión de que nadie de los involucrados, incluido Satya Nadella, sabía lo que estaba haciendo.

  • Tú mismo dijiste la respuesta y luego la descartaste.
    La junta aceptó el regreso de Sam Altman por una enorme campaña de presión en la que más del 90% de los empleados amenazó con renunciar, y Microsoft, que tenía la propiedad intelectual de OpenAI, ofreció contratarlos a todos de inmediato.
    Eso incluía también al liderazgo clave de la empresa.
    La organización se estaba desintegrando de la noche a la mañana y ya estaba muy por encima del umbral de “pueden irse algunos empleados inconformes”.
    No habría quedado ninguna OpenAI que administrar.
  • Entonces, ¿en qué posición queda ahora la junta?
    El CEO no ofreció disculpas ni aceptó responsabilidad, e incluso si lo hubiera hecho, obstaculizar activamente la supervisión de la junta es una línea roja evidente.
    ¿Cómo puede la junta cumplir su función con un CEO que ha mostrado que ni siquiera está dispuesto a proporcionar la información necesaria para desempeñar el cargo?
    Mientras este CEO siga en una posición desde la que puede bloquear el acceso a la información, la junta no tiene credibilidad.
  • Totalmente de acuerdo.
    No me importan en absoluto OpenAI ni los miembros de la junta, pero vi demasiada incompetencia en la única cosa que la junta al menos debería hacer decentemente: contratar y despedir.
    Solo por eso, creo que la reestructuración de la junta fue algo bueno.
    No importa a quién apoyes en este asunto.
  • Microsoft necesita una versión vendida de OpenAI.
    Así puede ganar la mayor cantidad de dinero posible sin gente molesta hablando de ética y seguridad.
  • Según Helen Toner, los abogados de OpenAI le dijeron que, si seguían excluyéndolo y la empresa perdía mucho dinero, Toner y otros miembros de la junta podrían ser personalmente responsables.

• Es curioso que el CEO de la empresa más cercana a la AGI sea muy inteligente, pero tenga un claro problema de alineación.

• La explicación de Toner esta vez tiene aspectos que suenan ciertos sobre por qué Sam fue expulsado.
  Tiene coherencia.
  Más allá de lo que uno piense de Sam como persona, en esa posición probablemente yo habría tomado la misma decisión.
  Que un CEO le mienta y engañe varias veces a la junta es una línea roja bastante seria.

  • Se parece a la razón por la que Sam fue destituido de Y Combinator.
    No es algo nuevo; cuando hay dinero de por medio, la memoria de la gente se vuelve tan borrosa como su moral.

• Es irónico ver a la gente correr a defender a Sam Altman en el tablero de Y Combinator.
  YC también lo quitó de un cargo de liderazgo ejecutivo por motivos similares.

  • Mi postura sobre Altman es la misma que cuando GPT-2 se publicó lentamente por razones de seguridad.
    Independientemente de cuál sea la realidad, lo mejor es asumir el peor caso y contar con sistemas y procedimientos capaces de manejar que eso pueda ser real.
  • Para quienes llevan el tiempo suficiente como para haber visto tanto el inicio como el final de Loopt, esto es puro sentido común.
    Altman es un sociópata de la tríada oscura cuya única habilidad vendible es, como dijo pg, “volverse powerful”.
    No sabe programar, no sabe diseñar, no publica papers, no puede ascender por la escalera corporativa tradicional con el más mínimo mecanismo antifraude, y tampoco puede sacar la mano del tarro de galletas.
    En cambio, puede mentir, amenazar, engatusar, manipular y sobornar sin dudar ni arrepentirse.
    Llevo 10 años apostando en contra de esta ridiculez, y eso no me ha ayudado a mantenerme solvente, pero cuando el mercado se vuelve racional, suele hacerlo de golpe.
    Karpathy, Ilya y Yoon se me vienen a la mente de inmediato, y hay incontables más.
    LeCun hace poco salió con todo en X.
    Se siente como si los insiders estuvieran tomando posiciones cortas, como cuando Goldman trataba con Burry.
    Tiene nueve vidas: ya lo han despedido unas tres veces por problemas de tipo fraudulento y aun así sigue viviendo así, así que tal vez aguante lo suficiente como para poner Ice Nine en mi vaso.
    Pero estas cosas no pueden repetirse infinitamente.
  • No es cierto: https://twitter.com/paulg/status/1796107666265108940
  • ¿Ya se resolvió lo relacionado con su hermana?
  • Escribiste “fue destituido”, pero intenté buscar en Google una fuente concreta y confiable y no encontré ninguna.
    Lo mejor que encontré fue algo como “se dice que Altman fue destituido como presidente de YCombinator por priorizar sus propios intereses”.
    La clave ahí es la palabra “allegedly”.
    ¿Hay un comunicado de prensa de YC o una explicación de algún insider sobre su destitución? Si no, es solo un rumor.
    Para ser claro, no escribo esto para defender a Altman ni a YC.