1 puntos por GN⁺ 2023-11-19 | 1 comentarios | Compartir por WhatsApp
  • La junta de OpenAI despidió sorpresivamente el viernes al CEO Sam Altman, lo que llevó a la salida del President Greg Brockman y de tres investigadores senior; incluso Microsoft, inversionista clave, quedó impactada al no haber sido informada de antemano
  • En el centro del conflicto estaba el Chief Scientist Ilya Sutskever, en un choque frontal entre la estrategia de Altman de rápida comercialización y crecimiento, y la responsabilidad de seguridad basada en la misión sin fines de lucro
  • Debido a una estructura de gobierno inusual, en la que una organización sin fines de lucro posee y controla una subsidiaria con fines de lucro, tras la salida de Altman y Brockman solo quedaron en la junta Sutskever, Adam D’Angelo, Tasha McCauley y Helen Toner
  • La junta citó como motivo del despido una “comunicación no siempre franca”, pero un memo interno del COO Brad Lightcap aclaró que la decisión no se debió a mala conducta ni a prácticas financieras, comerciales, de seguridad, protección o privacidad
  • El episodio dejó al descubierto la tensión entre un ritmo de desarrollo seguro y la presión por monetizar, y la estabilización operativa bajo la interim CEO Mira Murati se volvió una tarea inmediata para empleados, socios, usuarios y clientes

El caos inmediato provocado por el despido de Altman

  • OpenAI despidió sorpresivamente el viernes al CEO Sam Altman, y la decisión derivó en la renuncia del President Greg Brockman y la salida de tres científicos senior
  • Microsoft, inversionista clave y accionista minoritario, tampoco fue notificada de antemano y, según Bloomberg, el CEO Satya Nadella se enfureció
  • La expulsión de Altman posiblemente fue liderada por el Chief Scientist Ilya Sutskever, a partir de preocupaciones sobre la seguridad y el ritmo de despliegue de la tecnología de OpenAI
  • En una reunión urgente con todo el personal el viernes por la tarde, Sutskever dijo que la junta había cumplido con su deber frente a la misión sin fines de lucro de “garantizar que OpenAI construya una AGI que beneficie a toda la humanidad”
  • La AGI que OpenAI ha perseguido se refiere a una tecnología hipotética capaz de realizar tareas intelectuales que pueden hacer los humanos

La fractura por el ritmo de comercialización y la seguridad

  • El conflicto interno creció en torno a la comercialización y el ritmo de crecimiento de la empresa impulsados por Altman, mientras Sutskever sostenía que había que desacelerar
  • Según declaraciones de fuentes transmitidas a Kara Swisher, el Dev Day de OpenAI del 6 de noviembre fue visto como un punto de inflexión en el que Altman puso al frente productos de consumo y empujó “demasiado lejos, demasiado rápido”
  • Altman y Brockman dijeron en un comunicado conjunto el viernes por la noche que estaban “conmocionados y tristes” por las acciones de la junta
  • El inversionista ángel Ron Conway criticó lo ocurrido como una maniobra de junta difícil de ver desde que la junta de Apple apartó a Steve Jobs en 1985, y dijo que no era justo para Sam, Greg ni para los builders de OpenAI

Gobierno sin fines de lucro y la junta restante

  • OpenAI tiene una estructura inusual en la que una organización benéfica pública sin fines de lucro 501(c)(3) posee y controla el brazo con fines de lucro
  • Antes del despido, la junta de la organización sin fines de lucro incluía a Altman, Brockman, Ilya Sutskever y tres personas que no eran empleadas de OpenAI
    • Adam D’Angelo: CEO de Quora
    • Tasha McCauley: adjunct senior management scientist en RAND corporation
    • Helen Toner: strategy and foundational research grants director del Georgetown Center for Security and Emerging Technology
  • Tras el despido de Altman y la exclusión de Brockman de la junta, solo quedaron en ella Sutskever, D’Angelo, McCauley y Toner

El proceso de despido y la comunicación interna

  • Según el comunicado conjunto de Brockman y Altman, el despido de Altman fue una sorpresa total para ambos
  • Altman recibió el jueves por la noche una solicitud para asistir el viernes al mediodía a una reunión remota de la junta, y fue despedido al día siguiente en esa reunión
  • Brockman, que en ese momento era presidente de la junta de OpenAI, no fue invitado a esa reunión
  • Unos 30 minutos después, Sutskever le informó a Brockman que sería removido de su rol en la junta, aunque podía permanecer en la empresa, y también le comunicó que Altman había sido despedido
  • Brockman rechazó quedarse en la empresa y renunció más tarde el viernes
  • Según Brockman, la dirección de OpenAI se enteró de la decisión recién después de tomada, aunque Mira Murati, entonces CTO y luego interim CEO, fue informada el jueves por la noche

“Comunicación no franca” y negación de mala conducta

  • El anuncio de OpenAI sobre la salida de Altman afirmó que Altman “no fue consistentemente franco” en sus comunicaciones con la junta, lo que obstaculizó la capacidad de la junta para cumplir con sus responsabilidades
  • La empresa aún no ha aclarado qué significa específicamente esa expresión
  • Personas internas ven el movimiento principalmente como una lucha de poder entre Altman y Sutskever y una fractura cultural
    • Entre los factores de conflicto se incluyen el estilo de gestión de Altman y el impulso creciente de promoción externa
    • El 29 de septiembre, Sutskever escribió en X: “Ego is the enemy of growth”
  • Un memo interno del COO Brad Lightcap obtenido por Axios señaló que la decisión de la junta no estuvo relacionada con mala conducta ni con prácticas financieras, comerciales, de seguridad, protección o privacidad
  • Lightcap resumió lo ocurrido como una “ruptura en la comunicación entre Sam y la junta”

Salida de investigadores y agitación interna

  • Tres investigadores de IA cercanos a Altman también dejaron la empresa en respuesta a las noticias del viernes
    • Jakub Pachocki: GPT-4 lead y director of research de OpenAI
    • Aleksander Madry: responsable del equipo de evaluación de riesgos de IA
    • Szymon Sidor: investigador de open source baselines
  • Sus renuncias mostraron que la confusión interna causada por el despido de Altman se extendió también a la organización de investigación

Superalignment, GPT-5 y el debate sobre la velocidad

  • Sutskever es co-líder del equipo Superalignment, que investiga cómo controlar una hipotética IA superinteligente
  • Debido a ese rol, se propagaron rumores de que la fractura dentro de OpenAI entre desarrollo lento y rápido podría estar relacionada con avances internos recientes
  • En el APEC CEO Summit del jueves, Altman dijo que había estado presente en cuatro momentos de la historia de OpenAI en los que se “empujó hacia atrás el velo de la ignorancia y se avanzó la frontera del descubrimiento”, y afirmó que el más reciente había sido “en las últimas semanas”
  • Estas preocupaciones no significan que OpenAI haya desarrollado una superinteligencia, y los expertos consideran que esa posibilidad es baja
  • El nuevo avance mencionado por Altman podría haber aumentado la presión entre las exigencias de la organización sin fines de lucro de avanzar de forma segura y las demandas de monetización de la subsidiaria con fines de lucro
  • Altman dijo recientemente que GPT-5, presumiblemente un potente sucesor de GPT-4, está en desarrollo

Mensajes a empleados y tareas para encauzar la situación

  • El engineering manager de OpenAI Evan Morikawa dijo en X que la empresa seguirá lanzando productos, y que Sam y Greg no eran micromanagers
  • Señaló que mucho talento en investigación, producto, ingeniería y diseño está generando resultados, y que entre los líderes existe una alineación interna hacia una misión más grande
  • Lightcap reconoció en el memo interno que los empleados pueden sentir confusión, tristeza y miedo
  • La empresa está concentrada en manejar la situación, resolverla y lograr claridad, así como en volver al trabajo, y subrayó su responsabilidad con empleados, socios, usuarios, clientes y el mundo en general
  • Agregó que considera que la posición de la empresa sigue siendo sólida, apoyó a la interim CEO Mira Murati y dijo que comparte las preocupaciones sobre cómo se manejó el proceso y que están trabajando para resolver la situación

1 comentarios

 
GN⁺ 2023-11-19
Opiniones de Hacker News
  • Es una pena por Sam y Greg, pero lo que la junta debe hacer no es tratar bien a Sam & Greg, sino tomar la decisión correcta para OpenAI.
    Cuando la dirección despide a 10.000 empleados, los inversionistas aplauden diciendo “son negocios”; pero cuando despiden a un CEO cercano a ellos, sacar a relucir la moral me parece incorrecto.
    Por supuesto, también hay que considerar el impacto en los empleados, pero un CEO se parece más a un comandante con gran responsabilidad y autoridad sobre los resultados de la empresa, mientras que un empleado común se parece más a un civil para quien soportar un despido es mucho más difícil.

    • OpenAI tiene derecho a cambiar su estrategia, de un gigante corporativo orientado a las ganancias a una organización más pequeña centrada en la investigación, pero la forma en que lo hizo fue pésima, poco profesional y una mancha en su gobierno corporativo.
      Le dieron una puñalada por la espalda a socios como Satya, dividieron a la empresa en dos bandos e hicieron que Sam y Greg, enfurecidos, buscaran represalias.
      Como resultado, incluso surgió el riesgo de que una versión con fines de lucro de OpenAI, sin un propósito superior, domine el mercado, y no parece haber margen para justificar esta forma de proceder.
    • La misión de la junta, para ser precisos, es actuar conforme al propósito de interés público de la entidad sin fines de lucro que tienen a su cargo.
      A los inversionistas de OpenAI Global LLC, la entidad con fines de lucro subordinada, se les informó explícitamente que debían tratar su inversión como una donación, y que el propósito de la empresa no era devolver ganancias a los inversionistas, sino cumplir la función de interés público de la entidad sin fines de lucro.
    • Una vez conocí a Conway, y explicó que la razón por la que invirtió en Google fue que era una forma de revivir su juventud a través de fundadores que le recordaban a él cuando era joven.
      Parecía no tener ninguna conciencia de cómo sonaría eso frente a una audiencia que quería crear empresas significativas e influyentes.
      Que alguien tenga mucho dinero no significa que su criterio sea útil.
    • En general estoy de acuerdo, pero nunca tuve la impresión de que Ron Conway fuera ese tipo de VC.
      Sin duda es amigable con los fundadores, pero no me parecía el tipo de inversionista despiadado que impulsa recortes de costos o despidos.
    • Las corporaciones deberían estar obligadas a tener una cláusula que permita a los empleados destituir a los ejecutivos mediante un voto de censura.
      Si se permite solo cuando una mayoría abrumadora esté a favor, podría ser más justo y, como mínimo, sería una estructura interesante.
  • Todo el mundo está enloquecido, pero por mi experiencia personal trabajando con CEOs “importantes” en varias empresas, creo que no me habría importado en absoluto si ese CEO se hubiera ido.
    Desde afuera, al CEO se le atribuye en exceso el mérito por el desempeño de la empresa, y eso no significa que el CEO sea realmente tan importante.
    OpenAI puede ser diferente, pero no asumiría que es una excepción total.

    • Un CEO transaccional, que construye relaciones con las personas adecuadas, cierra acuerdos inteligentes y gana la confianza del público, puede cambiar muchísimo la trayectoria de una empresa de productos con fines de lucro.
      Pero si una organización sin fines de lucro con una misión de interés público es dueña de una empresa con fines de lucro, esa trayectoria puede apuntar en la dirección equivocada.
      El anuncio de Dev Day, en especial el marketplace, podría sugerir que eso mismo estaba ocurriendo en OpenAI.
      No todos querrán vender juguetes geniales de LLM bajo la lógica de moverse rápido y romper cosas, y estas personas parecen querer guiar una AGI responsable antes de que otros lo hagan de forma irresponsable.
    • La adoración al CEO es rara.
      Es un grupo tan pequeño que, siempre que alguien no arruine todo por completo, enseguida lo tratan como un genio.
      Si les das miles de millones de dólares y cientos de ingenieros e investigadores brillantes, muchas personas podrían hacer que algo funcione de una forma u otra; pero como son pocas las personas que reciben esa oportunidad, pasan estas cosas.
      A menudo no hacen el trabajo real y se llevan el crédito.
    • En una startup vi cómo el primer CEO, el vicepresidente de ventas y todo el departamento de ventas fueron expulsados por la junta un martes.
      Podría salir a la luz que Sam y otros en realidad estaban más cerca de ser evangelizadores tecnológicos o vendedores competentes, y por eso parece que la gente de la industria tecnológica está inquieta ahora.
    • El problema no es simplemente que hayan sacado al CEO, sino que es una señal de que OpenAI se está alejando claramente de la dirección que llevaba.
      La dirección anterior estaba bastante enfocada en permitir que la gente construyera cosas sobre la tecnología.
      Ahora preocupa que cambie hacia un modelo en el que el acceso se controle solo para investigadores considerados “seguros”.
    • A menudo termina pareciéndose a la teoría del autor.
      Si la gente no conoce muy a fondo un proceso de producción, se obsesiona con el aspecto más visible públicamente y con la persona que parece tener la máxima autoridad.
      Eso ocurre aunque directores o CEOs muchas veces también tengan que responder ante otros; y aunque, por supuesto, la influencia individual puede ser grande, rara vez esa grandeza surge de una sola persona.
  • Es difícil creer que una junta directiva que no puede controlar ni a sí misma ni a sus empleados pueda gestionar la IA de manera responsable, y también queda la duda de si alguien puede gestionar la AGI.
    Las organizaciones sin fines de lucro tienen un antiguo problema de gobernanza, y los objetivos ambiguos provocan política interna.
    La ventaja de una junta directiva con fines de lucro es que el objetivo se reduce a intercambios de riesgo bien entendidos, como crecer ahora o crecer más adelante, y sus integrantes se eligen entre personas que tienen un interés real en ese objetivo.
    La razón por la que las organizaciones religiosas o los gobiernos ideológicos difícilmente inspiran confianza también es que quedan capturados por la política interna.
    Me parece más razonable dejar la IA/AGI como un negocio plenamente con fines de lucro, pero invertir el valor predeterminado de la responsabilidad para que los desarrolladores asuman todos los costos externos que generen sus productos.
    El software e internet han sido ámbitos en los que los consumidores prácticamente no recibían reparación alguna por los costos que se les trasladaban, y gracias a eso crecieron enormemente y produjeron innovación disruptiva.
    Si se quiere controlar la IA/AGI, hacerla con fines de lucro pero cargar a los desarrolladores con la responsabilidad por los costos externos haría que sus aplicaciones fueran muy limitadas y se restringieran a casos con beneficio social neto.

    • Entiendo este argumento, pero la búsqueda de ganancias descarada también es causa de muchos problemas de nuestra economía, y si se organiza una institución con ese criterio se dejan fuera valores difíciles de cuantificar.
      Seguir ciegamente solo la lógica económica puede crear problemas, y esta es también una gran razón por la que la cultura empresarial estadounidense pasó de hacer primero buenos productos a maximizar el valor para los accionistas.
      Dicho eso, viendo solo esta decisión, la junta directiva de OpenAI parece voluble e impulsiva.
    • En otro artículo de HN también hay un bloguero que dice algo similar al final: https://loeber.substack.com/p/a-timeline-of-the-openai-board
    • “Hacer el bien” es inherentemente mucho más ambiguo, de más dimensiones y con incontables definiciones que “ganar dinero”.
      Por eso, en las organizaciones sin fines de lucro inevitablemente interviene más la política en su dimensión humana.
      Si uno quiere vivir dentro del accionar de las organizaciones sin fines de lucro, tiene que aceptar ese punto.
      Decir que no son confiables por la política es parecido a decir que, cuando intervienen los asuntos humanos, son menos confiables que las computadoras.
      Si no se puede imaginar una política eficaz, tampoco se pueden imaginar asuntos humanos eficaces, y solo queda el trabajo mecánico de sistemas simples de optimización como los mercados capitalistas.
    • ¿Acaso las empresas con fines de lucro no tienen problemas de gobernanza, y por eso no ocurrieron cosas como la epidemia de tabaquismo, la epidemia de opioides o el colapso de la biosfera terrestre?
      Todo eso ocurrió por unas monedas.
    • Creo que la solución sería reemplazar a los miembros de la junta por entidades AGI.
      Solo hace falta encontrar una forma de reflejar los datos actuales en el modelo en tiempo real, y sospecho que en OpenAI también lo están tratando activamente: https://www.workbyjacob.com/thoughts/from-llm-to-rqm-real-ti...
      El verdadero peligro no es que los niños pregunten cómo fabricar drogas ilegales, sino que algún gobierno meta el resultado en un sistema de defensa nacional tipo Skynet.
      El extraño silencio sobre las aplicaciones de los LLM en el complejo militar-industrial me hace sospechar que esto quizá también sea parte de la historia de OpenAI.
  • En HN vi que decían que incluso un ingeniero muy importante no es demasiado importante, que Ilya también es reemplazable, y ponían como ejemplo cómo Apple creció después de que Woz se fuera, pero creo que una mejor comparación es cuando John Carmack sacó a Romero de id Software después del lanzamiento de Quake.
    Carmack impulsó tecnología de punta durante casi 10 años, desde el desplazamiento horizontal fluido de Commander Keen hasta el falso 3D de Doom y el 3D completo de Quake, generando un enorme avance gráfico; entre 1991 y 1996, los nuevos engines de id prácticamente crearon géneros nuevos.
    Dentro de id también lo sabían en ese momento, y gracias a eso Carmack tuvo el poder suficiente como para despedir al cofundador John Romero.
    Romero era la cara pública llamativa y omnipresente de id, pero después de ser despedido, aun con mucho dinero y una enorme promoción, no logró crear nada tan grande como Doom o Quake, y su nueva empresa terminó cerrando.
    En cambio, id bajo Carmack siguió sacando éxitos.
    En una situación en la que cada pequeño incremento de rendimiento extraído de tecnología de punta se traduce en grandes aumentos de ingresos, la experiencia en ingeniería realmente importa, y lo mismo ocurre hoy con la calidad de salida de los LLM, como pasaba con los gráficos de PC en los 90.
    Por eso, así como Carmack fue el motor clave del crecimiento de id, creo que hay una probabilidad considerable de que Ilya cumpla un rol similar en OpenAI.

    • No es exacto decir que los resultados de id Software siguieron siendo éxitos después de que Romero se fuera.
      Después de Quake 1, la producción de id claramente bajó un escalón; la tecnología era excelente, pero los juegos eran aburridos y faltos de inspiración, y como mucho eran “buenos”, no “grandiosos”.
      Durante 20 años, hasta que salió Doom en 2016, no volvieron a crear nada interesante.
      El mayor éxito de id después de Romero no fue como desarrolladora de juegos, sino como empresa de licencias de tecnología, al impulsar juegos como Half Life, Medal of Honor y Call of Duty.
      En cambio, aunque Ion Storm de Romero finalmente fracasó, sí produjo juegos interesantes como Deus Ex y Anachronox, e incluso considero que Daikatana es más interesante que Quake 2 o Quake III.
    • La investigación de IA al nivel de OpenAI se diferencia en que tiene una intensidad de capital mucho mayor.
      Es imprescindible alguien que siga atrayendo capital mediante ingresos, inversionistas y socios, y que permita acceder a GPU y datasets propietarios.
      Carmack podía generar avances gráficos con una sola computadora y su propia cabeza, pero para que Ilya siga empujando a OpenAI hacia adelante hace falta muchísimo más.
      Un cerebro enorme por sí solo no alcanza.
    • La técnica de raíz cuadrada inversa rápida de Quake III no fue inventada por Carmack.
      Era un truco que existía desde más de una década antes de que él lo usara, y recuerdo haber leído trucos sucios parecidos en una columna de Jim Blinn en una revista de IEEE mucho antes de que Carmack la “inventara”.
      https://en.wikipedia.org/wiki/Fast_inverse_square_root
    • Lo veo en tres puntos.
      Ilya no es como Carmack en este caso; se ha concentrado más en investigación de seguridad y alineación que en crear GPT-[n].
      Según varias explicaciones, en los últimos años Greg Brockman, que se hartó de esta medida y renunció, y los investigadores sénior que se fueron ayer tuvieron más impacto que Ilya.
      Tampoco hay que subestimar a id. No explotó de forma espectacular como Ion Storm, pero id fue perdiendo presencia gradualmente y, aunque iba por delante en gráficos, ya no estaba en la cima innovadora de los primeros tiempos de Carmack+Romero, y finalmente fue vendida a Zenimax.
      Carmack solo fue mucho mejor que Romero solo, pero parece que no tanto como cuando estaban juntos.
      Sam Altman tampoco es como John Romero. El problema de Ion Storm de Romero fue que daba vueltas sin fin persiguiendo la perfección y no lograba lanzar, mientras que el problema que Ilya tenía con Altman iba más bien por el lado de lanzar demasiado rápido.
      Espero que Sam y Greg inicien una nueva empresa de IA fundacional; si eso ocurre, me entusiasma mucho más que la OpenAI centrada en alineación y regulación que parecen querer Ilya y Helen.
    • Romero fue despedido en 1996, y hasta entonces id había creado varias franquicias legendarias con mundos y características propias y tecnología revolucionaria, como Commander Keen, Wolfenstein 3D, Doom y Quake.
      Después, como se ve en la lista de https://en.wikipedia.org/wiki/List_of_id_Software_games, lo que hay es básicamente Quake 2, Quake 3 y Doom 3, y fuera de eso casi nada con valor o impacto cultural.
      Hubo muchos logros técnicos, pero para que un juego sea memorable hace falta algo más que tecnología interesante.
      Para quienes descubren estos juegos hoy, Quake es simplemente Quake, y no recuerdan la diferencia entre 1, 2 y 3.
      Es cierto que id fue una empresa de software exitosa, pero no parece que, solo con su producción posterior a Romero, hubiera llegado a ser un gigante de la industria que moldeara el futuro de los videojuegos.
      Se puede decir que Carmack logró más cosas solo que Romero solo, pero para alcanzar una verdadera grandeza en el ámbito de los videojuegos se necesitaban mutuamente.
      Todavía falta ver qué dirá la historia sobre Altman y Sutskever.
  • Este despido parece ser un despido muy personal.
    Salvo que salga a la luz alguna conducta realmente grave adicional, una junta responsable no despediría a un CEO dañando con tanta indiferencia la reputación de la empresa y a sus socios, a menos que se tratara de un resentimiento personal ligado a una lucha interna de poder.
    Es vergonzoso para todos los involucrados, y sama tiene motivos reales para presentar una queja.
    También parece posible que haya repercusiones legales.
    Claro que, si de verdad inventaron la AGI y sama intentó monetizarla, una junta de agoreros de la AGI pudo haber actuado sin cuidado.
    Aun así, incluso en ese caso, era una disputa que debía resolverse a puerta cerrada.
    Todos pensarán en Jobs, pero Gary Gygax de TSR en los 80 también podría ser otro ejemplo.

    • Gygax se fue a Hollywood y no tenía tiempo para dirigir la empresa porque estaba ocupado alimentando sus adicciones al alcohol, la cocaína y las infidelidades.
      Mientras tanto, TSR estaba perdiendo muchísimo dinero y, a principios de los 80, apenas lograba facturar 30 millones de dólares al año mientras tenía una deuda de 1,500 millones de dólares.
      Además, la caída de Gygax fue resultado de su propio golpe.
      Expulsó a Kevin Blume y trajo a Lorraine Williams; después de que ella compró toda la participación de Blume, alrededor de un año más tarde eliminó el control de Gygax sobre la empresa y canceló la mayoría de sus proyectos, y él renunció un año después.
    • No creo que Altman vaya a demandar.
      Ahora mismo él tiene la superioridad moral y la junta parece mezquina e inmadura, así que sería una tontería hacer algo que invierta esa dinámica.
      Es muy probable que anuncie una nueva empresa en las próximas semanas, y que sea o no de IA mostrará cómo ve realmente las perspectivas de este campo.
      Brockman y los demás probablemente harán algo nuevo en IA.
    • Sacar a Jobs fue, en ese momento, la decisión correcta.
      Tenía una personalidad abusiva y difícil de manejar, la Macintosh era en ese entonces un fracaso de ventas, y usaba equipos internos y la política de la empresa para enfrentarlos entre sí —como Lisa contra Mac—, perjudicando la integración y el éxito.
      Después de volver, su carácter siguió siendo difícil, pero esos otros problemas ya no ocurrieron.
      Tras su regreso, Apple se convirtió en una empresa muy buena ejecutando una visión colaborativa única.
    • La capacidad empresarial de Gygax tampoco queda bien parada en los libros de historia.
      Basta con ver que creó AD&D para no pagarle regalías a Arneson.
    • Jobs era una carga cuando lo despidieron, y es muy probable que no hubiera madurado si no lo hubieran despedido.
      Fue una experiencia verdaderamente formativa.
  • Está claro que había tensión entre el bando de crecimiento con fines de lucro y el bando de crecimiento sin fines de lucro, pero no entiendo que se mencione el Dev Day como el golpe final.
    Fue un evento de lanzamiento de producto.
    Ilya y la junta deberían haber sabido desde meses antes qué se iba a presentar ese día, y como mínimo probablemente habían visto el plan o incluso lo habían aprobado.
    El momento para poner un límite habría sido antes del lanzamiento; me pregunto si después del anuncio se miraron al espejo y de pronto se dieron cuenta.

    • No hay que asumir que la junta al menos conocía o había aprobado el plan.
      El propio comunicado decía que Sam no había sido sincero de alguna manera, y Greg también se vio afectado.
      Ilya podría haber sido el único miembro de la junta que lo supiera de forma natural por el trabajo del día a día, pero desde julio más o menos estaba trabajando en el área de superalineación, así que también pudo haber estado en otro departamento.
      La junta pudo haberse enterado del proyecto por un tercero o por Ilya, haberle dicho a Sam que iba demasiado rápido, y aun así Sam pudo haberlos ignorado y lanzarlo.
      En realidad, nadie lo sabe.
    • No era necesario que Ilya y la junta supieran desde meses antes qué se iba a presentar.
      De hecho, eso podría encajar con la parte del comunicado de la junta que decía que Sam no fue sincero.
    • Puede que Sam no haya informado del lanzamiento de la tienda de GPTs, o que haya dicho que no la lanzaría y luego la lanzó.
      Es algo malo para OpenAI, pero hay tantos competidores hambrientos intentando reemplazar a OpenAI que no creo que tenga grandes consecuencias a largo plazo para todo el sector.
      Me pregunto qué derechos de supervisión y qué mecanismos de reparación tienen los inversionistas, o quizá los donantes.
      Mucha gente que puso bastante dinero hoy debe de estar bastante enojada.
    • Ellos también son humanos, y hay una gran diferencia entre saber vagamente que se acerca una keynote y ver que el anuncio realmente ocurre y recibe una reacción entusiasta de toda la industria tecnológica.
      Bien pudo haber sido un momento de mirarse al espejo.
    • Si se mira la tensión entre Ilya Sutskever y Sam Altman más allá de la superficie de productos e ingresos, se ve diferente.
      Ilya Sutskever es alguien con la convicción auténtica de que los LLM son AGI, y en eso coincide con Geoff Hinton, quien fue su asesor en la Universidad de Toronto.
      Hinton dijo: “si lo entrenas para que sea realmente bueno prediciendo la siguiente palabra, en realidad lo estás obligando a entender. Sí, es autocompletado, pero no han pensado en lo que significa un autocompletado realmente bueno”[1].
      En cambio, Altman concluyó que los LLM no son ese camino[2].
      Por eso Altman intentó convertir los LLM en productos con fines de lucro y extraerles valor, mientras que el lado de Sutskever parece haberlos visto como AGI y querido mantenerlos sin fines de lucro.
      También hay una diferencia sobre si la AGI es un riesgo existencial, o si los riesgos actuales de la IA están más bien en el sesgo algorítmico, la desigualdad socioeconómica, la desinformación y la información falsa, y el solucionismo tecnológico.
      1. https://www.newyorker.com/magazine/2023/11/20/geoffrey-hinto...
      2. https://www.thestreet.com/technology/openai-ceo-sam-altman-s...
  • Hay otra hipótesis
    Se dice que es muy probable que la destitución haya sido liderada por el científico jefe Ilya Sutskever por preocupaciones sobre la seguridad y la velocidad del despliegue de la tecnología de OpenAI, pero quien lanzó primero el marketplace de GPT/agentes no fue OpenAI, sino Poe de Quora
    Pero en la junta sin fines de lucro de OpenAI está sentado el CEO de Quora
    Al menos podemos saber dónde estaban sus intereses cuando votó en contra de Altman y Greg

    • La actual CEO interina también fue quien lideró el desarrollo de ChatGPT
      ChatGPT fue el producto más grande en la historia de la compañía y su mayor movimiento orientado al mercado de consumo
      Por eso es difícil verlo simplemente como una situación de “Sam quería ingresos e Ilya/la junta quería investigación pura”
    • Buen punto
      Si una organización sin fines de lucro en cuya junta estás lanza un producto que compite con el producto de la empresa que diriges, ¿cómo se maneja ese conflicto de intereses?
      Parece que debería haberse apartado
  • Esto no es un golpe
    Golpe es una palabra que se usa cuando el poder se arrebata por la fuerza, no cuando los miembros deciden que ya no representas bien sus intereses
    Es como llamar golpe a que un político pierda una elección
    Llamarlo golpe crea la insinuación equivocada de que OpenAI era, en algún sentido, propiedad de Sam Altman
    Más bien, lo que se acerca a un golpe es la idea de que un fundador crea una empresa, vende participación y aun así se considera dueño de ella como si siguiera siendo suya
    Es quitarle el control a los verdaderos dueños y dárselo al ejecutivo que es la cara pública

    • Estás confundiendo negocios con política
      Un golpe literal sí es tomar por la fuerza el control de un Estado con apoyo militar, pero en los negocios y en el mundo más amplio, golpe significa en sentido figurado una toma de poder planeada en secreto y ejecutada por sorpresa
      Es como cuando una empresa “declara la guerra”: no significa que vaya a lanzar misiles y matar gente, sino que concentra recursos en un objetivo para competir
      Esto claramente es un golpe
      Una parte de la junta lo planeó en secreto, lo ejecutó en una reunión secreta de la junta sin dos miembros, incluido el presidente, e incluso Microsoft, que invirtió el 49% en la entidad con fines de lucro, no tuvo ningún conocimiento ni voz
      No estoy hablando de si estuvo bien o mal; es uno de los golpes de junta directiva que quedarán en los libros de historia
      Hay una razón por la que fue noticia de portada no solo en HN, sino también en el NYT y el WSJ
    • Tampoco es raro llamar golpe parlamentario a la caída de un gobierno cuando el procedimiento legislativo se caracteriza más por la prisa y la conspiración que por el debate y la deliberación
      En la Revolución Francesa, hechos como la caída de Robespierre o la anulación de elecciones por el Directorio suelen describirse como golpes
      El último incluso fue bastante incruento
    • La analogía correcta de gobernanza aquí es más bien la contraria
      Se parece más a la defensa del orden constitucional de OpenAI
      La empresa, como Mozilla, está centrada en una organización sin fines de lucro, y la parte con fines de lucro fue diseñada intencionalmente para existir con el fin de conseguir el capital necesario para cumplir esa misión
      Hay que ver lo que escribieron directamente sobre la estructura: https://openai.com/our-structure
      En particular esta parte: https://images.openai.com/blob/142770fb-3df2-45d9-9ee3-7aa06...
    • Que un político sea echado por votación también es literalmente un golpe político
  • Siento que el aspecto comercial de la marca OpenAI desapareció
    Si una junta sin fines de lucro actúa contra los intereses de los clientes ralentizando el desarrollo y dándoles un producto inferior, ¿cómo van a depender los clientes de OpenAI?
    En cambio, el aspecto de AGI de OpenAI estará bien
    El desarrollo responsable de AGI liderado por Ilya Sutskever continuará, y espero que tenga éxito
    Creo que Microsoft presentará algunas demandas y obstaculizará internamente a OpenAI
    Es una empresa de casi 3 billones de dólares y tiene un ejército de abogados, así que puede causar mucho daño, especialmente si no hay mucha simpatía por OpenAI del lado de los VC de Silicon Valley

    • Depender desde el principio de un servicio nuevo es una mala idea
      Podría haber quebrado, podría haberse derrumbado por demandas, o podría haber sido adquirida por Microsoft
      Solo por el hecho de que hayan despedido al CEO, hay que ver si el éxito se debía a GPT o al CEO
      Lo primero sigue ahí y tampoco se ha vuelto inferior
      Una desaceleración del crecimiento no significa necesariamente una reducción
    • Me pregunto si es un cambio para dejar de tener a los LLM como producto principal
      En ese ámbito, los competidores se están poniendo al día rápidamente
    • Ahora me pregunto qué pasará con ChatGPT
      Si de verdad fue por cosas como el Dev Day, quizá tenga algo de sentido hasta cierto punto, pero si una IA útil que ayuda a la gente se trata como algo indigno, me pregunto si OpenAI se está volviendo cada vez más una secta cerrada
      Terminaría siendo ClosedAI, que no puedes usar ni pagando
  • Artículo de Jeremy Howard de fast.ai: https://x.com/jeremyphoward/status/1725712220955586899
    Él no es exactamente un insider, pero en general parece estar alineado o simpatizar con Ilya y el sector de investigadores, y también parece tener conexiones
    Ese tuit y esa perspectiva fueron un indicador indirecto útil para estimar cómo podría haberse sentido la sensación de división interna

    • Es una interpretación realmente mala
      A los desarrolladores, incluyéndome a mí, nos gustó Dev Day