Sam Altman regresa como CEO de OpenAI y se forma una nueva junta inicial

 (openai.com)
1 puntos por GN⁺ 2023-12-01 | 1 comentarios | Compartir por WhatsApp
  • OpenAI está resolviendo el vacío de liderazgo al reinstalar a Sam Altman como CEO, reubicar a Mira Murati como CTO y a Greg Brockman como President
  • La nueva junta inicial arranca con Bret Taylor como presidente, Larry Summers y Adam D’Angelo, e Ilya Sutskever deja la junta
  • Las tareas de corto plazo de la empresa se enfocan en avanzar la hoja de ruta de investigación, invertir en la seguridad full-stack, mejorar y desplegar productos, apoyar a los clientes, ampliar la junta y mejorar la gobernanza
  • Microsoft participará en la nueva junta como observador sin derecho a voto, y también se formó un comité independiente para revisar los hechos recientes
  • En la actualización del 8 de diciembre de 2023, Bret Taylor y Larry Summers quedaron a cargo del comité de supervisión de la revisión y seleccionaron a Anjan Sahni y Hallie B. Levin de WilmerHale

Regreso del liderazgo y junta inicial

  • Sam Altman regresa como CEO de OpenAI
  • Mira Murati vuelve a su rol de CTO
  • Greg Brockman regresa como President
  • La nueva junta inicial está compuesta por tres personas
    • Bret Taylor, presidente
    • Larry Summers
    • Adam D’Angelo

Resumen de la junta anterior y figuras clave

  • Ilya Sutskever ya no forma parte de la junta
    • Altman espera seguir trabajando con Ilya y está conversando sobre cómo puede continuar su trabajo en OpenAI
  • Adam D’Angelo forma parte de la nueva junta inicial
  • Se menciona a Tasha McCauley y Helen Toner como personas que hicieron un gran esfuerzo para llegar a una solución
  • Se considera que Emmett Shear desempeñó un papel clave y constructivo para llegar al resultado, y que su compromiso con la seguridad de la IA y el equilibrio entre las partes interesadas fue evidente

Mensaje para empleados, socios y clientes

  • Altman afirma que el equipo de OpenAI mostró resiliencia y fortaleza incluso en una situación poco clara y sin precedentes
  • Señala que no hubo ni una sola salida de empleados durante este periodo
  • OpenAI afirma que tampoco perdió a un solo cliente
  • Se menciona a Satya, Kevin, Amy y Brad de Microsoft como socios que estuvieron presentes con las prioridades correctas
    • Altman afirma que la alianza con Microsoft fue la decisión correcta
    • La nueva junta incluirá a Microsoft como observador sin derecho a voto

Prioridades inmediatas de OpenAI

  • La primera prioridad es avanzar el plan de investigación e invertir más en los esfuerzos de seguridad full-stack
    • Altman afirma que la hoja de ruta de investigación es clara
    • Este trabajo se realizará junto con Mira Murati
  • La segunda prioridad es seguir mejorando y desplegando productos, y apoyar a los clientes
    • Considera importante que las personas tengan la oportunidad de experimentar y dar forma a los beneficios y posibilidades de la IA
    • Afirma que, junto con Brad, Jason y Anna, dejará en claro sus compromisos con usuarios, clientes, socios y gobiernos de todo el mundo
  • La tercera prioridad es ampliar la junta, mejorar la estructura de gobernanza y realizar una revisión independiente de los hechos recientes
    • Bret Taylor, Larry Summers y Adam D’Angelo estarán a cargo de construir una junta con perspectivas diversas
    • Es un paso para asegurar la confianza en la estabilidad de OpenAI

Plan de gobernanza de Bret Taylor, presidente de la junta

  • La junta de OpenAI se enfoca en fortalecer la gobernanza corporativa de la empresa
  • Planea construir una junta calificada y diversa, con experiencia que represente la amplitud de la misión
    • El alcance incluye tecnología, seguridad y políticas públicas
    • Incluirá a un observador sin derecho a voto de Microsoft
  • La estabilización de la organización también forma parte del plan
    • Se convocó a un comité independiente de la junta para supervisar la revisión de los hechos recientes
  • Planea mejorar la estructura de gobernanza para que usuarios, clientes, empleados, socios y miembros de la comunidad puedan confiar en el crecimiento continuo de OpenAI

El papel de ChatGPT y OpenAI

  • Bret Taylor afirma que OpenAI se ha vuelto una institución más importante que antes
  • ChatGPT cumple un papel al incorporar la inteligencia artificial en la vida diaria de cientos de millones de personas
  • La popularidad de ChatGPT ha colocado los beneficios y riesgos de la IA en el centro del debate sobre el futuro de los gobiernos, los negocios y la sociedad
  • La junta de OpenAI reconoce el peso de estas discusiones y el papel central que OpenAI desempeña en el desarrollo y la seguridad de nuevas tecnologías

Actualización del 8 de diciembre de 2023

  • La junta de OpenAI convocó un comité integrado por Bret Taylor y Larry Summers para supervisar la revisión de los hechos recientes
  • Ese comité entrevistó a varios despachos jurídicos importantes para llevar a cabo la revisión
  • Finalmente seleccionó a Anjan Sahni y Hallie B. Levin de WilmerHale
  • La junta siguió avanzando en las siguientes tareas mientras la revisión estaba en curso
    • Fortalecer la gobernanza corporativa de OpenAI
    • Construir una junta calificada y diversa
    • Supervisar la misión de OpenAI de lograr que la inteligencia artificial general beneficie a toda la humanidad

Lecturas relacionadas

1 comentarios

 
GN⁺ 2023-12-01
Opiniones de Hacker News

  • Todavía no sabemos a qué se refería Sam en realidad, pero creo que lo que dijo la noche anterior a su despido pudo haber sido la causa de la tensión.
    Dijo que, algunas veces en la historia de OpenAI, estuvo en un lugar donde se “corría el velo de la ignorancia y se empujaba hacia adelante la frontera del descubrimiento”, y habló como si el trabajo que están haciendo ahora fuera a ser el mayor salto tecnológico.
    Además, cuando le preguntaron qué cosa sorprendente anunciaría la empresa el año que viene, respondió que las “capacidades del modelo darán un salto a un nivel que nadie esperaba”, y dijo que habría una gran diferencia entre cuánto cree la gente que mejorarán los modelos el próximo año y el cambio real.

    • Cuesta imaginárselo. Por ejemplo, la educación superior parece que tardará años tan solo en ponerse al día con los modelos de frontera actuales.
      Al mismo tiempo, sí es posible imaginarlo. Sería algo parecido a usar ChatGPT ahora, pero de una forma que realmente termine el trabajo de principio a fin. Hoy casi todo lo que hago con ChatGPT tengo que rehacerlo, así que no me ahorra mucho tiempo, aunque sí me amplía la perspectiva.
    • Si eso significa que justo después de decir eso, al mediodía del día siguiente, la junta pidió una reunión, entonces casi no hubo deliberación. Eso parece poco probable.
      La junta ya debía conocer el avance, así que la declaración pública en sí tampoco encaja muy bien con la idea de que “no fue sincero”.
    • Si no significa que realmente pueda entender, sigue siendo solo un modelo predictivo más preciso. Despiértenme cuando llegue la singularidad.
    • La formulación es lo bastante ambigua como para leerse también como que será menos de lo esperado. Mi detector de estafadores se activó.

  • https://www.theverge.com/2023/11/29/23982046/sam-altman-inte...
    Fue una entrevista bastante interesante. Es curioso cómo usa la táctica de los políticos de no responder preguntas escudándose en una investigación; como la junta dijo que él “no fue consistentemente sincero” y todavía no hay una respuesta clara ni siquiera a la primera pregunta, “¿por qué fue despedido?”, no queda más que estar de acuerdo con el juicio inicial.
    Personalmente, no sé si se puede confiar en alguien que intentó crear una criptomoneda con una función para escanear los ojos de todo el mundo.

    • ¿Hay alguna razón para esperar que Sam sepa por qué lo despidieron? En el mejor de los casos, solo sabe lo que le dijo la junta, y eso podría no tener relación con los motivos reales.

  • Todavía no está claro cuáles eran las acusaciones contra Altman. ¿Se decía que había tomado a la ligera los problemas de seguridad? Si esa era la afirmación y tenía fundamento, no entiendo por qué su destitución estuvo mal ni por qué los empleados piden que lo traigan de vuelta.

    • El gran error de la junta fue no poder decir esto de manera clara y concreta. A mi parecer, lo que la junta cuestionaba era que él no actuaba como el directivo de una entidad sin fines de lucro que debía ser, sino que se movía en favor de los intereses de la subsidiaria con fines de lucro y de los suyos propios, y que esos intereses chocaban con la carta de la organización sin fines de lucro.
      Donde realmente metieron la pata fue en no presentar ese argumento de forma convincente, o en no querer hacerlo.
    • Incluso si de verdad se trataba de un problema de alineación, es decir, de un conflicto entre lo sin fines de lucro y lo con fines de lucro, o sobre seguridad, eso sigue siendo un gran “si”. La junta ejecutó todo pésimamente y calculó por completo mal la reacción de los empleados.
      Quedó al descubierto hasta dónde llegaban su poder y su capacidad de persuasión frente a Altman, la tentación de las ganancias y la fuerza de mantener el día a día de forma estable y clara sin una junta activista secreta.
      O tal vez ya sabían que los empleados no estaban de su lado y, al no tener otra vía, esperaban que una expulsión repentina y dramática del CEO obligara a todos a alinearse.
      Si el CEO parece estar haciendo bien su trabajo y de pronto lo destituyen sin una razón clara, yo también me habría preocupado bastante. Si la junta hubiera explicado los fundamentos y las pruebas, quizá algunos empleados habrían escuchado, pero no lo hizo, y hasta ahora seguimos sin saber cuáles fueron las acusaciones reales.
      Desde afuera parece un golpe fallido, y no hay explicación de quienes lo intentaron.
    • “Para ser claros, nuestra decisión se refería a la capacidad de la junta para supervisar eficazmente la empresa, y ese era nuestro rol y responsabilidad. Hubo muchas especulaciones, pero el motivo no fue un deseo de ralentizar el trabajo de OpenAI”.
      https://nitter.net/hlntnr/status/1730034022737125782#m
      También hay un contexto interesante que permite intuir qué ocurrió: https://nitter.net/labenz/status/1727327424244023482#m
    • Tampoco está claro por qué no habría sido posible reemplazar a Altman por otra persona y que la operación y el progreso no cambiaran literalmente en nada.
      Me desconcierta mucho que la gente reaccionara como si hubieran despedido a Michael Jordan de los Bulls.
    • La razón por la que los empleados quieren que vuelva es que es la persona que les promete hacerlos ricos a todos.

  • Solía intercambiar correos con Bret Taylor cuando todavía estaba en Google. Él creó Notable, una app de Windows que yo usaba a diario para tomar notas, y más adelante también empecé a contribuir.
    Es interesante ver su trayectoria: de gerente de producto en Google a co-CEO de Salesforce, y ahora presidente de la junta de OpenAI. También fue presidente de la junta de Twitter antes de Elon.

    • Tengo entendido que también fue el creador del concepto de Like. Se introdujo en FriendFeed y después Facebook empezó a usarlo.

  • No sé cómo interpretar que Ilya ya no esté en la junta y que Ilya no figure en el “Leadership group” del comunicado.

    • Como dijo Sam, parece que todavía están coordinando cómo trabajar juntos. Cuando termine esa discusión, podría entrar al equipo de liderazgo.

  • “Estoy realmente entusiasmado por terminar con ustedes el trabajo de construir una AGI beneficiosa: el mejor equipo del mundo, la mejor misión del mundo”.
    Sam Altman vive en un mundo muy distinto al mío.

    • Todos deberían leer Superintelligence. OpenAI se está precipitando hacia un resultado verdaderamente aterrador que, en la mayoría de los escenarios, incluye la extinción de la humanidad.

  • ¿Se sabe algo más sobre por qué lo despidieron en primer lugar?

    • No mucho. Solo que Helen Toner tuiteó un poco: “Para ser claros, nuestra decisión tuvo que ver con la capacidad de la junta para supervisar eficazmente a la empresa, que era nuestro rol y nuestra responsabilidad. Hubo muchas especulaciones, pero el deseo de frenar el trabajo de OpenAI no fue la motivación.” https://twitter.com/hlntnr/status/1730034020140912901
    • No mucho. El mercado de predicciones relacionado está aquí: https://manifold.markets/sophiawisdom/why-was-sam-altman-fir...
      Parece que se pueden elegir varias opciones como respuesta correcta, así que la suma de las probabilidades no da 100%.
    • Sí circula una teoría de filtración relacionada con Q*. Pero en realidad nadie sabe.

  • No es que quiera criticar a Sam, pero creo que la gente no sabe bien que quien creó la visión de OpenAI fue en realidad Greg. Basta con leer su blog.
    Greg es una persona tranquila que no genera drama, y seguramente contrató a Sam sabiendo que era un gran comunicador y ejecutivo. Pero da la impresión de que la persona con el talento excepcional y la perseverancia más raros del equipo es Greg, así que da un poco de pena que haya logrado mantenerse fuera del foco.

    • “Greg y yo somos socios que dirigimos esta empresa juntos. Todavía no hemos encontrado bien cómo expresarlo en el organigrama, pero lo encontraremos.”
    • Por la descripción, suena como si Greg estuviera consiguiendo exactamente lo que quiere.
    • ¿Quién dijo que él quiere estar en el foco?

  • La razón por la que este asunto es difícil de leer y seguir es por la grandiosa visión moral y los distintos niveles de creencia ingenua en ella.
    Ya sea Ilya, Sam o la junta, todo el discurso está lleno de cosas como alineación y beneficio para la humanidad.
    Mientras tanto, todas las partes involucradas son actores serios que quieren subirse a la ola de la IA y construir fosos, monopolios y el próximo AdWords o Azure.
    Estos dos vocabularios son tan extremadamente distintos que cuesta unirlos, y se siente como si hubiera dos conversaciones con premisas totalmente diferentes ocurriendo al mismo tiempo. Por eso todos terminan asumiendo que al menos alguien está siendo completamente deshonesto.
    La “alineación de la IA” es un tema muy atractivo, pero el problema de alineación menos futurista y más realista es la alineación entre Microsoft, OpenAI, otros inversionistas y los miembros del consorcio.
    Si Ilya, Sam y otros realmente se preocupan por la alineación de una superinteligencia, al menos deberían darle peso a la idea de que todos nosotros nos preocupamos por su alineación humana.

    • Hay que mirar solo las acciones reales, no las palabras.
      Y, de hecho, cuesta creer que existan verdaderos altruistas. Sobre todo si son ricos. Si de verdad fueran altruistas, ya habrían entregado toda su fortuna antes de morir. Incluso dudo de que el dinero que se pone en una “fundación benéfica” después de morir pueda reconocerse realmente como tal.

  • Por todo esto, nuestro pequeño equipo terminó probando una instancia GPT-3.5 de Azure, y sorprendentemente es 20 veces más rápida.
    Tampoco hay solicitudes al servidor que se queden sin respuesta, algo que sufríamos con demasiada frecuencia en la API de OpenAI. Ahora por fin tenemos algo lo bastante rápido y estable como para usarlo de verdad. El precio es más alto, pero, caray, realmente funciona.

    • Está claro que la gente de OpenAI es brillante, pero parece que están enfocados en investigación y matemáticas, y les falta experiencia operativa.
      Para ser sincero, ayer la API de Azure también estuvo inestable.
    • Es gracioso que el precio sea más alto cuando OpenAI corre completamente sobre Azure.
    • Me da curiosidad cómo están usando Azure los demás. Para mí Azure es el entorno de trabajo principal, pero para quienes venían usando sobre todo AWS, la CLI, API y Portal de Azure deben de sentirse bastante distintos y desconocidos, así que debe ser interesante.
      También están los costos de envío y recepción de datos, pero de todos modos, para la mayoría probablemente el costo de IA será mucho mayor que eso.