Sam Altman sigue intentando volver como CEO de OpenAI
(theverge.com)- Incluso después del anuncio de su incorporación a Microsoft, el futuro de Sam Altman y Greg Brockman aún no está definido, y ambos estarían dispuestos a regresar si la junta directiva de OpenAI renuncia
- Casi todos los empleados de OpenAI firmaron una carta abierta exigiendo la renuncia de la junta y el regreso de Altman, e incluso Ilya Sutskever, quien participó en su despido, se sumó a la firma
- El anuncio de contratación por parte de Microsoft fue más bien un estado temporal para calmar la crisis antes de la apertura del mercado bursátil del lunes, y Microsoft se negó a comentar al respecto
- El nuevo CEO, Emmett Shear, aún no ha recibido la documentación con los motivos del despido de Altman, y les informó a los empleados que contratará a un investigador independiente para revisar todo el proceso
- Satya Nadella dijo que sigue abierta la posibilidad de que Altman y los empleados se queden en OpenAI o se vayan a Microsoft, aunque considera que OpenAI necesita cambios de gobernanza
Por qué sigue existiendo la posibilidad del regreso de Altman
- El traslado de Sam Altman a Microsoft fue anunciado después de su despido de OpenAI, pero todavía no es un acuerdo cerrado
- Altman y el cofundador Greg Brockman estarían dispuestos a aceptar su regreso a OpenAI si los miembros restantes de la junta que los despidieron dejan sus cargos
- Altman publicó en X: “Todos trabajaremos juntos de una forma u otra”, lo que deja ver que el conflicto aún no ha terminado
Presión pública de los empleados y composición de la junta
- Casi todos los empleados de OpenAI firmaron una carta abierta exigiendo la renuncia de la junta y el regreso de Altman
- Ilya Sutskever, miembro de la junta y científico jefe que tuvo un papel clave en el despido de Altman, también puso su nombre en la carta
- Si solo 2 de los 3 miembros restantes de la junta cambian de postura, se abriría la posibilidad del regreso de Altman
- Los miembros restantes de la junta opuestos a Altman son el CEO de Quora Adam D’Angelo, la ex CEO de GeoSim Systems Tasha McCauley y Helen Toner, directora de estrategia del Georgetown Center for Security and Emerging Technology
La incertidumbre que dejó el anuncio de Microsoft
- Altman, Brockman y los inversionistas de OpenAI están intentando encontrar una salida negociada que permita la renuncia de la junta
- El anuncio de contratación de Microsoft se pareció más a un “holding pattern” en una situación donde se necesitaba una solución a la crisis antes de la apertura del mercado bursátil del lunes
- Un portavoz de Microsoft se negó a comentar sobre el tema
- Después, Altman dijo en X que su máxima prioridad es garantizar que OpenAI siga prosperando, y señaló que él y Microsoft están comprometidos a ofrecer continuidad operativa para socios y clientes
- Altman todavía no aparecía en el directorio corporativo interno de Microsoft
Reacción interna en OpenAI y la primera tarea de Emmett Shear
- Tras el despido de Altman, dentro de OpenAI ha continuado una lucha de poder desde el viernes
- Casi todos los empleados de OpenAI están enfrentándose a la actual junta de 3 miembros opuesta a Altman
- Empleados de la sede de San Francisco se negaron a asistir a una reunión general de emergencia el domingo con el nuevo CEO Emmett Shear
- En OpenAI Slack, el anuncio del nuevo CEO recibió reacciones con el emoji “fuck you”
- Empleados publicaron en redes sociales que están manteniendo los servicios estables para los desarrolladores de OpenAI, en lo que parece ser un esfuerzo por evitar que la empresa colapse por completo mientras presionan por la renuncia de la junta
Motivos del despido y exigencia de cambios de gobernanza
- Emmett Shear aún no ha conseguido un documento escrito con las razones detalladas de la junta para despedir a Altman
- Esos motivos detallados tampoco se han compartido con los inversionistas de OpenAI
- En un memo enviado a los empleados, Shear informó que su primera tarea será contratar a un investigador independiente para revisar todo el proceso hasta ahora y elaborar un informe completo
- Satya Nadella dijo en CNBC que decidir si Altman y los empleados de OpenAI se unirán a Microsoft es algo que corresponde elegir a la junta, la dirección y los empleados de OpenAI
- Nadella dijo que Microsoft eligió explícitamente su alianza con OpenAI, y que sigue abierto a ambas opciones: que la gente de OpenAI se quede o que se vaya a Microsoft
- Sobre si Microsoft necesita un asiento en la junta de OpenAI, Nadella dijo que está claro que se necesitan cambios en la gobernanza y que hablará con la junta
- En Bloomberg TV afirmó que “las sorpresas son malas” y dejó claro que Microsoft quiere cambios de gobernanza
1 comentarios
Opiniones de Hacker News
Alrededor de las 10:00, hora del Pacífico, 700 de 770 empleados habían firmado una carta exigiendo la renuncia de la junta directiva
https://twitter.com/joannejang/status/1726667504133808242
Hablando de “alineación”, en la práctica, en la cabeza de mucha gente alignment se ha convertido en pensamiento grupal
Probablemente Ilya era la única persona en una posición significativa en OpenAI que tenía alguna posibilidad de separar los sesgos empíricos (IS) de los sesgos de valor (OUGHT). Perderlo, o empujarlo a un puesto irrelevante, podría ser mucho más grave que perder a 700 empleados operativos cuya estabilidad laboral en infraestructura se mantiene ambigua. Microsoft está en posición de reproducir la “IP” de OpenAI con personal interno y equipos propios de capital, solo a partir de la comprensión de los LLM basada en la literatura pública
Puede ser útil como muestra de solidaridad, pero soy escéptico sobre la tasa de conversión de estos firmantes que realmente renuncien para seguir a Sam, ya sea a Microsoft o a otro lugar. Supongo que quizá el 20% de los empleados, unos 140, se movería de verdad
De verdad no entiendo qué está pasando
Que estas personas no estén tratando ahora de hacer retroceder el reloj aproximadamente una semana muestra el peligro del ego humano
Si todas las partes están de acuerdo, todavía no hay ninguna medida permanente que no pueda revertirse con relativa facilidad. Lo que estamos viendo ahora es el efecto de la inercia del ego en la toma de decisiones
Vale la pena intentarlo. No es una idea descabellada. Si acuerdan devolver todo al estado de hace una semana y seguir adelante, sería parecido a empezar con conocimiento del futuro y solo algunas consecuencias residuales. Si eso fuera posible, mostraría un enorme salto evolutivo en la capacidad de una organización para autocorregirse
Es parecido a una pareja infiel. Ambas partes podrían querer hacer retroceder el reloj, pero lamentablemente eso es imposible
La gente es notoriamente dura con quienes admiten sus errores. Por ejemplo, cuando alguien pierde una discusión, ya sea porque debatió mal o porque su argumento era claramente incorrecto, si lo reconoce, la gente no lo ve como humildad, sino como una razón para amontonarse y asegurarse de que todos sepan que es “el que estaba equivocado”
Esta vez no están en juego puntos de internet, sino empleos, mucho dinero y una reputación enorme. Si el riesgo de mostrar humildad es extremadamente alto y la recompensa casi nula, ¿por qué no resistir e intentar ganar hasta el final?
Si tu cónyuge te apuñala por la espalda a medianoche, hacer retroceder el reloj no es ni fácil ni sensato. ¿Por qué habría que hacerlo?
Hay que reconocerle a Altman y compañía lo que corresponde: fueron enormemente innovadores al convertir una organización sin fines de lucro en una empresa con fines de lucro. Pero es una estructura de doble misión sin un mecanismo para resolver tensiones. En algún punto, es casi inevitable que termine incurriendo en algo parecido a fraude fiscal o fraude de valores
Así que, aunque vuelvan a encajar todas las piezas y calmen la hostilidad y el orgullo, al final no sería más que darle cuerda otra vez a un ratón mecánico descompuesto
Si algo quedó claro con esto, es que la humanidad no está lista para ser guardiana de la superinteligencia.
Se supone que estas personas son algunas de las mentes más brillantes de nuestra época, quizá de la historia, que crearon una de las tecnologías más influyentes, y aun así todos se comportan como niños caprichosos. El ego y los intereses personales tiran en todas direcciones, y todos intentan asegurarse su parte.
Creo que de verdad estamos fregados.
Ahora hay demasiada gente que piensa que, como estos modelos ya superaron una barrera, las demás también las van a superar fácilmente en los próximos años.
En mi opinión, cada una de las siguientes barreras es al menos un orden de magnitud más compleja.
Si sientes que ChatGPT o las herramientas de programación relacionadas amenazan tu empleo, probablemente no estés haciendo un trabajo que requiera inteligencia. Tocar CSS, reescribir la misma lógica para cada animación, tabla o llamada a una API no es trabajo significativo.
Los humanos parecen impresionantes, sobre todo en comparación con otras especies.
Parece bastante extendida la idea de que la naturaleza ya sabe la respuesta y que los humanos la estorban, pero no me han convencido de que eso sea cierto. La naturaleza parece una enorme arena de gladiadores donde todo pelea duelos a muerte. La naturaleza encuentra equilibrio mediante la muerte, a menudo una muerte masiva. Y ese equilibrio tampoco es un gran diseño, sino una suerte organizada en torno a qué especie logró descubrir y aprovechar una fuente de energía.
Los humanos no son la primera especie en alterar el ambiente, y quizá ni siquiera la primera en causar una extinción masiva. Según entiendo, el Gran Evento de Oxidación fue una extinción masiva provocada por una especie.
La mayoría de las especies consumen todos los recursos en tiempos de abundancia y mueren de hambre en tiempos de escasez, arrastrando consigo parte del ecosistema; los humanos, en cambio, son una especie que, por decirlo así, mientras se come todo el maíz, levanta la cabeza y dice: “Gente, nos estamos comiendo todo el maíz y esto no parece que vaya a salir bien. ¿No deberíamos hacer algo?”.
Ese tipo de conciencia a nivel de especie da esperanza y me parece realmente genial.
No he visto una mejor candidata a especie número uno que los humanos para gestionar la vida de manera responsable y aumentar las probabilidades de que la vida sobreviva incluso después del periodo relativamente corto en que la Tierra pueda sostenerla. Incluso diría que, sin importar qué especie pongas en segundo lugar, los humanos van bastante adelante por una gran diferencia.
Comparados con una hipotética “utopía humana perfecta”, los humanos se quedan cortos. Pero eso es una tautología. La mayoría de las críticas a los humanos se leen más como objetivos que como defectos frente a la línea base de la naturaleza.
Incluso en el problema de protegernos de una superinteligencia inorgánica, nunca he visto un escenario razonable de cómo fracasaríamos. Tenemos un interés propio en no morir. A menos que creemos una superinteligencia sin reconocerla, y tampoco notemos que se está preparando para eliminarnos, ¿no desconectaríamos cualquier maniobra bastante temprano? Con tanto interés en crear y detectar superinteligencia, tampoco sé cómo se nos pasaría por alto.
Por ejemplo, si notamos que una superinteligencia está formando un ejército, ¿por qué no la detendríamos antes de que ese ejército pudiera competir con los ejércitos de los Estados existentes?
Si una superinteligencia empieza a alterar la economía o los sistemas informáticos, ¿por qué no podríamos detectarla y eliminarla temprano?
Si creamos una superinteligencia, es casi seguro que, en cuanto se vuelva superinteligente, será libre. No es algo que podamos custodiar; solo podemos esperar que esté alineada.
Según Amir Efrati (TheInformation), más del 92% de los empleados de OpenAI dicen que seguirán a Altman a Microsoft si la junta no da marcha atrás.
Entre los firmantes están también los cofundadores Karpathy, Schulman y Zaremba.
https://twitter.com/amir/status/1726680254029418972
Sería una gran lástima si algún día no sale un documental que explique qué diablos pasó.
Ni siquiera estoy seguro de que las personas en medio de todo esto sepan qué está pasando ahora.
Es una estrategia tan avanzada que los humanos no pueden entenderla.
No sabemos cuál es el objetivo, pero al final todo encajará por ese único email.
La reacción en cadena no se puede detener.
Un amigo dice que estaría bueno que Michael Cera interpretara tanto a Ilya como a Altman.
Incluso mis amigos no técnicos que usan ChatGPT de vez en cuando, y los que no lo usan, están enganchados con esta historia.
Por más que me esfuerce, creo que no podría inventar una trama más absurda que esta.
A este ritmo, no me sorprendería que Musk se metiera. Ya es bastante disparatado; ¿qué más no podría pasar?
https://www.theverge.com/2023/3/24/23654701/openai-elon-musk-failed-takeover-report-closed-open-source
“Pero según Semafor, a principios de 2018 Musk estaba preocupado de que la compañía se estuviera quedando atrás frente a Google. Propuso tomar el control de OpenAI y dirigirla él mismo, pero, según se dice, fue rechazado por otros fundadores de OpenAI, incluidos Sam Altman, entonces CEO, y Greg Brockman, entonces presidente”.
Parece que el tuit fue borrado, así que lo estoy parafraseando de memoria; tómenlo como quieran.
Se me ocurren varias cosas.
Emmett Shear debió haber incluido un paracaídas dorado fuerte en su contrato. Si lo hubiera hecho, habría ganado dinero fácilmente.
Ayer Satya era un genio por hacer que la junta renunciara, y esta mañana era un genio por haber adquirido OpenAI por 0 dólares. Si sama vuelve, saldrá otra historia. Así que, si sama regresa, me gustaría escuchar por qué Satya es un genio.
En cambio, gestionó el caos e hizo que Microsoft ganara sin importar el resultado. Un genio no es alguien que predice a la perfección una trama complicada y forzada; es alguien que deja todo armado para ganar en cualquier caso, y por eso no tiene que preocuparse.
¿OpenAI colapsa? Compró talento prácticamente gratis.
¿OpenAI 2.0 tiene éxito? Bien, sigue invertido.
Realistamente, no creo que Sam @ MSFT vaya a tener éxito de inmediato. Aunque tengan conocimiento y know-how, no es que puedan simplemente levantar un nuevo modelo al nivel de GPT-4. En el mejor de los casos, estarían unos 12 meses por detrás de Anthropic, y aun así probablemente 2 años por delante de Google.
Ahora parece haberse posicionado lo suficientemente bien como para que todos los finales posibles se vean positivos para Microsoft.
Cada vez me inclino más por la teoría de que un viajero en el tiempo enviado al pasado para impedir la AGI está destruyendo OpenAI.
Me recuerda al final de Terminator 2. Es como una escena en la que la comunidad tecnológica despierta e intenta entender que la sede de Cyberdyne explotó y hubo un tiroteo, pensando: “¿Qué demonios acaba de pasar?”.
Ojalá todos admitieran que esto no es una cruzada moral, sino fuga de capital
Los empleados quieren seguir a Altman adonde vaya porque quieren ganar mucho dinero. De todos modos, también es una decisión inteligente, ya que él mueve a la mitad de Silicon Valley. El discurso público de que Sam es un héroe lo refuerzan aún más quienes están en el ecosistema tecnológico que hoy gira alrededor de la IA, es decir, el juego de los “wrappers de OpenAI”
A nadie le importan la seguridad, la apertura ni el impacto de la IA en la humanidad. Es codicia hasta el final. Ponerse del lado con más probabilidades de ganar. Eso es interés propio racional, no una “causa noble”
No se puede descartar que D’Angelo lo haya despedido por una razón absurda, como un conflicto de intereses con Poe
Hasta hace unas horas, todos veneraban a Ilya como un idealista noble. Pero ahora incluso él parece arrepentirse y estar dando marcha atrás con este despido. La gente no parece incorporar esta nueva información para reevaluar qué tan buena fue esa decisión. En el mejor de los casos, diría que las intenciones eran nobles, pero la ejecución fue completamente incompetente, y ahora están en una situación en la que no pueden dar marcha atrás por una mezcla de orgullo terco y miedo a la responsabilidad legal
Si yo fuera empleado de OpenAI, estaría frustrado. Una cosa es renunciar a enormes opciones sobre acciones y demás por una buena razón idealista, y otra muy distinta es que te pidan renunciar a eso sin que, como ahora, te den ninguna razón
Acabo de ver una teoría plausible: que D’Angelo impulsó esto porque Sam se adelantó a Poe en Dev Day. No sé si sea cierto, pero si lo fuera, explicaría por qué no le explica el motivo a nadie, ni siquiera a Sam al momento del despido. Porque revelar esa razón podría meterlo en un grave riesgo legal
https://twitter.com/scottastevenson/status/1726731022862008733
Sé que estamos en la parte inicial de la película, antes de que todo estalle, pero siento que la exageración es enorme. Veo un potencial tremendo en el aspecto terapéutico, o en hablar con “alguien” para poner ideas sobre la mesa y recibir una corrección suave o un empujón en la dirección correcta
Mucha gente no puede pagar terapia. Si ChatGPT ayuda a identificar patrones problemáticos básicos de lenguaje o conducta tomando como referencia bases de conocimiento de modalidades específicas como CBT, DBT e IFS, la gente podría practicar autocorrección con orientación casi gratuita y tan frecuente como quiera
Eso es justamente lo que me interesa, y siempre lo veré como algo con gran potencial
Ojalá todos estén bien y sean amables entre sí. Esto es un proceso y también un destino, y creo que las personas pueden aprender a amar ambas cosas y participar de una manera rica en oportunidades de recuperación y sanación profundas y reales. Oportunidades siempre abiertas y que aceptan a cualquiera
Además, puedo recibir tanta terapia como quiera, pero en general no la siento muy útil ni provechosa. ChatGPT es bueno porque puede ayudarme a practicar cosas eficaces como CBT/DBT/IFS, y como se usa con textos de referencia, también se puede esquivar el contenido inventado
A mi modo de ver, la mayor amenaza de ChatGPT es la pérdida de ingresos de las personas. No me importan los “empleos” en sí, sino si la gente tiene suficiente y puede vivir decentemente. Si podemos lidiar con las personas egoístas que intentan quedarse con una porción más grande de un pastel del que ya tienen más que suficiente, entonces tienen que compartir, y deberían tomarse un timeout hasta que sean justas, o apartarse por completo. Ya basta. Nadie necesita tener de más hasta que todos tengan suficiente, y después pueden tomar lo que quieran siempre que no dañen a otros. Hay que dejar de dañar a los demás
Un CEO que, desde afuera, parecía estar haciendo las cosas bien fue removido por la fuerza. Es natural sentir algo con fuerza
Esto sucede precisamente porque OpenAI no está gobernada por una junta nombrada por los inversionistas
Por favor, ya basta con lo de “por el bien de la humanidad”
Como en general falta comunicación útil, sería gracioso que Sam Altman volviera a OpenAI justo cuando todos los empleados están renunciando ;)