No tiene que ver con deshonestidad; esa es solo la razón oficial
No veo a mucha gente hablando de esto, pero si miramos a las dos figuras clave aquí, parece inevitable concluir que fue un choque entre Altman y Sutskever
También es interesante el tuit que Sutskever publicó hace mes y medio
El comunicado de prensa sobre conversaciones francas con el consejo probablemente sea una envoltura para ocultar un desacuerdo filosófico profundo
Encontraron una razón que podía usarse como motivo de despido, pero esa razón no necesariamente refleja el verdadero motivo
Sam e Ilya ya no veían en la misma dirección, y probablemente todo llegó a su punto máximo con gpt 4 turbo
Al final, se puede especular que Sutskever tenía todo el poder de negociación por su capacidad técnica
Sam es el típico hombre de negocios, así que ambos tuvieron un último gran choque, y parece que Sutskever llegó a su límite y usó esa palanca
Llevo mucho tiempo en la industria tecnológica y he visto este tipo de desarrollo varias veces
No hay que hacer enojar a un ingeniero irremplazable. Porque entonces puede despedirte. No pienso tomar partido
PD: la mayoría de los ingenieros, incluyéndome, somos reemplazables. Ilya probablemente no lo sea
Esto no tiene sentido. Si hubiera sido un simple desacuerdo de opiniones, podrían haberlo manejado por una vía discreta, sin menciones sustanciales en el comunicado
Pero incluyeron en la declaración oficial una acusación lo bastante específica como para exponerlos legalmente si estuvieran equivocados
Si no tenían fundamentos 100% sólidos, básicamente le regalaron a Sam una demanda que casi seguro ganaría
Swisher publicó más información nueva
"More scoopage: sources tell me chief scientist Ilya Sutskever was at the center of this. Increasing tensions with Sam Altman and Greg Brockman over role and influence and he got the board on his side."
"The developer day and how the store was introduced was in inflection moment of Altman pushing too far, too fast. My bet: He’ll have a new company up by Monday."
Suena como si lo hubiera predicho casi exactamente
Creo que lo viste completamente al revés. El consejo no haría algo así a menos que fuera realmente necesario
Basta con recordar el pasado. Por ejemplo, en Uber el consejo recién actuó después de que estallaran públicamente problemas enormes
No puede ser un simple desacuerdo de opiniones; para resolverlo con tanta urgencia, poniendo en riesgo una empresa valuada en decenas de miles de millones de dólares, tendría que haber habido una irregularidad financiera, ética o social grave
Si de verdad fuera simplemente un problema de no ver en la misma dirección, ¿por qué el comunicado diría que Sam “no fue consistentemente sincero en sus comunicaciones”?
Si el problema de fondo era un desacuerdo filosófico, es una frase bastante innecesaria. Habría bastado con hablar de diferencias sobre la visión de futuro
Es el viejo mito del ingeniero irremplazable y el tonto de traje. Pregúntenle a Wozniak
No creo que él piense que Apple habría existido sin Steve Jobs
Sam e Ilya hicieron declaraciones públicas recientemente sobre AGI, y parece asomar un desacuerdo fundamental entre ambos
Sam sostiene que los grandes modelos de lenguaje por sí solos no son suficientes para la AGI. Parece tener razón
Ilya sostiene que la arquitectura transformer, con algunas modificaciones de eficiencia, en realidad es suficiente para la AGI
Por supuesto, los transformers son actualmente un componente central de los grandes modelos de lenguaje, y los detalles importan
Los modelos futuros podrían parecerse a los transformers actuales y a la vez ser dinámicos en cuanto a datos de entrenamiento o experiencia. Pero todavía no hay una conclusión
En cualquier caso, que haya divergencias públicas sobre la dirección futura de OpenAI puede ser una señal de problemas internos más profundos
Eso es solo un desacuerdo técnico, y en una empresa que funciona bien debería existir siempre en un nivel saludable dentro del liderazgo
El comunicado dijo literalmente que fue despedido porque mintió. Hace muchísimo que no veía al consejo de una gran empresa expresarse así
Esta pregunta tiene implicaciones enormes por la carta constitutiva sin fines de lucro de OpenAI
Si Altman omitió hechos para impedir que el consejo determinara si OpenAI había alcanzado la etapa de AGI, o si intentó bloquear una evaluación justa en sí, entonces claramente engañó gravemente al consejo e impidió que hiciera su trabajo
¿“Parece tener razón”?
Nadie lo sabe. Pero confiaría más en el científico que lidera ese trabajo que en un empresario con incentivos para decir lo contrario con tal de evitar regulación inmediata
Ilya claims the transformer architecture, with some modification for efficiency, is actually sufficient for AGI.
¿Se suponía que esta persona sabía de lo que hablaba? Hubo un paper que decía que los grandes modelos de lenguaje no pueden generalizar[0]
Cualquiera que haya usado ChatGPT puede ver que tiene fallas
No entiendo cómo la gente puede estar tan segura
Incluso después de explicar directamente que dos personas inteligentes discrepan razonablemente sobre un tema complejo
¿Alguien muy inteligente del lado de negocios puede explicarle a este ingeniero cómo pasa siquiera algo así?
Si la junta tiene 6 integrantes y se está intentando “bajar” a 2 de ellos, ¿no deberían esos 2 no poder participar?
¿O al menos deberían quedar recusados en las votaciones que los involucran?
¿Los otros 4 tienen que organizarse y comunicarse “en secreto”?
¿Hay alguna razón por la que 3 no puedan convocar una votación para expulsar a 1, lograr una mayoría de 3/5 y, desde ahí, ir echando a todos por votación uno por uno?
Puede ser una pregunta tonta, pero la hago por curiosidad.
Los detalles dependen de lo que digan los estatutos y documentos constitutivos de la organización sin fines de lucro.
Como 501(c)3, hay ciertos requisitos y restricciones, pero otras partes quedan a lo que la junta fundadora haya establecido en los documentos para crear y gobernar la corporación.
Normalmente, esos documentos incluyen disposiciones sobre cómo manejar votaciones, sucesión, recusación, elegibilidad, etc.
Por mi experiencia en juntas tanto con fines de lucro como sin fines de lucro, es muy probable que los directores externos hayan contado con asesoría legal externa para aconsejarlos.
Los directores tienen ciertos deberes que deben cumplir, y si no los cumplen suficientemente de buena fe, también se exponen a una responsabilidad legal seria.
Yo tenía la misma pregunta, y ahora entiendo que la gobernanza de organizaciones sin fines de lucro funciona así por naturaleza.
Por eso es una mala idea para una organización como OpenAI. Si fuera una empresa con fines de lucro, los accionistas simplemente podrían reemplazar a la junta.
Es posible que el objeto de la votación haya sido solo Sam, y que Greg haya votado a su favor y luego lo hayan obligado a irse en un proceso como una segunda votación posterior.
Can a super smart business-y person educate this engineer on how this even happens.
Esto no tiene nada que ver con el lado de negocios. OpenAI es una organización sin fines de lucro, así que puede hacer lo que quiera.
Curiosamente, empecé a ver Succession la semana pasada.
Esto se siente como una versión real de Succession desplegándose. Todos los miembros de la junta están buscando cómo optimizar su propia posición.
Por esto parece que Greg Brockman no estuvo en la reunión de la junta en la que se tomó la decisión, y que también se enteró de la “noticia” de que lo sacaban de la junta de la misma forma que nosotros.
Puse “se enteró de la noticia” entre comillas, pero la expresión que usó Greg Brockman fue “con base en las noticias de hoy”.
Eso podría significar simplemente que no estuvo de acuerdo con el resultado y expresó ese desacuerdo renunciando.
Edición: tontamente estaba leyendo el memo que escribió a los empleados de OpenAI. En el tuit en sí dice “después de enterarme de las noticias de hoy”. Aun así, sigue siendo ambiguo cuándo y dónde se enteró.
La junta no puede reunirse ni actuar sin notificar a los directores y darles la oportunidad de participar.
Es cierto. Probablemente no pudo participar en la deliberación sobre su propia destitución.
¿No era él el presidente de la junta? ¿No tendría que haber estado en la reunión, obviamente?
Lo más plausible es que haya habido algún tipo de división y que él se haya puesto del lado de Sam.
Como él era el presidente de la junta, me pregunto cómo logró llevar esto a cabo el resto de la junta.
“Greg Brockman, cofundador y presidente de OpenAI, trabaja entre 60 y 100 horas por semana y dedica cerca del 80% de su tiempo a programar. Excolegas lo describieron como la persona que más trabaja en OpenAI”.
¿Qué tan probable es que esto se deba a una adquisición por parte de Microsoft? Pura especulación, pero quizá Sam era el obstáculo.
Edición: esta explicación podría ser más plausible: https://news.ycombinator.com/item?id=38312868
Otro punto que no se ha considerado es que a Microsoft le gusta mucho poner su marca en muchos lugares.
Axios dice que MS no lo sabía de antemano.
Esto parece significar que en OpenAI realmente está ocurriendo una división.
Creo que vamos a escuchar que estaban funcionando dos filosofías distintas.
Si asumimos que Altman y Brockman quieren acelerar el desarrollo, también sería interesante que ambos pasaran a puestos altos en Microsoft.
OpenAI seguiría una nueva dirección, Microsoft y Google crearían cosas nuevas rápidamente, y los partidarios de los modelos abiertos podrían seguir haciendo buen trabajo; parece un beneficio para todos.
Salvo por el comunicado de prensa torpe y apresurado, esto no tiene por qué terminar mal para nadie.
He sido fan desde que usé la API pública muy temprana de OpenAI, pero al mismo tiempo me alegra mucho que exista un ecosistema rico.
Hay otros actores comerciales como Anthropic, el apoyo de Meta y Hugging Face a los modelos abiertos, y modelos pequeños cada vez mejores como Mistral, que se pueden correr fácilmente en casa.
Sam y quienes quieren seguir robando propiedad intelectual y destruir toda la industria en el proceso se irán, y los científicos de aprendizaje automático éticos se quedarán.
Como chequeo de sentido común, cuando Hinton dejó Google, lo celebramos diciendo que una organización corporativa sin rostro no debería dirigir la velocidad del desarrollo, sino los pioneros de la IA que entienden los riesgos.
Si en OpenAI realmente hubo un desacuerdo similar y esta vez Ilya, el equivalente a Hinton, ganó, entonces es algo para celebrar.
1 comentarios
Opiniones de Hacker News
Edit: le atiné
https://twitter.com/karaswisher/status/1725682088639119857
No tiene que ver con deshonestidad; esa es solo la razón oficial
No veo a mucha gente hablando de esto, pero si miramos a las dos figuras clave aquí, parece inevitable concluir que fue un choque entre Altman y Sutskever
También es interesante el tuit que Sutskever publicó hace mes y medio
https://twitter.com/ilyasut/status/1707752576077176907
El comunicado de prensa sobre conversaciones francas con el consejo probablemente sea una envoltura para ocultar un desacuerdo filosófico profundo
Encontraron una razón que podía usarse como motivo de despido, pero esa razón no necesariamente refleja el verdadero motivo
Sam e Ilya ya no veían en la misma dirección, y probablemente todo llegó a su punto máximo con gpt 4 turbo
Al final, se puede especular que Sutskever tenía todo el poder de negociación por su capacidad técnica
Sam es el típico hombre de negocios, así que ambos tuvieron un último gran choque, y parece que Sutskever llegó a su límite y usó esa palanca
Llevo mucho tiempo en la industria tecnológica y he visto este tipo de desarrollo varias veces
No hay que hacer enojar a un ingeniero irremplazable. Porque entonces puede despedirte. No pienso tomar partido
PD: la mayoría de los ingenieros, incluyéndome, somos reemplazables. Ilya probablemente no lo sea
Esto no tiene sentido. Si hubiera sido un simple desacuerdo de opiniones, podrían haberlo manejado por una vía discreta, sin menciones sustanciales en el comunicado
Pero incluyeron en la declaración oficial una acusación lo bastante específica como para exponerlos legalmente si estuvieran equivocados
Si no tenían fundamentos 100% sólidos, básicamente le regalaron a Sam una demanda que casi seguro ganaría
Swisher publicó más información nueva
[Fuente: https://twitter.com/karaswisher/status/1725702501435941294]
Suena como si lo hubiera predicho casi exactamente
Creo que lo viste completamente al revés. El consejo no haría algo así a menos que fuera realmente necesario
Basta con recordar el pasado. Por ejemplo, en Uber el consejo recién actuó después de que estallaran públicamente problemas enormes
No puede ser un simple desacuerdo de opiniones; para resolverlo con tanta urgencia, poniendo en riesgo una empresa valuada en decenas de miles de millones de dólares, tendría que haber habido una irregularidad financiera, ética o social grave
Si de verdad fuera simplemente un problema de no ver en la misma dirección, ¿por qué el comunicado diría que Sam “no fue consistentemente sincero en sus comunicaciones”?
Si el problema de fondo era un desacuerdo filosófico, es una frase bastante innecesaria. Habría bastado con hablar de diferencias sobre la visión de futuro
Es el viejo mito del ingeniero irremplazable y el tonto de traje. Pregúntenle a Wozniak
No creo que él piense que Apple habría existido sin Steve Jobs
https://twitter.com/gdb/status/1725736242137182594
Es la actualización de Greg
Sam e Ilya hicieron declaraciones públicas recientemente sobre AGI, y parece asomar un desacuerdo fundamental entre ambos
Sam sostiene que los grandes modelos de lenguaje por sí solos no son suficientes para la AGI. Parece tener razón
Ilya sostiene que la arquitectura transformer, con algunas modificaciones de eficiencia, en realidad es suficiente para la AGI
Por supuesto, los transformers son actualmente un componente central de los grandes modelos de lenguaje, y los detalles importan
Los modelos futuros podrían parecerse a los transformers actuales y a la vez ser dinámicos en cuanto a datos de entrenamiento o experiencia. Pero todavía no hay una conclusión
En cualquier caso, que haya divergencias públicas sobre la dirección futura de OpenAI puede ser una señal de problemas internos más profundos
Eso es solo un desacuerdo técnico, y en una empresa que funciona bien debería existir siempre en un nivel saludable dentro del liderazgo
El comunicado dijo literalmente que fue despedido porque mintió. Hace muchísimo que no veía al consejo de una gran empresa expresarse así
Esta pregunta tiene implicaciones enormes por la carta constitutiva sin fines de lucro de OpenAI
Si Altman omitió hechos para impedir que el consejo determinara si OpenAI había alcanzado la etapa de AGI, o si intentó bloquear una evaluación justa en sí, entonces claramente engañó gravemente al consejo e impidió que hiciera su trabajo
¿“Parece tener razón”?
Nadie lo sabe. Pero confiaría más en el científico que lidera ese trabajo que en un empresario con incentivos para decir lo contrario con tal de evitar regulación inmediata
¿Se suponía que esta persona sabía de lo que hablaba? Hubo un paper que decía que los grandes modelos de lenguaje no pueden generalizar[0]
Cualquiera que haya usado ChatGPT puede ver que tiene fallas
[0] https://arxiv.org/abs/2309.12288
No entiendo cómo la gente puede estar tan segura
Incluso después de explicar directamente que dos personas inteligentes discrepan razonablemente sobre un tema complejo
¿Alguien muy inteligente del lado de negocios puede explicarle a este ingeniero cómo pasa siquiera algo así?
Si la junta tiene 6 integrantes y se está intentando “bajar” a 2 de ellos, ¿no deberían esos 2 no poder participar?
¿O al menos deberían quedar recusados en las votaciones que los involucran?
¿Los otros 4 tienen que organizarse y comunicarse “en secreto”?
¿Hay alguna razón por la que 3 no puedan convocar una votación para expulsar a 1, lograr una mayoría de 3/5 y, desde ahí, ir echando a todos por votación uno por uno?
Puede ser una pregunta tonta, pero la hago por curiosidad.
Los detalles dependen de lo que digan los estatutos y documentos constitutivos de la organización sin fines de lucro.
Como 501(c)3, hay ciertos requisitos y restricciones, pero otras partes quedan a lo que la junta fundadora haya establecido en los documentos para crear y gobernar la corporación.
Normalmente, esos documentos incluyen disposiciones sobre cómo manejar votaciones, sucesión, recusación, elegibilidad, etc.
Por mi experiencia en juntas tanto con fines de lucro como sin fines de lucro, es muy probable que los directores externos hayan contado con asesoría legal externa para aconsejarlos.
Los directores tienen ciertos deberes que deben cumplir, y si no los cumplen suficientemente de buena fe, también se exponen a una responsabilidad legal seria.
Yo tenía la misma pregunta, y ahora entiendo que la gobernanza de organizaciones sin fines de lucro funciona así por naturaleza.
Por eso es una mala idea para una organización como OpenAI. Si fuera una empresa con fines de lucro, los accionistas simplemente podrían reemplazar a la junta.
Es posible que el objeto de la votación haya sido solo Sam, y que Greg haya votado a su favor y luego lo hayan obligado a irse en un proceso como una segunda votación posterior.
Esto no tiene nada que ver con el lado de negocios. OpenAI es una organización sin fines de lucro, así que puede hacer lo que quiera.
Curiosamente, empecé a ver Succession la semana pasada.
Esto se siente como una versión real de Succession desplegándose. Todos los miembros de la junta están buscando cómo optimizar su propia posición.
Por esto parece que Greg Brockman no estuvo en la reunión de la junta en la que se tomó la decisión, y que también se enteró de la “noticia” de que lo sacaban de la junta de la misma forma que nosotros.
Puse “se enteró de la noticia” entre comillas, pero la expresión que usó Greg Brockman fue “con base en las noticias de hoy”.
Eso podría significar simplemente que no estuvo de acuerdo con el resultado y expresó ese desacuerdo renunciando.
Edición: tontamente estaba leyendo el memo que escribió a los empleados de OpenAI. En el tuit en sí dice “después de enterarme de las noticias de hoy”. Aun así, sigue siendo ambiguo cuándo y dónde se enteró.
La junta no puede reunirse ni actuar sin notificar a los directores y darles la oportunidad de participar.
Es cierto. Probablemente no pudo participar en la deliberación sobre su propia destitución.
¿No era él el presidente de la junta? ¿No tendría que haber estado en la reunión, obviamente?
Lo más plausible es que haya habido algún tipo de división y que él se haya puesto del lado de Sam.
Como él era el presidente de la junta, me pregunto cómo logró llevar esto a cabo el resto de la junta.
¿Greg sabía de la decisión de antemano? No parece.
Una hora antes de que se publicara el post de OpenAI, Greg Brockman publicó algo completamente normal de trabajo: https://x.com/gdb/status/1725595967045398920
https://x.com/openai/status/1725611900262588813
No sé qué tan desquiciada es esta situación.
“Greg Brockman, cofundador y presidente de OpenAI, trabaja entre 60 y 100 horas por semana y dedica cerca del 80% de su tiempo a programar. Excolegas lo describieron como la persona que más trabaja en OpenAI”.
https://time.com/collection/time100-ai/6309033/greg-brockman...
¿Qué tan probable es que esto se deba a una adquisición por parte de Microsoft? Pura especulación, pero quizá Sam era el obstáculo.
Edición: esta explicación podría ser más plausible: https://news.ycombinator.com/item?id=38312868
Otro punto que no se ha considerado es que a Microsoft le gusta mucho poner su marca en muchos lugares.
Esto parece significar que en OpenAI realmente está ocurriendo una división.
Creo que vamos a escuchar que estaban funcionando dos filosofías distintas.
Si asumimos que Altman y Brockman quieren acelerar el desarrollo, también sería interesante que ambos pasaran a puestos altos en Microsoft.
OpenAI seguiría una nueva dirección, Microsoft y Google crearían cosas nuevas rápidamente, y los partidarios de los modelos abiertos podrían seguir haciendo buen trabajo; parece un beneficio para todos.
Salvo por el comunicado de prensa torpe y apresurado, esto no tiene por qué terminar mal para nadie.
He sido fan desde que usé la API pública muy temprana de OpenAI, pero al mismo tiempo me alegra mucho que exista un ecosistema rico.
Hay otros actores comerciales como Anthropic, el apoyo de Meta y Hugging Face a los modelos abiertos, y modelos pequeños cada vez mejores como Mistral, que se pueden correr fácilmente en casa.
Sam y quienes quieren seguir robando propiedad intelectual y destruir toda la industria en el proceso se irán, y los científicos de aprendizaje automático éticos se quedarán.
Como chequeo de sentido común, cuando Hinton dejó Google, lo celebramos diciendo que una organización corporativa sin rostro no debería dirigir la velocidad del desarrollo, sino los pioneros de la IA que entienden los riesgos.
Si en OpenAI realmente hubo un desacuerdo similar y esta vez Ilya, el equivalente a Hinton, ganó, entonces es algo para celebrar.