El desajuste de OpenAI y la ganancia de Microsoft
(stratechery.com)- La crisis de fin de semana de OpenAI, que comenzó con el despido de Sam Altman y la renuncia de Greg Brockman, se convirtió en una oportunidad para que Microsoft aprovechara tanto talento clave como la IP de OpenAI
- Microsoft ya contaba con una licencia perpetua que incluía el código fuente y los pesos de los modelos, y además del acceso a tecnologías previas a la AGI, obtuvo la posibilidad de reclutar talento
- La estructura de gobernanza sin fines de lucro de OpenAI estaba diseñada para priorizar una “IA que beneficie a toda la humanidad” por encima de las ganancias, pero debido a los enormes costos de cómputo cargaba con una inestabilidad estructural que la hacía depender del financiamiento de Microsoft y de Azure
- ChatGPT mostró su potencial como gran plataforma de consumo, con más de 100 millones de usuarios semanales y más de 1.000 millones de dólares en ingresos, pero también intensificó el conflicto interno entre la velocidad de productización y el control de los riesgos de la IA
- El liderazgo en la competencia de IA se desplazó hacia Altman y Microsoft, con efectos sobre la elección de las API de Azure, la posición de Google y Anthropic, y el desarrollo de la IA centrado en las grandes tecnológicas
Cómo cambiaron de lugar OpenAI y Microsoft durante el fin de semana
- El viernes, la junta que controla la organización sin fines de lucro de OpenAI despidió al entonces CEO Sam Altman, y el entonces presidente Greg Brockman renunció después de ser removido de la junta
- Durante el fin de semana circularon rumores sobre negociaciones para el regreso de Altman, pero OpenAI nombró CEO al ex CEO de Twitch Emmett Shear
- El domingo por la noche, Satya Nadella anunció que Altman y Brockman se unirían a Microsoft “junto con sus colegas”
- Esta secuencia resultó muy favorable para Microsoft
- Microsoft ya tiene una licencia perpetua sobre la IP de OpenAI
- Esta licencia incluye el código fuente y los pesos de los modelos, pero, por la estructura de OpenAI, la AGI queda excluida de los términos comerciales y de la licencia de IP con Microsoft
- Tras el despido de Altman y Brockman, aumentó la posibilidad de que la fuga de talento de OpenAI que se temía se dirigiera hacia Microsoft
- Como OpenAI ha dependido de Microsoft para financiamiento y cómputo, sus opciones se redujeron
- El trabajo de IA que los empleados sigan haciendo en OpenAI podría quedar dentro del alcance de los derechos de Microsoft por la licencia perpetua
- Si los empleados se suman al equipo de Altman, ese trabajo se realizará directamente dentro de Microsoft
El modelo sin fines de lucro de OpenAI y sus cambios estructurales
- OpenAI fue fundada en 2015 como una “empresa de investigación de inteligencia artificial sin fines de lucro”
- Su objetivo inicial era desarrollar inteligencia digital para beneficiar a toda la humanidad, sin estar limitada por la necesidad de generar retornos financieros
- La redacción de entonces también incluía el compromiso de compartir públicamente sus planes y capacidades
- OpenAI es, de hecho, una organización sin fines de lucro 501(c)(3), y sus documentos presentados ante el IRS también especifican su misión sin fines de lucro
- Con el tiempo, la formulación de la misión cambió
- En los documentos de 2016 aparecía la frase “compartir públicamente sus planes y capacidades”
- Dos años después, esa frase desapareció
- Tres años después, el objetivo de “desarrollar inteligencia digital” cambió por el de “construir inteligencia artificial general”
- En 2018, según un reporte de Semafor, Elon Musk intentó tomar el control de la compañía pero fracasó, dejó la junta y también dejó de pagar los costos operativos de OpenAI
- Altman, que debía cubrir enormes costos de cómputo, creó OpenAI Global, LLC, una empresa con ganancias limitadas en la que Microsoft tenía una participación minoritaria
- OpenAI Global puede recaudar fondos y generar ganancias
- Sin embargo, el acuerdo operativo establece que la misión de OpenAI, Inc. y los principios de la OpenAI Charter tienen prioridad sobre la obligación de generar ganancias
- La compañía puede no generar utilidades y no tiene obligación de hacerlo
- Microsoft se convirtió en inversionista y cliente de OpenAI incluso con esas restricciones, e integró la tecnología de OpenAI en varios productos
El potencial de plataforma de consumo que impulsó ChatGPT y el conflicto interno
- ChatGPT se difundió rápidamente tras su lanzamiento a fines de noviembre de 2022
- Actualmente tiene más de 100 millones de usuarios semanales
- Sus ingresos superan los 1.000 millones de dólares
- Cambió de forma fundamental las conversaciones sobre IA en grandes empresas y gobiernos
- ChatGPT mostró el potencial de convertirse en la base de una nueva gran empresa tecnológica de consumo
- Logró por boca a boca la adquisición eficiente de clientes, algo clave en productos de consumo
- Los efectos de red no son grandes, pero el efecto boca a boca fue enorme
- Fue evaluado como un producto que, como Google, era tan superior a otros del mercado que los usuarios buscaban por su cuenta cómo usarlo
- OpenAI intentó convertirse en plataforma
- ChatGPT plugins tenía un concepto fuerte, pero la UI no encajaba bien
- Luego, en su primer evento para desarrolladores, anunció GPTs y retomó el intento de plataforma
- Se informó que Altman exploró empresas de chips y hardware fuera de OpenAI, y que la junta no estaba al tanto de ello
- Según un reporte de The Atlantic, el despido de Altman fue resultado de una lucha de poder entre dos extremos ideológicos dentro de OpenAI
- De un lado estaba un grupo de optimismo tecnológico de Silicon Valley impulsado por la comercialización rápida
- Del otro, un grupo que considera que la IA podría generar riesgos existenciales para la humanidad y que debe controlarse con extrema cautela
- El lanzamiento de ChatGPT rompió el equilibrio entre ambos bandos
- Aceleró la carrera hacia la monetización del producto
- Impuso una presión sin precedentes sobre el personal a cargo de infraestructura y de evaluación y mitigación de riesgos
- En un correo interno de 2019, Altman llamó “tribus” a estos grupos internos
El choque entre la decisión de la junta y la ejecución de la misión
- Hubo reacciones que señalaron que la junta de OpenAI había destruido mucho valor, pero OpenAI no es una empresa con fines de lucro con deberes fiduciarios hacia accionistas
- La carta fundacional de OpenAI establece que no está limitada por la necesidad de generar retornos financieros
- Si la junta consideró que Altman y su grupo no estaban creando una “inteligencia artificial general que beneficie a la humanidad”, tenía la autoridad para despedirlo
- La inestabilidad de la estructura sin fines de lucro quedó claramente expuesta en el acuerdo con Microsoft
- Microsoft apostó una gran parte de su futuro a la alianza con OpenAI
- La tecnología de OpenAI se integró en varios productos de Microsoft, como Windows, Office y Dynamics CRM
- Microsoft invirtió fuertemente en infraestructura adaptada a OpenAI, y también presentó chips personalizados para ejecutar modelos de OpenAI
- Que Microsoft dependiera a tal grado de una organización sin motivación de lucro parecía una decisión inestable, pero OpenAI tampoco tenía el capital para mantener su independencia
- La estructura de OpenAI impedía acuerdos tradicionales de capital de riesgo, y por sus necesidades masivas de cómputo tuvo que ceder IP a Microsoft a cambio de créditos de Azure
- Una organización cuya carta prometía el desarrollo seguro de IA terminó, en la práctica, transfiriendo su trabajo y una parte considerable de su talento a una gigantesca empresa con fines de lucro
- Esta estructura llevó a evaluarla como una estructura con incentivos desalineados para cumplir la misión declarada por OpenAI
Preguntas pendientes sobre el motivo del despido de Altman
- Sigue existiendo la posibilidad de que la junta haya actuado por una causa justificada
- La junta de OpenAI anunció que Altman no había sido “consistentemente sincero” en sus comunicaciones con ella
- Eric Newcomer informó que algunos miembros de la junta sintieron que la comunicación de Altman era deshonesta y difícil de confiar, y consideraron que no podían supervisar la compañía porque no podían creer en sus palabras
- Newcomer considera que hay que tener en cuenta varios puntos
- La carta fundacional de la junta de OpenAI
- El hecho de que los fundadores de Anthropic sintieran la necesidad de dejar OpenAI
- La antipatía de Elon Musk hacia Altman
- Que el proceso de salida de Altman de Y Combinator sigue siendo algo poco claro
- La elección de Altman de ir a Microsoft es sorprendente
- Microsoft es el lugar que mantiene acceso a la IP de OpenAI
- Puede combinar financiamiento prácticamente ilimitado con acceso a GPU
- Esta combinación refuerza la interpretación de que el poder sobre la IA es una de las principales motivaciones de Altman
El nuevo panorama competitivo de la IA
- Altman y Microsoft quedaron al volante de la IA
- Microsoft posee la IP
- Cuenta con efectivo e infraestructura
- También puede reducir los problemas de coordinación que surgían de su alianza previa con OpenAI
- Al mismo tiempo, Microsoft sigue siendo socio de OpenAI
- Para empresas externas, la opción de construir sobre las API de Azure se vuelve más evidente que hacerlo sobre la API de OpenAI
- Microsoft tiene, por naturaleza, un carácter fuerte de plataforma para desarrolladores
- OpenAI es una compañía interesante, pero se la evalúa como un actor que podría replicar funcionalidades o retirar API antiguas
- Para clientes empresariales, se debilitan las razones para evitar Azure por su dependencia de OpenAI
- Para clientes empresariales que evalúan riesgos de largo plazo, es importante que Microsoft haya pasado a controlar todo el stack
- Google podría necesitar cambios considerables
- Su modelo más reciente, Gemini, está retrasado
- Su negocio de Cloud se está desacelerando en un contexto donde el gasto se desplaza hacia la IA
- Esto es lo contrario de lo que Google esperaba
- La posición de Anthropic como empresa independiente parece más inestable
- Tiene alianzas con Google y Amazon
- Sin embargo, debe competir con Microsoft, que tiene financiamiento y acceso a GPU prácticamente ilimitados
- Una B Corp puede ser adquirida con mucha más facilidad que una organización sin fines de lucro
- A corto y mediano plazo, se refuerza la visión de que la IA se parece más a una innovación sostenida que a una innovación disruptiva
- Debido a los altos costos, es probable que las empresas más grandes sean las principales beneficiarias y distribuidoras
- Si además se consideran los canales y la adquisición de clientes, la ventaja de las grandes empresas aumenta aún más
- OpenAI tenía la posibilidad de sumarse al grupo de las Big Five gracias a ChatGPT, pero esa posibilidad se redujo
- La intuición de Nadella está en que las grandes empresas ganan no inventando como startups, sino usando su escala para adquirir o alcanzar rápidamente a otros
1 comentarios
Opiniones de Hacker News
No puedo creer que la gente esté celebrando este movimiento.
Tigris básicamente terminó antes de empezar. En parte porque podría enfurecer al directorio de MSFT, pero sobre todo porque, si Sam es ejecutivo de MSFT, es muy probable que la SEC lo arreste. Podría ser un inversionista pasivo, pero nada más.
¿De verdad creen que los empleados de OpenAI van a renunciar a su participación y aceptar en Microsoft una compensación en acciones común y corriente según su nivel, un aumento salarial del 1%, varios años sin bonos y recortes de personal impuestos por el directorio?
Sam tendría incluso menos poder frente al directorio, y el directorio de una empresa de 3 billones de dólares sería mucho más adverso al riesgo que el de OpenAI.
Ayer internet estaba lleno de fanfic sobre cómo Satya le torció el brazo al directorio, pero desde el principio no fue eso. Desde la perspectiva de asegurarse de que su dinero se use bien, hizo una de las peores inversiones en la historia de Silicon Valley: puso 10.000 millones de dólares y obtuvo 0 votos, sin poder para cambiar una votación.
Su mejor opción es que Sam se los lleve a una nueva empresa dentro de Microsoft. Recibirían condiciones iguales o mejores, y probablemente en 6 meses podrían crear lo que OAI tiene ahora y aquello que fuera que asustó a Ilya al punto de dar el golpe.
Esta fue una jugada de poder excelente de Satya. Después de esta fuga de talento, no veo que a OpenAI le quede mucha esperanza.
Si ahora Sam quiere crear productos y ganar dinero, y Microsoft quiere lo mismo, el poder sobre el directorio no importa demasiado. Microsoft también tiene toda la propiedad intelectual que necesita. Viendo quiénes controlan actualmente OpenAI, es un mejor trato que tener participación accionaria. Ellos no están enfocados activamente en las ganancias.
Independientemente de si esto es un buen resultado para la IA o para la humanidad, Microsoft claramente ganó. Además, mientras más gente se lleve de OpenAI, menos necesitará relacionarse con OpenAI y más quedará todo internalizado.
Edición: Dios mío, incluso la persona que echó a Sam acaba de anunciar que quiere renunciar si Sam no vuelve; ¿qué demonios es esto?
MS es adversa al riesgo en todo salvo en una cosa: hacer volar a Google. Para eso, prendería fuego al mundo.
A los inversionistas les gustaba la inversión de Satya en OAI, así que no sé cómo se la puede calificar como una de las peores inversiones en la historia de Silicon Valley.
¿Cómo se pueden comparar las preocupaciones de riesgo de MSFT y OpenAI? Mi impresión sobre OpenAI es que sus preocupaciones de riesgo tienen que ver especialmente con la búsqueda de ganancias. Desde una perspectiva de negocio, los modelos de lenguaje grandes tienen un enorme potencial para reducir costos y multiplicar las ganancias.
Las preocupaciones de Newcomer sobre Altman son válidas [1]. Es difícil conciliar la reputación que cultivó como CEO de OpenAI con la temeraria falta de reglas que mostró en su startup de criptomonedas.
Microsoft sabe negociar en las grandes ligas. También sabe cómo poner límites a personas con personalidades fuertes.
[1] https://www.newcomer.co/p/give-openais-board-some-time-the
Como consejo para los empleados que planean irse de OpenAI: este probablemente sea uno de los mejores momentos para fundar su propia empresa.
Si se unen a una nueva startup, asegúrense de obtener estatus de fundador y una buena participación accionaria. En los próximos meses, los inversionistas van a hacer fila en la puerta para ofrecer dinero con valuaciones absurdas; tómenlo y hagan eso que siempre quisieron hacer. Incluso si fracasan, las grandes empresas querrán adquirirlos pagando mucho más de lo que jamás podrían ofrecerles como salario normal.
El análisis del texto en general es muy bueno, pero no estoy de acuerdo con esta observación:
The biggest loss of all, though, is a necessary one: the myth that anything but a for-profit corporation is the right way to organize a company.No veo cómo se llega a esa conclusión a partir de lo ocurrido este fin de semana. Claro, por las acciones del directorio parece mucho más probable que los ingresos de OpenAI y su tracción con consumidores terminen siendo mucho menores. Pero la razón misma de haber convertido a OpenAI en una organización sin fines de lucro era impedir que justamente esos objetivos dominaran la empresa.
La conclusión que sí se puede extraer legítimamente sería algo como “el mito de que hay una forma correcta de organizar una empresa con fines de lucro que no sea una sociedad con fines de lucro”, pero eso es demasiado obvio.
A partir de ahora, los inversionistas no van a tocar este tipo de organizaciones sin fines de lucro. Un directorio irresponsable que puede empujar a la rebelión a la mayoría de la empresa y a los inversionistas es material radiactivo para cualquier inversionista.
Esto demuestra que la estructura corporativa estándar de acciones = derechos de voto es la única forma de organizar una entidad gigantesca.
OpenAI mantendrá sus objetivos, pero no logrará nada. Es probable que termine degradándose a un laboratorio de investigación de nicho, sin los recursos ni las GPU para hacer algo significativo.
Por ejemplo, con una mano puedes crear una organización sin fines de lucro “buena” y “socialmente responsable”, y con la otra crear una sociedad con fines de lucro; luego conviertes a esa sociedad con fines de lucro en el único proveedor de la organización sin fines de lucro, y haces que todo el dinero que entra a la organización sin fines de lucro fluya hacia ella. Así puedes evitar muchos impuestos y generar ganancias sólidas. Hay muchísimas estructuras de este tipo, y si uno busca encuentra cientos de ejemplos.
El verdadero debate sobre los grandes modelos de lenguaje es código abierto vs. propietario.
¿Y la razón habría sido una diferencia de opinión sobre los anuncios de DevDay?
No entiendo por qué tanta gente cree que el directorio fue altruista en esto. Ese poder sin contrapesos parece una locura.
Este drama se volvió más intenso porque todavía nadie sabe realmente por qué se tomó esa decisión. Si es una organización sin fines de lucro, parece muy razonable exigir cierto nivel de transparencia en decisiones así.
Si el objetivo realmente es el desarrollo “seguro” de la IA, incluso si las acciones de este fin de semana hubieran estado justificadas en otros aspectos, ahora objetivamente están en una posición más débil para perseguirlo.
Me gustaría cambiar el título a “El error de OpenAI y el excelente control de daños de Microsoft”.
No creo que Microsoft esté necesariamente en una mejor posición que el jueves. Si hacemos el balance:
Se sabe que incluso Microsoft alquila GPU a Oracle para satisfacer la demanda. Es un pacto con el diablo.
La única con capacidad de cómputo potencial y criterio de negocio para atacar sería Amazon, pero ya tiene su propio negocio. Google también podría, pero no sé si estaría dispuesta a asumir el daño reputacional de usar un modelo que no sea de Google.
“Finalmente, a última hora del domingo por la noche, Satya Nadella anunció en un tuit que Altman y Brockman se unirían a Microsoft ‘junto con sus colegas’”.
Como era de esperarse, se completó el EEE. Esta es la magia de la vieja Microsoft. Espero que la gente joven que recién empieza su carrera preste atención a esto. Todo ese dinero que Gates reparte para comprarse un boleto al cielo también salió de las mismas tácticas.
Para mí, la nueva Microsoft es una plataforma de plataformas. Las ganancias fluyen hacia plataformas subyacentes como Windows y Azure, pero se generan en todas las capas, como Office, Xbox y LinkedIn, y en algunas capas también se comparten con empleados/socios.
En realidad, Satya invirtió la idea de Bezos: usar la escala para construir plataformas que también se vendan al exterior. Su enfoque es usar tantas plataformas como sea posible para crear y mantener escala. No es algo nuevo; los conglomerados de hace 100 años también lo habrían hecho. Solo que él lo hace de forma sistemática y rompiendo menos reglas que Amazon o Google. Lo admiro de verdad.
Es triste que esto se describa como una victoria para ellos o como una buena salida a la crisis. Además, todos culpan al directorio de todos los problemas, pero todos tienen las manos sucias por haber llegado hasta aquí. Es un desastre total.
Puede ser una pérdida para OpenAI y una ganancia para Microsoft, pero cualquier apoyo a la AI es una tragedia para la humanidad.
Todo es bueno en su justa medida, y con la AI estamos empujando la eficiencia mucho más allá de ese punto sano. La AI no solo puede quitarles el trabajo a creadores como los ilustradores y usarse para el robo de identidad, sino que también está eliminando las relaciones en las que las personas dependen unas de otras.
La sociedad se sostiene porque las personas se necesitan entre sí. La gente se reúne porque se necesita, y eso fortalece a las comunidades locales. La AI nos está quitando eso y está haciendo que los únicos seres que necesitemos sean las big tech como Microsoft y Google, y organizaciones sin alma.
Esto es un descenso al feudalismo. Todos terminarán pagándole a las big tech por necesidades básicas de la vida. Al principio será una opción, y después se volverá indispensable, como los smartphones.
Para los hombres y mujeres que quieren vivir de forma independiente de las big tech, ahora será cada vez más difícil, y mediante las acciones inmorales de estas compañías estamos perdiendo el sentido de lo que significa ser humano.
No me importa tener que pagarles a megacorporaciones por el derecho a disfrutar de comodidades modernas, siempre y cuando esas comodidades se extiendan a cada vez más personas. Si eso significa que nadie vuelva a morir de hambre, Monsanto puede llevarse todo mi dinero. Si eso significa que nunca más tenga que hacer tareas repetitivas, Microsoft puede llevarse todos mis datos.
Parece que el último tramo para reemplazar empleos manuales es más caro y más difícil —o quizá imposible— que reemplazar trabajadores de la información con AI.
¿La imagen de un niño atacado por un terrorista es real o falsa? Para la víctima es real, para el poder político es falsa y para las grandes empresas es dinero.
Las herramientas de AI parecen reducir el trabajo repetitivo y darnos más tiempo para la creatividad.
Si esa tendencia continúa, la creatividad inevitablemente generará más colaboración. Porque la creatividad no puede prosperar solo dentro de cubículos aislados.
fuera de la industria de juegos de baja calidad y la industria de estafas con anuncios de Instagram, ¿dónde está la AI amenazando realmente con quitar empleos actuales?
Cualquiera que haya trabajado en una organización sin fines de lucro puede reconocer esa escena en la que una junta directiva, alejada del a veces más fácil de entender motivo de lucro, actúa por su cuenta.
Ahora lo que queda por ver es quién está del lado correcto de la historia. El verdadero perdedor aquí probablemente sea la AI ética. Sé que será una idea impopular aquí, pero en computación y AI parece que estamos en medio de ecos de la Revolución Industrial, como cuando el motivo de lucro del siglo XIX produjo profundas injusticias humanas, como el trabajo infantil y condiciones laborales inseguras e inhumanas.
Por supuesto, la AI también podría tener impactos mucho mayores, tanto positivos como negativos, como las redes sociales.
Esas cosas existían mucho antes de la industrialización. Durante la mayor parte de la historia humana, la educación fue en la práctica trabajo infantil.
¿“La mayor pérdida, aunque también una pérdida necesaria, es el mito de que no hay una forma correcta de organizar una compañía que no sea como una entidad con fines de lucro”?
https://en.wikipedia.org/wiki/Robert_Bosch_Stiftung
https://en.wikipedia.org/wiki/Tata_Sons
Más bien, la lección más plausible parece ser que Altman llevó a OpenAI a una situación incompatible con el propósito sin fines de lucro.
La estructura es que “la fundación benéfica posee una mayoría abrumadora de las acciones para financiarse, pero no tiene derechos de voto y se dedica a fines sanitarios y sociales ajenos al negocio de Bosch”.
También está el ejemplo de la estructura de propiedad de Ikea, pero eso no es más que una enorme estructura de elusión fiscal.
“Estés de acuerdo o no con el bando de Sutskever/Shear, el estatuto y la responsabilidad de la junta no son ganar dinero. No es una entidad con fines de lucro con deber fiduciario hacia los accionistas, y en la medida en que la junta crea que Altman y su bando no están ‘creando una inteligencia artificial general que beneficie a la humanidad’, tiene autoridad para destituirlo. Ellos lo creen, y por eso lo hicieron”.
Tengo una pequeña discrepancia con esa parte. Tienen autoridad para destituirlo, pero si lo hacen de una manera que destruye el valor de su mayor activo, la división con fines de lucro, es difícil decir que están actuando bien en beneficio de la organización sin fines de lucro. Sobre todo si potencialmente había otras opciones, como una salida negociada o darles a los inversionistas una advertencia previa adecuada.
Trabajé en una startup adquirida por Microsoft y, en pocas palabras, MS es una empresa que mata la cultura. Nuestra dinámica abierta y nuestros debates libres se marchitaron bajo la manta de la gestión al estilo MS.
No creo que las culturas de OpenAI y MS puedan hacerse compatibles. MS es gris. Es muy eficaz para convertir cosas en productos. Pero una cultura que impulsa innovación profunda no va a durar mucho.
Por lo que sé, ha cambiado bastante.