Elon Musk presenta una demanda contra Sam Altman, Greg Brockman y OpenAI [PDF]
(courthousenews.com)- Elon Musk presentó 5 reclamaciones, entre ellas incumplimiento de contrato, contra Sam Altman, Greg Brockman y entidades relacionadas con OpenAI, y solicitó un juicio por jurado
- El núcleo de la demanda es la afirmación de que OpenAI comenzó en 2015 como un instituto de investigación de AGI sin fines de lucro y celebró un Founding Agreement para divulgar su tecnología en beneficio de “la humanidad”
- La parte de Musk sostiene que GPT-4 se convirtió en una tecnología cerrada cuya arquitectura interna y datos de entrenamiento no fueron divulgados, y que en la práctica quedó subordinada a Microsoft, apartándose de la misión original de OpenAI
- Basándose en declaraciones públicas de investigadores de Microsoft que sugieren que GPT-4 podría ser una AGI temprana, argumenta que la licencia exclusiva otorgada a Microsoft en 2020 solo aplica a tecnología pre-AGI
- Tras la crisis del consejo directivo de noviembre de 2023, la demanda sostiene que el nuevo consejo quedó inclinado hacia Altman y Microsoft, dificultando una evaluación independiente sobre si se alcanzó la AGI, y busca obligar a OpenAI a cumplir el Founding Agreement
Partes de la demanda y alcance de las reclamaciones
- Elon Musk presentó la demanda ante la California Superior Court del condado de San Francisco contra Sam Altman, Greg Brockman, OpenAI, Inc. y varias entidades relacionadas con OpenAI
- Las causas de acción son las siguientes
-
Incumplimiento de contrato
- impedimento por promesa
- incumplimiento del deber fiduciario
- competencia desleal bajo Cal. Bus. & Prof. Code §§ 17200 y siguientes
- rendición de cuentas
- Entre los demandados se incluyen OpenAI, Inc., OpenAI, L.P., OpenAI, L.L.C., OpenAI GP, L.L.C., OpenAI OpCo, LLC, OpenAI Global, LLC, OAI Corporation, LLC, OpenAI Holdings, LLC y Does 1 through 100
- En la demanda, OpenAI, Inc. se distingue como la corporación sin fines de lucro o su división sin fines de lucro, mientras que “OpenAI” se usa para referirse al conjunto de entidades relacionadas con OpenAI
-
Percepción del riesgo de la AGI y contexto de la fundación de OpenAI
- La AGI se presenta como un sistema de inteligencia artificial general capaz de desplegar inteligencia en una amplia variedad de tareas, como lo haría un ser humano
- Musk afirma que desde hace mucho tiempo reconoce que la AGI podría representar una amenaza existencial significativa para la humanidad, en una línea similar a las preocupaciones expresadas por Stephen Hawking y Bill Joy
- Con la adquisición de DeepMind por parte de Google en 2014, Google pasó a liderar la carrera por la AGI, y Musk consideró especialmente peligroso que una empresa cerrada y con fines de lucro como Google controlara la AGI
- También se citan anuncios de Google/DeepMind
- AlphaZero alcanzó un nivel sobrehumano en ajedrez, shogi y go en menos de 24 horas mediante aprendizaje por refuerzo
- Se indica que derrotó a los programas campeones mundiales de cada disciplina
Founding Agreement y los inicios de OpenAI
- La parte de Musk sostiene que en 2015 Altman le propuso crear juntos un instituto de investigación en IA sin fines de lucro que fuera lo opuesto a Google
- Sostienen que Musk, Altman y Brockman acordaron que el nuevo instituto cumpliría las siguientes condiciones
- desarrollar la AGI en beneficio de la humanidad, y no para el interés de accionistas de una empresa con fines de lucro
- divulgar la tecnología, salvo por razones de seguridad en contra, y no cerrarla ni mantenerla en secreto por motivos comerciales exclusivos
- Se señala que el certificado de incorporación del 8 de diciembre de 2015 de OpenAI, Inc. contiene lenguaje según el cual la tecnología resultante beneficiaría al público y, cuando fuera aplicable, se volvería de código abierto en favor del interés público, y que la organización no fue constituida para el beneficio privado de ninguna persona
- Musk afirma que, confiando en el Founding Agreement, aportó más de la mitad del financiamiento de OpenAI durante sus primeros años, asesoró la dirección de investigación y desempeñó un papel clave en la contratación de científicos e ingenieros, incluido Ilya Sutskever
- Según esta versión, la investigación inicial de OpenAI avanzó ofreciendo acceso público gratuito a diseños, modelos y código, y tras la publicación de modelos de lenguaje natural basados en Transformer, crecieron las comunidades open source y comercial
La licencia con Microsoft y la disputa sobre GPT-4
- Altman se convirtió en CEO de OpenAI, Inc. en 2019, y OpenAI firmó el 22 de septiembre de 2020 un acuerdo de licencia exclusiva con Microsoft sobre GPT-3
- La parte de Musk sostiene que, en el caso de GPT-3, se publicó un artículo detallado que explicaba su estructura interna y los datos de entrenamiento, lo que permitió a la comunidad crear modelos similares
- La interpretación central de la demanda es que la licencia con Microsoft solo se aplica a la tecnología pre-AGI de OpenAI, y que Microsoft no obtuvo derechos sobre la AGI
- Sobre GPT-4, presentado en marzo de 2023, se destacan los siguientes desempeños
- percentil 90 en el Uniform Bar Exam
- percentil 99 en GRE Verbal Assessment
- 77% en el examen Advanced Sommelier
- La parte de Musk afirma que la arquitectura interna de GPT-4 se mantiene en total secreto, salvo para OpenAI y, según la información y creencia alegadas, Microsoft
- También señala que no existe un artículo científico que describa el diseño de GPT-4, sino solo comunicados de prensa que promocionan su rendimiento
- Sostiene que GPT-4 fue cerrado para beneficio comercial exclusivo de OpenAI y Microsoft, y que en la práctica se convirtió en un algoritmo propietario de Microsoft integrado en la suite de productos Office
La crisis del consejo en 2023 y el objetivo de la demanda
- La parte de Musk sostiene que GPT-4 es un algoritmo de AGI y que queda fuera del alcance de la licencia exclusiva de 2020 con Microsoft
- Cita declaraciones públicas de investigadores de Microsoft según las cuales, dada la amplitud y profundidad de las capacidades de GPT-4, puede considerarse razonablemente un “sistema de AGI temprano, aunque aún incompleto”
- También incluye que OpenAI estaría desarrollando un modelo conocido como Q* o Q star, lo que, según se afirma, reforzaría aún más la idea de que se trata de AGI
- El 17 de noviembre de 2023, el consejo de OpenAI, Inc. destituyó a Altman alegando que “no fue consistentemente sincero con el consejo”
- La parte de Musk sostiene que en los días siguientes Altman y Brockman, junto con Microsoft, usaron la influencia de Microsoft sobre OpenAI para forzar la renuncia de la mayoría del consejo
- Altman regresó como CEO de OpenAI, Inc. el 21 de noviembre de 2023
- Se afirma que los nuevos miembros del consejo fueron elegidos directamente por Altman y aprobados por Microsoft, y que carecen de la experiencia en IA necesaria para determinar de forma independiente si se alcanzó la AGI
- La parte de Musk considera que OpenAI, Inc. se transformó en una subsidiaria de facto cerrada de Microsoft, la mayor empresa tecnológica del mundo, y que bajo el nuevo consejo está desarrollando y mejorando AGI para maximizar los intereses de Microsoft
- El objetivo de la demanda es obligar a OpenAI a cumplir el Founding Agreement y a volver a la misión de desarrollar AGI en beneficio de la humanidad, y no de los demandados individuales ni de Microsoft
1 comentarios
Opiniones en Hacker News
Si OpenAI, al convertirse en una organización sin fines de lucro, escribió en sus estatutos que “la tecnología resultante beneficiará al público, buscará ser de código abierto para beneficio público cuando corresponda, y no estará organizada para el beneficio privado de ninguna persona”, no parece difícil demostrar que lo que está haciendo ahora es muy distinto de lo que originalmente dijo que haría.
Invirtieron en una empresa de código abierto, pero la empresa no publicó el código fuente y, en lugar de una tecnología de la que todos pudieran beneficiarse, mantuvo todo cerrado y vendió acceso exclusivo. Parece difícil que OpenAI pueda defender esa conducta, y parece posible reclamar una indemnización importante por el dinero que los inversionistas gastaron para alcanzarla.
Solo con esa frase, es muy difícil decir que OpenAI está haciendo algo totalmente distinto de lo que dijo originalmente. El objetivo declarado es financiar la investigación y el desarrollo de tecnología de IA; dice que la tecnología “beneficiará al público”, no que “pertenecerá” al público, y la apertura está limitada por “cuando corresponda”.
Tampoco es ilegal que una organización sin fines de lucro tenga una subsidiaria con fines de lucro y genere ingresos. Muchas organizaciones sin fines de lucro obtienen una parte importante de sus ingresos anuales de actividades comerciales, y esas subsidiarias o actividades con fines de lucro están sujetas al impuesto sobre la renta. Basta con que esos ingresos vayan a la matriz sin fines de lucro y se usen para sus fines no lucrativos, y eso parece ser lo que ocurre ahora. El problema del beneficio privado solo aparece cuando directores o empleados reciben beneficios excesivos, como salarios o prestaciones por encima del mercado.
Para evitar confusiones, me refiero a los párrafos 126, 132 y 135, no al 127. La demanda dice que, debido a los incumplimientos de los demandados, los demandantes sufrieron daños por un monto actualmente desconocido, pero muy superior al mínimo jurisdiccional de 35,000 dólares, y que lo probarán en juicio si es necesario.
Incluso si esta demanda no se desestima, el resultado final podría ser simplemente que OpenAI pague a los demandantes una suma equivalente a sus inversiones y llegue a un acuerdo. Según esta demanda, todos nosotros somos beneficiarios terceros del acuerdo fundacional, pero cuesta creer que en un acuerdo real vayamos a recibir compensación. Los demandantes claramente quieren recuperar su dinero, y no parecen tener reparos en presentar al “público” como beneficiario tercero para obtener un reembolso. En la práctica, su interés por el “público” resulta sospechoso.
Si hay resultados de una investigación de la SEC sobre declaraciones falsas de Altman a inversionistas, eso también podría ayudar a estos demandantes.
Sea cual sea la razón —resentimiento por haber abandonado el barco demasiado pronto y perdido la oportunidad, o el intento de representar a la humanidad—, contiene asuntos que deberían tratarse públicamente, y un tribunal parece el mejor lugar para hacerlo.
Microsoft da la impresión de estar abusando de la colaboración solo para impedir que otras empresas accedan a la propiedad intelectual. Como ya dijo que obtuvo todo lo que necesitaba y que no necesita la colaboración, tampoco parece haber razón para mantenerla.
Si Microsoft abusa así de las colaboraciones, la nueva colaboración con Mistral tampoco se ve bien. Incluso aunque obtenga recursos de cómputo ilimitados y conserve la libertad de hacer sus modelos de código abierto.
Ahora también resulta amargo que Mistral Large no sea un modelo de código abierto. Me pregunto si esta demanda fue la razón por la que él estuvo revisando Windows 11.
Si uno ve sus declaraciones públicas sobre la IA, esto parece algo anunciado desde hace mucho. El propósito de invertir en OpenAI era vigilar de cerca el desarrollo de la IA y, más allá de si se creen sus declaraciones públicas, siento que hay cierta sinceridad en lo que Elon dice sobre la IA.
Podrían publicar el modelo y vender la API, pero sería difícil ofrecer el servicio tan barato como empresas que tienen ventajas en economías de escala de nube, precios de GPU y chips de inferencia personalizados, como Google/Microsoft/Amazon.
Si quieren vender el modelo en sí, no pueden regalarlo. A diferencia del código abierto, todavía no parece existir un mercado adicional de ventas, como el soporte.
En cualquier caso, probablemente no pensó que la parte con fines de lucro se convertiría en una máquina de imprimir dinero.
El punto central de la demanda es que Musk fundó y financió OpenAI, Inc. junto con Altman y Brockman porque confió en el acuerdo fundacional de que la AGI beneficiaría a la humanidad y no a una empresa con fines de lucro, pero que para 2023 sus contribuciones habían sido distorsionadas para beneficiar a los demandados y a la empresa más grande del mundo.
La analogía también es fuerte. Sostiene que es como donar a una organización sin fines de lucro que promete proteger la selva amazónica, y que luego esa organización cree, con el fruto de las donaciones, una empresa maderera con fines de lucro para talar el bosque. También afirma que Musk aportó decenas de millones de dólares, tiempo y recursos con la condición de que OpenAI estuviera comprometida irrevocablemente a crear una AGI segura y de código abierto para el bien público, pero que después abandonó esa misión sin fines de lucro “irrevocable”, dejó de proporcionar información pública y entregó y licenció de forma exclusiva sus algoritmos de AGI a la mayor empresa con fines de lucro del mundo.
Al investigar la peculiar estructura y gobierno corporativo de OpenAI, encontré algunos materiales interesantes
OpenAI’s Hybrid Governance: Overcoming AI Corporate Challenges - https://aminiconant.com/openais-hybrid-governance-overcoming...
Nonprofit Law Prof Blog | The OpenAI Corporate Structure - https://lawprofessors.typepad.com/nonprofit/2024/01/the-open...
AI is Testing the Limits of Corporate Governance, artículo de investigación - https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4693045
OpenAI and the Value of Governance - https://www.glasslewis.com/openai-and-the-value-of-governanc...
El punto central de OpenAI es que, estructuralmente, los costos de recopilación de datos y entrenamiento de modelos son enormes, al punto de que incluso modelos de negocio de software + operaciones físicas de la generación anterior, como Uber o Airbnb, parecen baratos en comparación en términos de costos operativos. Por eso OAI termina dependiendo más de proveedores de nube para el cómputo.
Además, los fosos defensivos y los efectos de red también dependen de una oferta más indirecta: el contenido generado por usuarios. Como sostienen algunos de los textos anteriores, su condición de organización sin fines de lucro podría tener ventajas para usar propiedad intelectual en el entrenamiento.
Esta demanda alega el incumplimiento de un “acuerdo fundacional”, pero no existe un documento real de Founding Agreement; solo hay correos electrónicos que se afirma que formarían parte de él.
No soy experto legal, pero, existiendo estatutos, me pregunto si esos correos todavía tendrán mucho peso. La demanda también menciona los estatutos, pero se refiere más al “acuerdo fundacional” insinuado por los correos.
Además, la parte que dice que GPT-4 es AGI parece un tanto exagerada. Elon podría ganar en el sentido limitado de recuperar donaciones por haberlas conseguido mediante correos que planteaban un propósito específico y luego haberlo cambiado.
Pero el objetivo de esta demanda claramente es revivir el “Open” de “OpenAI”, obligando a compartir más información sobre GPT-4 y modelos posteriores, y eliminando la licencia exclusiva de Microsoft. Que eso sea posible con una demanda así parece depender, en última instancia, de la interpretación de los estatutos.
Seguramente ha habido casos en los que se reconoció responsabilidad en un contexto legal por haber respondido de una manera por correo y luego haber actuado en sentido contrario.
Los estatutos serán el documento legal clave, pero el acuerdo fundacional es importante para mostrar la intención y motivación originales de las partes. Así se construye la base del caso: que hubo algo que hizo que Altman desviara a la empresa en otra dirección.
No me parece injusto decir que Altman manipuló la empresa. Su despido parece haber sido una estrategia para revelar a los miembros del directorio con postura anti-Microsoft y, una vez identificados, eliminarlos fácilmente tras el regreso de Altman. Si Altman no la hubiera manipulado, no habría razón para que lo recontrataran después de despedirlo.
[1] https://www.youtube.com/watch?v=0hWZJg_nda4
La demanda afirma que GPT-4 no solo tiene capacidad de razonamiento, sino que razona mejor que el ser humano promedio, y que obtuvo el percentil 90 en el Uniform Bar Exam para abogados, el percentil 99 en la sección verbal del GRE y 77% en el examen de Advanced Sommelier.
Pero puede decirse que lo que esas pruebas tienen en común es que evalúan la memoria, y que el desempeño por encima del promedio de GPT-4 no necesariamente es prueba de razonamiento. Es decir, GPT-4 podría tener no “comprensión”, sino una enorme velocidad de lectura y capacidad de retención: en otras palabras, memoria.
Mientras que la preparación para esos exámenes depende mucho de la memorización, otros exámenes podrían poner más énfasis en el razonamiento y la comprensión. Seguramente hay exámenes en los que GPT-4 reprobaría, pero solo se reportan los resultados positivos de su desempeño en pruebas.
https://freeman.vc/notes/reasoning-vs-memorization-in-llms
Hace unos años habría sido absurdo pensar que una máquina pudiera siquiera sacar una puntuación de dos dígitos en exámenes como esos. Que una máquina pueda aprobar cualquiera de esos exámenes ya es sorprendente.
Si ya se volvió algo normal obtener una calificación aprobatoria en algunos exámenes de ingreso a ciertas profesiones, sinceramente es un poco decepcionante. Un percentil 99 en verbal del GRE habría sido impactante para un investigador de procesamiento de lenguaje natural en 2010; si ahora decimos que eso “no es razonamiento”, entonces estamos moviendo constantemente la vara de lo que cuenta como razonamiento.
El examen de Advanced Sommelier es parte de un proceso que incluye otros exámenes y cursos; la sección verbal del GRE normalmente se toma junto con otras secciones del GRE y se usa para admisiones a programas, tras lo cual pueden hacer falta años adicionales de estudio. El UBE también suele rendirse después de años de estudio en un programa aprobado.
Los demandantes tienen que sostener que GPT-4 es AGI. Porque el acuerdo en cuestión, con el que se creó OpenAI, estaba centrado en la AGI, no simplemente en desarrollar y mejorar modelos de lenguaje grandes. Si OpenAI aún no ha logrado AGI, podría argumentarse que ese acuerdo no se aplica a lo que está haciendo ahora.
Eso sí, le sobra confianza.
Está claro que OpenAI se convirtió en algo distinto de lo que se pretendía en su fundación. Ese cambio pudo haber ocurrido por buenas razones, pero el hecho de que hubo un cambio en sí es difícil de negar.
Para ser justos, esa expectativa también habría estado vinculada a la expectativa de lograr el objetivo público de desarrollar alguna forma de AGI.
Se parece a demandar a Google por haber quitado “Don’t be evil” de su misión.
Sigo pensando que probablemente está enojado por razones más triviales de las que Musk afirma, pero aun así me alegra mucho que haya presentado esta demanda.
Está claro que OpenAI se vendió en gran medida a una de las empresas más peligrosas e irresponsables del planeta, y dado el tamaño de la organización, para que siquiera exista la posibilidad de exigir responsabilidades, hacía falta que alguien con tanto dinero presentara una demanda.
Dicho eso, coincido con la evaluación de que es muy probable que se haya metido por razones triviales.
Un abogado competente haría subir a Musk al estrado para que repita sus opiniones sobre los peligros de la IA.
Si la tecnología realmente es peligrosa, se puede argumentar que mantenerla más cerrada sirve al interés público, y OpenAI ya ha dado antes razones de ese tipo.
No digo que esté de acuerdo con que el código cerrado sea de interés público, pero sí es perfectamente posible argumentar que acelerar el ritmo al que los actores maliciosos se ponen al día no es algo positivo.
Para conocer los riesgos reales y obtener la mejor información para responder a ellos, debe estar abierto. De lo contrario, alguien que haga lo mismo de forma cerrada tendrá ventaja cuando lo explote.
Sin embargo, es muy poco probable que el tribunal decida qué es más seguro, si abrirlo o mantenerlo cerrado. El acuerdo fundacional deja bastante clara la intención de abrirlo por seguridad. El tribunal determinará si hubo incumplimiento contractual, no si ese incumplimiento fue filosóficamente algo bueno.
O se persigue el objetivo abierto, como sugiere el nombre, o la estructura original en sí era inadecuada.
Según un artículo del New York Times, Musk ha criticado repetidamente que OpenAI se haya convertido en una empresa con fines de lucro, pero en 2017 habría planeado arrebatarles a Altman y a los otros fundadores el control del laboratorio de investigación de IA para convertirlo en una operación comercial que colaborara con sus otras empresas, como Tesla, y aprovechara supercomputadoras cada vez más potentes.
La explicación es que dejó la junta directiva de OpenAI cuando fracasó ese intento de tomar el control; con este contenido, parece que los abogados de OpenAI podrían mantener esta demanda trabada durante muchísimo tiempo.
Si la organización sin fines de lucro hubiera hecho bien lo que debía hacer, él no habría tenido necesidad de intentar tomar el control.
En este tipo de demandas, ¿no hay que probar el daño? Si OpenAI realmente incumplió el contrato, ¿cuál es el daño que sufrió Musk personalmente?
Claro que esto depende de los detalles de la inversión escritos en el contrato y de la ley aplicable, y no conozco bien ninguna de las dos cosas.
https://www.courthousenews.com/wp-content/uploads/2024/02/mu...