OpenAI elimina discretamente su promesa de hacer públicos documentos clave

• OpenAI había prometido desde su fundación publicar documentos de gobernanza, pero recientemente rechazó proporcionarlos cuando WIRED los solicitó
• OpenAI fue creada para que la sociedad y el público participaran en el desarrollo de una IA poderosa, pero ahora adoptó una nueva política de no divulgar documentos internos
• El retiro de la promesa de transparencia de OpenAI dificulta entender las vulnerabilidades de la empresa y su reciente crisis, en una compañía con una influencia importante sobre el futuro de la IA

La crisis y la gobernanza de OpenAI

• La junta directiva de OpenAI despidió al CEO Sam Altman, pero tras la reacción de empleados e inversionistas, Altman regresó y la mayoría de los miembros de la junta fueron reemplazados
• La mezcla entre las inversiones personales de Altman y sus funciones en el cargo pudo haber sido una de las causas de la desconfianza de la junta
• La divulgación de los documentos de gobernanza de OpenAI podría aclarar qué autoridad tenía la junta sobre Altman y sus actividades externas

La estructura corporativa de OpenAI y Microsoft

• Los estatutos fundacionales de OpenAI muestran cómo una parte de la junta pudo tomar el control y destituir a Altman
• El CEO de Microsoft, Satya Nadella, dijo públicamente que le sorprendió el despido de Altman
• Es posible que OpenAI haya modificado sus documentos de gobernanza para estabilizar la estructura de la junta y tranquilizar a patrocinadores como Microsoft

Menor transparencia en OpenAI

• En el pasado, OpenAI publicó información detallada sobre sus avances en IA, pero recientemente ha protegido los detalles técnicos y los datos de herramientas como ChatGPT
• La transparencia ha disminuido desde que en 2019 creó una subsidiaria con fines de lucro que realiza la mayor parte del desarrollo de IA, separada de la entidad sin fines de lucro
• La organización sin fines de lucro de OpenAI mantiene en última instancia el control sobre las actividades y la tecnología de OpenAI

La organización sin fines de lucro de OpenAI y los reportes al IRS

• Las organizaciones sin fines de lucro en EE. UU. deben hacer públicos sus reportes anuales al IRS e indicar si existen documentos adicionales disponibles para divulgación
• Hasta 2022, OpenAI indicó en sus reportes anuales al IRS que proporcionaría archivos adicionales "a solicitud", pero en la práctica no lo hizo
• Es raro que una organización sin fines de lucro divulgue documentos internos, y acceder a ellos es difícil

La situación financiera de OpenAI

• Los estados financieros publicados por OpenAI excluyen los resultados de su división con fines de lucro, y en 2022 reportaron ingresos por 44,000 dólares y gastos por 1.3 millones de dólares
• OpenAI en su conjunto generó ingresos por cientos de millones de dólares, pero esa información no se hace pública
• La división sin fines de lucro de OpenAI recibe muy poco apoyo del público, por lo que tiene pocos incentivos para aumentar la transparencia

La opinión de GN⁺

• El retiro de la promesa de transparencia de OpenAI dificulta entender cómo opera una empresa con una influencia crucial sobre el futuro de la tecnología de IA
• Este cambio puede debilitar la participación pública y la confianza en la investigación y el desarrollo de IA
• El cambio de política de OpenAI puede convertirse en un caso importante para abrir el debate sobre transparencia y operación ética dentro de la industria de la IA

[GN⁺]

Opiniones de Hacker News

• Es una noticia decepcionante, pero no sorprendente. Intentemos sacar una lección de esto.

  • En el campo de la IA, es popular defender el altruismo y la apertura, y OpenAI, Anthropic, así como la nueva xAI de Musk, tienen estructuras de gobernanza inusuales en nombre del beneficio público. El problema es que, cuando alguna de estas empresas empieza a recibir suficiente atención como para vislumbrar ganancias de miles de millones de dólares, la situación cambia.
  • Este problema no se limita a las empresas de IA ni es algo nuevo. Es parte de la naturaleza humana y siempre va a existir.
  • Deberíamos poner mucho más énfasis y atención en modelos de IA realmente abiertos (datos de entrenamiento abiertos, código fuente y parámetros de entrenamiento, código fuente del modelo, pesos) para que los beneficios de la IA lleguen al público y no solo a unas pocas empresas.

• Sabiendo que OpenAI no ha compartido nada desde el lanzamiento de ChatGPT y aun así recibió inversiones de miles de millones de dólares, no hay razón para sorprenderse de que OpenAI sea cerrada.

• OpenAI rompió todas las promesas que hizo.

• ¡¿Cómo dejó la junta directiva que esto pasara?!

  • Pensándolo más seriamente, esto parece una consecuencia obvia, aunque también se siente un poco turbio.
  • Es cierto que OpenAI necesita mucho financiamiento y capital, y también es cierto que eso hace necesarias las rondas de inversión y las alianzas.
  • Pero la única razón por la que pudieron existir en un principio fue que se posicionaron como una empresa "abierta", casi como un bien público, y sobre esa base recibieron donaciones.

• Con todo lo que estamos oyendo sobre los usos dañinos que esta tecnología podría tener en la sociedad, me pregunto si esto es lo bastante serio como para requerir algún tipo de investigación para entender qué está pasando.

  • Esta situación es lo bastante grave como para no poder permitir que este tipo de trabajo quede privatizado.
  • No hace falta prestar atención al argumento de que "esto es normal". Eso no es más que un intento de hacer que la gente normalice este tipo de comportamiento.
  • ¿Alguien sabe si existe algún centro de seguridad en IA que actúe en favor del interés público y si este tema está en su radar?

• No quiero defender a Musk, pero si yo fuera él, creo que me molestaría un poco que el artículo empiece con "empresarios tecnológicos ricos prometieron transparencia, pero ahora ya no", y que tarden ocho párrafos en señalar que el único fundador mencionado fue expulsado hace años y que ahora es un competidor que lo llama "IA de código ultracerrado para maximizar ganancias".

  • La prensa es adicta a señalar culpables, y todo matiz que queda entre la acusación y el titular termina al fondo del artículo, escondido detrás de un muro de pago. Quizás en unos años también le apliquen estas tácticas a Altman.
  • La situación está tan mal que, cuando leo un titular que sugiere hipocresía, de hecho tiendo a creer más bien lo contrario, ¡y eso es una distorsión mental tan terrible como asumir que el titular es correcto!

• Desde el inicio de esta organización debieron existir reglas para impedir que esto ocurriera. El desarrollo de los hechos demuestra que su forma de gobernanza no es efectiva.

• No falta mucho para que le cambien el nombre a la empresa a "Microsoft AI".

• Aunque intenten presentar a OpenAI como una organización sin fines de lucro de interés público, lo mejor es verla como cualquier otra empresa tecnológica privada.