Caso de la muerte de un denunciante interno de OpenAI hallado en un apartamento de San Francisco
(mercurynews.com)- El exinvestigador de OpenAI Suchir Balaji, mencionado como posible testigo y poseedor de materiales en la demanda por derechos de autor contra OpenAI, fue hallado muerto en su casa de San Francisco el 26 de noviembre, y las autoridades determinaron que la causa de muerte fue suicidio
- Antes de su muerte, Balaji criticó públicamente a OpenAI, afirmando que había violado la ley de derechos de autor de EE. UU. durante el entrenamiento de ChatGPT y que el uso de esos datos de entrenamiento no calificaba como uso justo
- El 18 de noviembre, abogados de The New York Times identificaron a Balaji en un escrito presentado ante un tribunal federal como poseedor de “unique and relevant documents” útiles para la demanda
- Tras el lanzamiento de ChatGPT, escritores, programadores y medios de comunicación demandaron a OpenAI alegando que usó ilegalmente materiales con derechos de autor para entrenamiento; participaron Mercury News, siete medios hermanos y The New York Times
- OpenAI respondió que su trabajo es legal bajo la doctrina de uso justo y sostuvo que herramientas de IA como ChatGPT pueden fortalecer la relación entre editores y lectores, además de mejorar la experiencia informativa
Muerte de Suchir Balaji y determinación de las autoridades
- El exinvestigador de OpenAI Suchir Balaji fue hallado muerto a los 26 años el 26 de noviembre en un apartamento de Buchanan Street, en San Francisco
- La policía acudió a la residencia en Lower Haight alrededor de la 1 p. m. de ese día
- La intervención ocurrió tras un reporte solicitando una verificación de bienestar
- La Policía de San Francisco y la oficina del médico forense jefe confirmaron esta semana la muerte
- La oficina forense determinó que la forma de muerte fue suicidio
- La policía señaló que actualmente no hay evidencia de delito
- La madre de Balaji pidió privacidad mientras lamenta la muerte de su hijo
Su papel en la demanda por derechos de autor contra OpenAI
- Se esperaba que la información que tenía Balaji desempeñara un papel importante en la demanda contra OpenAI, con sede en San Francisco
- En un escrito presentado ante un tribunal federal el 18 de noviembre, los abogados de The New York Times identificaron a Balaji como poseedor de “unique and relevant documents” útiles para su caso contra OpenAI
- Antes del proceso de declaración, era una de al menos 12 personas mencionadas en documentos judiciales como poseedoras de materiales útiles para el caso
- Muchas de ellas eran empleados actuales o exempleados de OpenAI
Cuestionamientos sobre los datos de entrenamiento de ChatGPT
- La muerte de Balaji ocurrió tres meses después de que criticara públicamente a OpenAI por presuntamente violar la ley de derechos de autor de EE. UU. durante el desarrollo de ChatGPT
- ChatGPT, usado por cientos de millones de personas en todo el mundo, se lanzó a finales de 2022
- En una entrevista con The New York Times publicada el 23 de octubre, sostuvo que OpenAI perjudica a las empresas y fundadores que son dueños originales de los datos usados para entrenar ChatGPT
- Balaji dijo: “Si crees lo que yo creo, tienes que dejar la empresa”, y añadió que “no es un modelo sostenible para todo el ecosistema de internet”
- A fines de octubre publicó en su sitio web personal un análisis argumentando que el uso de los datos de entrenamiento de ChatGPT no constituye uso justo
- Escribió que era difícil encontrar factores que favorecieran el uso justo en el caso del uso de datos de entrenamiento por parte de ChatGPT
- Añadió, sin embargo, que este argumento no se limita a ChatGPT y podría aplicarse de forma similar a productos de IA generativa en distintos ámbitos
Su paso por OpenAI y cambio de perspectiva
- Balaji creció en Cupertino y estudió ciencias de la computación en UC Berkeley
- En ese momento creía en los beneficios potenciales de la IA para la sociedad, incluidas posibilidades como curar enfermedades y frenar el envejecimiento
- Se unió a OpenAI como investigador en 2020
- Desde 2022, su visión comenzó a volverse negativa
- En particular, le preocupaba el trabajo de recopilar datos de internet para el programa GPT-4
- Según se informa, ese programa analizó texto de casi todo internet para entrenar la IA
- Balaji consideraba que esta práctica entraba en conflicto con la ley estadounidense de uso justo, que regula el uso de publicaciones existentes
OpenAI y las demandas de medios de comunicación
- Desde el lanzamiento de ChatGPT a finales de 2022, se han acumulado demandas contra OpenAI
- Escritores, programadores informáticos y periodistas sostienen que OpenAI tomó ilegalmente materiales protegidos por derechos de autor para entrenar sus programas y elevar el valor de la empresa a más de 150 mil millones de dólares
- Mercury News y siete medios hermanos demandaron a OpenAI durante el último año junto con varios periódicos, incluido The New York Times
- Los medios alegan que OpenAI y Microsoft plagiaron y robaron artículos, debilitando el modelo de negocio de las noticias
- Los documentos de la demanda sostienen que Microsoft y OpenAI toman el trabajo de reporteros, columnistas y editores que producen noticias de las que dependen las comunidades, sin considerar sus derechos legales
- Microsoft mantiene una relación comercial con OpenAI y también figura entre los demandados en la demanda de Mercury News
Respuesta de OpenAI y expansión de la IA generativa
- OpenAI rechaza enérgicamente estas acusaciones
- La empresa enfatiza que todo su trabajo es legal conforme a la doctrina de uso justo
- Cuando se presentó la demanda, OpenAI dijo que herramientas de IA como ChatGPT tienen un gran potencial para profundizar la relación entre editores y lectores y mejorar la experiencia de las noticias
- Los programas de IA generativa funcionan analizando enormes volúmenes de datos de internet y luego respondiendo a prompts de usuarios o generando texto, imágenes y video
- El lanzamiento de ChatGPT impulsó rápidamente la industria de empresas dedicadas a redactar ensayos, crear arte y generar código
- Muchas de las empresas más valiosas del mundo trabajan en IA o fabrican los chips informáticos necesarios para ejecutar estos programas
- La valoración de OpenAI casi se duplicó durante el último año
Información de apoyo en crisis
- Las personas que enfrentan depresión o pensamientos suicidas pueden recibir apoyo gratuito las 24 horas, información y recursos de ayuda a través de 988 Suicide & Crisis Lifeline
- Es posible comunicarse al 988 por llamada o mensaje de texto, y también chatear en el sitio web 988lifeline.org
1 comentarios
Opiniones en Hacker News
Fui compañero de proyecto de Suchir en una clase de CS en Berkeley (sistemas operativos), y era una persona realmente inteligente, humilde y buena.
Parecía claro que iba a hacer grandes cosas en el futuro; esto es terrible.
Veo comentarios bastante fríos en este hilo.
Suchir tenía apenas 26 años y solo habían pasado 3 años desde que se graduó de Berkeley. Su sitio personal es https://suchir.net/.
Me parece bastante valiente que alguien que se graduó hace apenas unos años se haya enfrentado a lo que se considera una injusticia cometida por una de las empresas más grandes del mundo. No sé cuánta gente en la misma situación haría algo así.
Me duele por su familia. Claramente era un ingeniero talentoso, y su historial de premios en programación competitiva en LinkedIn también es impresionante. Me imagino que también tenía cuenta en HN.
Antes de escribir sobre la definición de denunciante interno o teorías de asesinato, ojalá se tomen un momento para pensar si, en caso de que ustedes o un amigo estuvieran en la misma situación, querrían que se publicaran cosas así.
Si me hubiera quitado la vida en silencio, querría que todo pasara en silencio, pero solo con el artículo no queda claro qué tan central era esta persona en el litigio que se avecinaba.
Hay una frase que dice: “Se esperaba que la información que tenía desempeñara un papel clave en la demanda contra la empresa con sede en San Francisco”.
Es realmente lamentable que eso haya terminado siendo su legado público. Sin duda era una persona sobresaliente y, si hubiera vivido unas décadas más, habría ayudado mucho a cambiar el mundo para mejor.
Dicho eso, la teoría del asesinato es literalmente solo una teoría y, en sentido estricto, incluso llamarla “teoría” es una expresión demasiado fuerte. En la práctica está al nivel de rumores de segunda mano, y como no hay ningún hilo del que tirar, esa dirección parece poco productiva.
En cualquier foro de internet siempre hay algunos comentarios de mal gusto, pero esos ya quedaron relegados abajo.
Que descanse en paz.
La expresión “denunciante interno” aquí me confunde un poco. ¿Realmente reveló algo que no fuera público?
Él no estaba de acuerdo con si esto calificaba como “uso justo”, y parece que recibió atención porque era alguien de dentro de la empresa. Los hechos en sí ya se conocían, y también se sabía que OpenAI entrenó con datos de texto con copyright disponibles públicamente. Creo que se le podría llamar más bien opositor o crítico interno.
Es muy probable que también tuviera comunicaciones internas sobre la legalidad de su trabajo, y estaba planteando públicamente esa cuestión a sus superiores.
http://suchir.net/fair_use.html
Un texto de Suchir Balaji: cuándo la IA generativa entra dentro del uso justo
Explica que en el artículo de NYT trató el uso justo y la IA generativa, y que en una entrada de blog (https://suchir.net/fair_use.html) escribió en detalle por qué cree que, para muchos productos de IA generativa, el “uso justo” difícilmente sea una defensa convincente.
Dice que trabajó casi 4 años en OpenAI, de los cuales el último año y medio participó en ChatGPT, y que al principio no sabía mucho sobre copyright y uso justo, pero que empezó a interesarse al ver las demandas contra empresas de IA generativa. Tras investigar más, concluyó que la defensa de uso justo es bastante difícil para muchos productos de IA generativa por la razón básica de que pueden crear sustitutos que compiten con los datos de entrenamiento.
Aunque no es abogado, considera importante que incluso quienes no son juristas entiendan el texto de la ley y por qué existe, y también dijo que no quería que este tema se leyera como una crítica solo a ChatGPT u OpenAI. Subrayó que los investigadores de machine learning deberían aprender más sobre copyright, y que incluso precedentes citados con frecuencia, como Google Books, podrían no ser tan favorables como parecen a simple vista.
Para no ser abogado, parecía tener mucha perspicacia. Que descanse en paz.
Primero, los autores en realidad no obtienen ingresos por regalías de copyright y terminan dependiendo de ingresos publicitarios, lo que lleva a una degradación del servicio. Si artistas, redactores y músicos tuvieran que vivir solo de regalías de copyright, se morirían de hambre.
Segundo, el copyright se está concentrando cada vez más en manos de unas pocas empresas y no aporta grandes beneficios a los autores reales ni a los lectores.
Tercero, el competidor de las nuevas obras creativas no es en realidad la IA, sino las obras creativas antiguas acumuladas en la web durante los últimos 25 años.
No creo que lo que necesitemos sea un copyright más restrictivo. La gente ya pasó del consumo pasivo a la interacción, y prefiere los juegos, las redes sociales y los motores de búsqueda por encima de la TV, la prensa y la radio. Es una corriente creada por internet y no se puede revertir.
Ahora tenemos Wikipedia, GitHub, Linux, código abierto, dominio público, publicaciones científicas abiertas y un entorno no restrictivo para compartir y comentar.
Si llevamos la protección del copyright al extremo, se termina concluyendo que habría que proteger no solo la expresión, sino también las ideas abstractas, porque la IA generativa puede esquivar fácilmente la expresión. Pero impedir la reutilización de abstracciones sería desastroso para la creación. Creo que el copyright ya es, en la práctica, una institución moribunda.
La policía ahora dice que se concluyó que fue un suicidio
https://sfstandard.com/2024/12/13/key-openai-whistleblower-d...
https://www.forbes.com/sites/cyrusfarivar/2024/12/13/openai-...
https://www.huffpost.com/entry/openai-whistleblower-dead_n_6...
Suchir era una persona con principios, y es muy probable que por esa postura haya tenido que renunciar a sus opciones de OpenAI. Se ha reportado que el acuerdo de salida de OpenAI era muy restrictivo [1]
“Impide que los exempleados critiquen de por vida a su antiguo empleador. Incluso reconocer que existe un NDA es una violación
Si un empleado saliente se niega a firmar los documentos o los infringe, puede perder todo el capital ya devengado que obtuvo mientras trabajaba en la empresa, cuyo valor probablemente sea de millones de dólares”
[1] https://www.vox.com/future-perfect/2024/5/17/24158478/openai...
Hasta da la impresión de que consideran que revelar la causa de muerte de un denunciante interno sería algo contagioso
Es realmente ridículo que OpenAI le tenga tanto miedo a las críticas. Se comportan como un niño que hace berrinche cuando las cosas no salen a su manera, aunque hay que recordar constantemente que, al menos por edad, quienes hacen esto son adultos
No cancelará el capital ya devengado sin importar si el empleado firmó o no un acuerdo de salida o de no desprestigio
Los exempleados quedaron liberados de las obligaciones de no desprestigio
OpenAI informó a empleados actuales y anteriores que “nunca ha cancelado unidades ya devengadas y no lo hará en el futuro”
https://www.theregister.com/2024/05/24/openai_contract_staff...
https://www.bloomberg.com/news/articles/2024-05-24/openai-re...
Digo “daría risa” porque, aunque hay empresas que intentan imponer cláusulas pequeñas y luego terminan disculpándose, afirmar que alguien está atado de por vida ya es nivel comedia
Mis condolencias a su familia. Parece que era una persona muy considerada y con principios
Qué tristeza. Suchir fue a mi misma preparatoria, y ambos estudiamos en Berkeley. Claramente era muy inteligente, y siempre estuve seguro de que lograría algo grande o haría cosas interesantes
Si leer esto te resulta difícil, quiero decirte que no estás solo. Aunque ahora no se sienta así, el mundo sinceramente quiere que seas feliz
El camino está abierto: Old Path White Clouds [0], Opening the Heart of Compassion [1], Seeing That Frees [2]
[0] https://z-library.sk/book/1313569/e77753/old-path-white-clou...
[1] https://z-library.sk/book/26536611/711f2c/opening-the-heart-...
[2] https://z-library.sk/book/3313275/acb03c/seeing-that-frees-m...
Sus padres dudan de la conclusión de suicidio y están encargando una segunda autopsia independiente: https://sfist.com/2024/12/26/parents-of-openai-whistleblower...
Es realmente muy triste, y me duele por la familia y los amigos de Suchir
Como alguien que lleva más de 10 años trabajando en la industria tecnológica y que ha luchado con pensamientos suicidas, me pregunto si la cultura demente de la industria tecnológica del Bay Area habrá tenido algo que ver
No es solo la cultura extrema del hustle, sino también un optimismo tecnológico ingenuo que puede volver loca a una persona. Estás rodeado de gente que cree que está bien violar la ley, que explota a trabajadores de países en desarrollo para soporte técnico barato y aun así piensa que está cambiando el mundo vendiendo electrodomésticos inteligentes de cocina. Todo eso mientras pasan de largo junto a víctimas de sobredosis afuera de sus propios condominios
Esta forma de pensar está tan extendida que te hace dudar si el raro eres tú por tener empatía o sentido de justicia
No sé nada en particular, pero pasar de ser un estudiante claramente brillante de Berkeley a una startup despiadada como OpenAI debió de haber sido impactante. Es como llegar a la meta por la que trabajaste toda tu vida y descubrir que lo que haces se aparta por completo de tu moral y tus valores
Eso ocurre incluso si el empleador que causó el problema no toma represalias activamente; y si además hay represalias como listas negras compartidas entre departamentos de RR. HH. de empresas del mismo sector, el panorama se vuelve todavía más oscuro
El síndrome del impostor es alto entre ingenieros de todos los niveles de carrera y capacidad. Está la presión propia de la ingeniería, y a eso se suman otras razones por las que la gente siente estrés o presión, más los factores amplificadores propios del Bay Area
Te sorprendería saber cuántas personas brillantes y capaces han colapsado. Si alguien se siente solo, espero que no lo haga. Aunque todos a tu alrededor parezcan felices y seguros de sí mismos, puedo asegurarte que mucha más gente de la que crees la está pasando mal
Una de ellas ahora está siendo acusada por la FTC de infracciones a gran escala. Odiaba de verdad esa mentalidad inmoral de querer ganar sacrificándolo todo, desde el bienestar de los empleados hasta actos abiertamente ilegales contra los clientes