Todos los comentarios: este hilo tiene más de 1800 comentarios, y si quieres leerlos todos, puedes hacer clic en "More" al final de cada página o usar el enlace proporcionado.
Si OpenAI sigue siendo una organización sin fines de lucro, cualquier miembro de la junta de Microsoft tendría la obligación legal de promover la misión de la organización benéfica, no las necesidades comerciales de Microsoft, lo que podría crear un conflicto de interés evidente. Es de esperarse que al IRS no le agrade esa estructura.
Con el regreso de Sam Altman como CEO, esto podría ser evidencia de que la junta de OpenAI perdió su capacidad de actuar. La junta ya no podrá ejercer su derecho a despedir a Sam, y ahora Sam puede actuar como quiera. No busco culpar a Sam ni asumir mala fe, pero existe la preocupación de que pueda mentir o comportarse de manera inapropiada.
Es un caso que recuerda a Coca-Cola y New Coke, donde al final la Coca-Cola original terminó siendo más popular. Los consumidores exigieron con fuerza recuperar el sabor conocido, y algunos periodistas especularon que todo esto había sido una estrategia publicitaria.
En el enfrentamiento entre un desarrollador y un hombre de negocios, ganó el hombre de negocios, y cuando cientos de desarrolladores amenazaron con renunciar, la junta cedió, mostrando que los desarrolladores realmente tenían poder.
Ilya dejó la junta, pero Adam sigue ahí. A algunos esto puede hacerles levantar la ceja, pero con el regreso de Sam habrá cambios importantes en OpenAI, y no creo que a largo plazo OpenAI se convierta en una gran corporación como Facebook o Uber. Existe la percepción de que se perdió la confianza.
Hubo un conflicto entre el equipo de comercialización rápida y el equipo que quería apegarse a los principios, y eso ya aparecía en textos desde antes de GPT-3. Solo una minoría del público se preocupa por la seguridad de la IA; el resto está satisfecho con que ChatGPT les ayude con la tarea. Uno puede burlarse de la ignorancia de la junta, pero si alguien se toma en serio la amenaza de una superinteligencia, vale la pena intentar entender sus acciones.
Personalmente no tomo tan en serio la amenaza relacionada con la seguridad de la IA, pero hace falta un esfuerzo por comprenderla. Ojalá nunca llegue el día en que el equipo de Helen diga: "era exactamente esto lo que tratábamos de impedir".
Había esperanza en un enfoque de seguridad de la IA desde la industria privada, pero ahora eso parece imposible, y el lento ritmo de la inversión estatal en investigación y desarrollo de IA hace que todos los enfoques de seguridad de la IA parezcan inviables. La investigación de seguridad sobre modelos de juguete seguirá avanzando, pero la industria considera que hay un límite a lo que se puede aprender sobre seguridad sin investigar modelos de frontera.
Altman sostenía que la estructura de gobernanza de OpenAI era el mecanismo que garantizaba la prioridad de la seguridad, pero los reportes internos de que la investigación en seguridad estaba siendo reasignada para mantener en funcionamiento ChatGPT generan preocupación. Al quedar claro que la junta tenía capacidad técnica, pero no suficiente poder para gestionar los intereses involucrados, no está claro si alguna organización que priorice la seguridad, incluida Anthropic, puede evitar la influencia aceleracionista de quienes la financian.
Paul Graham dijo: "cuando regreses en 5 años, Sam será el rey de esa isla".
Existe una narrativa de que muchos VC/Microsoft derrocaron la estructura de gobernanza de una organización sin fines de lucro por motivos de lucro, pero no creo que realmente haya sido así. La decisión se revirtió porque el 95% del personal se puso del lado de Sam en este asunto y la junta no explicó en absoluto su postura. Sam, el 95% del personal y todos los inversionistas se opusieron a la junta, y la junta tenía que perder aquí. Gobernaron solo para sí mismos. Al final salió un resultado justo y bueno, y sigo pensando que la estructura de gobernanza para resolver el problema de la AGI sigue siendo adecuada, pero esta junta en particular fue profundamente inadecuada.
1 comentarios
Opiniones en Hacker News