Declaración de Sam Altman sobre el incidente del cóctel molotov
(blog.samaltman.com)- Tras el incidente en el que arrojaron un cóctel molotov a su casa, Sam Altman publicó una foto de su familia y difundió un mensaje para frenar la escalada de la violencia
- Señaló que el incidente ocurrió en un contexto de cobertura incendiaria y ansiedad en torno a la IA dirigidas hacia él, y enfatizó el poder y la responsabilidad del lenguaje
- Definió la IA como una herramienta para expandir el potencial humano y sostuvo que la sociedad debe establecer políticas, sistemas de seguridad y control democrático para responder a ello
- Al repasar los 10 años de OpenAI, reconoció tanto logros como errores y mencionó que, de ahora en adelante, se necesita una operación predecible y estable
- Describió los conflictos en la industria de la IA diciendo que “el poder de la AGI vuelve irracionales a las personas” y pidió resolverlos mediante diálogo y procesos democráticos, no violencia
Resumen del incidente
- Tras el incidente en el que arrojaron un cóctel molotov a su casa, Sam Altman publicó una foto de su familia y compartió un mensaje pidiendo frenar la violencia
- El hecho ocurrió alrededor de las 3:45 a. m., y nadie resultó herido porque el cóctel molotov rebotó en la casa
- Explicó que “las imágenes tienen poder” y que publicar la foto familiar era una acción para prevenir un siguiente ataque
- Mencionó que el hecho ocurrió en un momento en que habían aumentado los artículos incendiarios en su contra y la ansiedad social respecto a la IA
- Dijo que “las palabras también tienen poder” y expresó una reflexión autocrítica por haber subestimado la influencia del lenguaje y las narrativas
Creencias y valores
- Define como deber moral la prosperidad de todas las personas y el avance de la ciencia y la tecnología
- Afirma que la IA es la herramienta más poderosa para expandir las capacidades y el potencial humanos, y que la humanidad logrará cosas extraordinarias con ella
- La humanidad necesita IA a gran escala y debe encontrar la manera de hacerla realidad
-
El miedo y la ansiedad frente a la IA son legítimos
- La sociedad debe establecer políticas y sistemas de seguridad para responder a nuevas amenazas
- Hace falta fortalecer la resiliencia social para superar la transición económica
- Enfatiza la democratización de la IA y que el poder no debe concentrarse en unos pocos
- El control del futuro debe pertenecer a todas las personas e instituciones, y la toma de decisiones colectiva es indispensable
- Señala explícitamente que no es correcto que algunos laboratorios de IA decidan el futuro de la humanidad
- Destaca la importancia de la adaptabilidad
- Dado el rápido avance tecnológico, hay que corregir creencias erróneas y cambiar de enfoque con flexibilidad
- Señala que nadie entiende todavía el impacto de la superinteligencia, pero que su escala será enorme
Reflexión personal
- Al mirar atrás a los primeros 10 años de OpenAI, reconoce tanto orgullo como errores
- Menciona con orgullo la decisión de rechazar la exigencia de control unilateral en las negociaciones con Elon Musk
- Evalúa que esa decisión llevó a la continuidad de OpenAI y a sus logros posteriores
- Reconoce que su tendencia a evitar el conflicto causó un gran sufrimiento tanto a él como a la empresa
- Señala que manejó mal el choque con la junta anterior, lo que provocó confusión
- Se describe como “un ser humano imperfecto en una situación compleja”, que intenta mejorar un poco cada año
- Reconoce que OpenAI ya no es una startup, sino una plataforma importante
- Enfatiza que, a partir de ahora, se necesita una operación predecible y estable
- Considera que OpenAI ha hecho realidad una misión que parecía imposible
- Logró desarrollar IA poderosa, construir infraestructura a gran escala, completar la comercialización y el modelo de negocio, y ofrecer servicios seguros y robustos a gran escala
- Afirma que es “una de las muchas empresas que dijeron que cambiarían el mundo y realmente lo hicieron”
Opinión sobre la industria
- Explica la causa de los conflictos y la competencia dramáticos recientes en la industria de la IA con la idea de que “quien ha visto la AGI ya no puede volver a ser como antes”
- Dice que la AGI, como “el anillo del poder”, tiene la fuerza de volver irracionales a las personas
- Como solución propone el intercambio amplio de la tecnología y el control democrático
- La clave es fortalecer las capacidades individuales y mantener la primacía de los sistemas democráticos
- Enfatiza que los procesos democráticos deben ser más poderosos que las empresas
- Las leyes y las normas cambiarán, pero deben cambiar dentro del proceso democrático
- Las empresas pueden hacer oír su voz, pero no deben concentrar todo el poder
- Evalúa que las críticas a la industria de la IA surgen de preocupaciones serias por el enorme impacto de la tecnología
- Da la bienvenida a la crítica y al debate de buena fe, y expresa también empatía con el sentimiento antitecnología
- Sin embargo, en términos generales, está convencido de que el desarrollo tecnológico puede llevar el futuro de la humanidad en una mejor dirección
- En medio de la intensificación del debate, pide bajar el tono de la retórica y las acciones, y reducir la violencia
- Menciona que “ya sea en sentido figurado o literal, debe haber menos explosiones en menos hogares”
1 comentarios
Opiniones de Hacker News
Es válido criticar a Sam Altman o a otros líderes tecnológicos, pero no hay absolutamente ninguna razón para ejercer violencia o amenazas contra él o su familia
Se plantea la pregunta de si casos como el de la familia Sackler, que destruyó la vida de tantísimas personas, representan una maldad que merezca violencia, o si la forma corporativa absorbe toda la responsabilidad
Se considera que, en el capitalismo moderno, la estructura de LLC/Corporation está llegando a un límite moral al funcionar como una especie de indulgencia
Si te involucras en actos letales, es natural que haya una reacción en contra
Muchas veces se discrepa con Sam Altman, pero un ataque físico jamás puede justificarse
En especial, atacar a la familia es algo inaceptable
Con el desarrollo de la sociedad en los últimos diez y tantos años, se siente que la tendencia a monetizarlo todo ha aumentado el escepticismo de la gente
Por eso, incluso cuando a alguien le pasa algo malo, hasta la reacción pública frente a eso termina siendo cuestionada como si fuera “marketing o sinceridad”
Como en la “alegoría de la cueva” de Platón, recuerda la advertencia de no juzgar solo por la superficie de la información
Después de casos como Snowden, Epstein y Abu Ghraib, la gente ya no acepta sin más la palabra de quienes están en el poder
Es cierto que Sam Altman está en una posición peligrosa, pero eso no justifica el ataque
Aun así, dentro de esta cultura de la desconfianza, las conjeturas y sospechas seguirán apareciendo
Este tipo de incidentes son terribles, pero no sorprendentes
Cada trimestre siguen los despidos, y no se oye más que decir que la IA va a reemplazar empleos
Ya es difícil costear incluso la vida básica que disfrutó la generación de nuestros padres, y aun así se espera que uno celebre el avance tecnológico
Sam es percibido por el público como ‘la cara de la IA que amenaza nuestro sustento’
Algunas personas que escuchan eso podrían pensar que ya no tienen nada que perder
Sorprende la reacción extrema hacia Sam Altman
Se piensa que no es un buen administrador de la tecnología, pero la violencia nunca puede justificarse
También se considera inapropiado que vincule los artículos negativos con este incidente
A menudo dirige la conversación con una narrativa apocalíptica, y eso influye tanto en inversionistas como en personas extremistas
Se le critica que, al proporcionar IA para sistemas letales mediante contratos con el Departamento de Defensa de EE. UU., no tiene autoridad moral para condenar la violencia
Este incidente es terrible, pero se siente problemático que Sam lo use para atacar la cobertura de los medios
Siempre da la impresión de querer construir una imagen de víctima para manipular la opinión pública
Puede que este texto no detenga a los locos, pero parece tener la intención de provocar la compasión de la gente
En una sociedad bárbara donde la violencia se ha vuelto cotidiana, la protesta pacífica deja de tener sentido
Esto hace recordar una experiencia de desalojo de una vivienda en renta vivida el año pasado
El nuevo arrendador al principio fue amable, pero dos días después dio aviso de desalojo
Claro que dio rabia, pero no hubo una reacción violenta
La frase “si ves la AGI, ya no podrás hacer como que no la viste” suena como una metáfora del anillo en ‘El Señor de los Anillos’
Pero se considera que esa comparación está mal
El anillo necesariamente debe ser destruido, y hasta entonces alguien debe poseerlo
Sin esas dos condiciones, la analogía no se sostiene
Ya cansa discutir la destrucción de la humanidad o el dominio de la IA con analogías tan flojas
Da la impresión de que Sam nos está lanzando cócteles molotov a todos
Esta vez quizá logremos esquivarlo por suerte, pero la próxima vez puede que no