Snowden: nunca confíen en OpenAI ni en sus productos

 (twitter.com/Snowden)
1 puntos por GN⁺ 2024-06-16 | 1 comentarios | Compartir por WhatsApp
  • Snowden advirtió públicamente que nunca confíen en @OpenAI ni en productos como ChatGPT
  • El detonante directo de la advertencia fue la decisión de @OpenAI de nombrar al director de la @NSA/CSS en su junta directiva
  • Afirmó que solo hay “una única razón” para ese nombramiento, aunque no explica cuál sería dentro de la publicación
  • Criticó con dureza la decisión como una traición deliberada y calculada a los derechos de todas las personas del mundo
  • La publicación se parece más a una breve advertencia y no incluye fundamentos adicionales, ejemplos ni medidas de respuesta

Contenido de la advertencia de Snowden

  • Snowden dice que no se debe confiar en @OpenAI ni en sus productos
    • Incluye a ChatGPT como ejemplo
  • La decisión cuestionada es que @OpenAI nombró al director de la @NSA/CSS en su junta directiva
  • Considera que ese nombramiento fue una traición deliberada a los derechos de todas las personas del mundo
  • La publicación termina con “You have been warned”, en un formato de advertencia directa al lector

Lecturas relacionadas

1 comentarios

 
GN⁺ 2024-06-16
Opiniones de Hacker News

  • Puede que uno no esté de acuerdo con Snowden, como con Stallman, y puede que considere que su postura es extrema, pero es el tipo de persona a la que sería tonto ignorar por completo.
    Ahora mismo, mientras la sociedad y los legisladores duermen, hay una fiebre del oro para eludir los derechos de propiedad intelectual y usar las obras de miles de millones de creadores sin atribución ni compensación.

    • Richard Stallman nunca ha hecho nada que rompa la creencia de que actúa por principios arraigados en los derechos de privacidad y la libertad individual.
      Los verdaderos motivos de Snowden son mucho menos seguros.

  • No necesito que Snowden me diga que no confíe en OpenAI.
    Cuando conocí la empresa por primera vez, con solo leer unas cuantas palabras sentí como si hubiera entrado a una agencia de autos usados dirigida por alguien que me hacía bullying en la preparatoria.

    • Aun así, mucha gente sí necesita que alguien se lo diga.
      ¿Crees que sería mejor no decir nada?

  • Por supuesto que hay razones legítimas para que Nakasone entre al consejo.
    OpenAI es muy sensible a la regulación, y por eso tiene un gran equipo de lobby para llevar al gobierno de EE. UU. hacia su postura. Él aporta (a) contactos políticos y (b) confianza en que ningún avance amenazará la seguridad nacional de EE. UU. Es algo bastante común en los consejos corporativos.
    En la práctica, lo que tiene un impacto mucho mayor en el mundo no es tanto lo que la IA puede hacer realmente, sino lo que se percibe que la IA puede hacer.

    • Me recuerda a cuando personas como Henry Kissinger estuvieron en el consejo de Theranos.
      ¿Cómo saber si estos puestos en consejos realmente significan algo, o si son puestos de sueldo gratis donde todos solo ponen el sello de aprobación?
    • Exacto.
      Además, no solo fue director de la NSA, también fue comandante del U.S. Cyber Command, una experiencia muy relevante tanto para la postura de seguridad y protección de OpenAI como para vender a clientes gubernamentales y de defensa.
    • Si quieren venderle al gobierno, esto también es una buena idea.
    • En la interpretación más benévola, sus contactos podrían ayudar a impedir que el gobierno imponga prohibiciones indiscriminadas sobre la IA en general sin basarse en hechos.
      Pero creo que en la cabeza de la mayoría de la gente esto se va a recibir de forma muy negativa.
    • ¿Puedes explicar más la parte de que “lo que se percibe que la IA puede hacer” tiene más impacto que sus capacidades reales?
      ¿Qué impacto está teniendo esa percepción, y qué impacto está teniendo la IA real?

  • En el mismo tuit dice: “Esto es una traición deliberada y calculada a los derechos de todas las personas en la Tierra”.
    A mí me suena un poco a exageración.

    • No conozco los detalles de este asunto en particular, pero la exageración es bastante común en Snowden.
      No lo culpo demasiado. Ha pasado por cosas infernales. Pero no creo que sus declaraciones en Twitter sean precisamente una formulación neutral.
    • Estoy de acuerdo.
      El lenguaje alarmista puede ayudar a impulsar una causa, pero hay que usarlo con moderación para no parecerse al pastorcito mentiroso.

  • Viendo esta situación, la decisión de Apple de integrarse con ChatGPT de OpenAI se ve peor.
    Aunque haya promesas de privacidad de no revelar mucha información y de preguntarle explícitamente al usuario, estas cosas que han pasado en OpenAI y otros incidentes deberían generar serias preocupaciones en la dirección de Apple.
    Los altos ejecutivos de Apple dijeron que empezaron con ChatGPT porque era el mejor. Tal vez esta alianza ni siquiera siga vigente para estas fechas el próximo año.

    • Me recuerda cuando Steve estaba entusiasmado por integrar Facebook y Twitter como funciones de primera clase en iOS.
      Esta situación se siente demasiado parecida a ese momento.
      Y entonces uno recuerda lo pésimo que es Siri. OpenAI de pronto hizo que Apple quedara en evidencia, y Apple necesita esto desesperadamente para parecer competitiva en este campo. Es algo raro y triste.
    • Sonó como si lo hubieran hecho flexible para poder conectar otros modelos.
      Si hay más opciones, tal vez permitan que el usuario elija el modelo.
    • También podrían usar Mixtral, Minstral, XWin, Mythomax, Claude 3 Haiku 196M.
      Todos son excelentes y la mayoría, o todos, son mejores que Siri.
      Creo que lo mejor que Apple puede hacer es dejar que el usuario elija qué IA invocar. Podrían llamarlo AI store, como iTunes o App Store. Así los proveedores de IA podrían competir en privacidad y rendimiento. Eso sí, para que el usuario pueda decidir qué vale la pena elegir, se necesitarían muchas funciones de comparación.

  • Fuente: The Verge
    https://www.theverge.com/2024/6/13/24178079/openai-board-pau...
    https://news.ycombinator.com/item?id=40680962 - Exjefe de la NSA se une al consejo de OpenAI

  • Les hice muchísimas preguntas a los chatbots sobre muchos temas, y demostraron varias veces que valen la pena.
    Aun así, definitivamente no confío plenamente en ellos y me mantengo alerta; tampoco dudo mucho de que me estén vigilando en detalle. Solo que me cuesta encontrar un escenario en el que eso se use en mi contra.
    Estaría dispuesto a pagar más por una mejor privacidad y también me interesa alojarlo por mi cuenta. Pero, entre mis 99 problemas, este está bastante al final.
    Hace tiempo le envié saliva a 23andMe. Parte de esos datos fue robada, y probablemente yo esté en alguna lista de judíos asquenazíes que se vende por ahí. Es desagradable. Ahora mismo no se me ocurre una situación en la que la vigilancia de los chatbots sea un problema, pero quizá solo me falta imaginación.

    • Si tus amigos y los amigos de tus amigos dicen todos que el cielo es morado, ¿serías lo bastante audaz como para afirmar que es azul, aunque eso contradiga lo que observas?
      Vamos a quedar sumergidos en retroalimentación de IA, y todos se verán influidos por esos consejos. Prácticamente desaparecerán las “fuentes” al estilo de que Google sabe que leo basura porque me manda a BuzzFeed. Todo se revestirá de una apariencia de autoridad solo porque ChatGPT lo dijo. Este producto es confianza. ¿Le harías la misma pregunta a un matón malintencionado y le revelarías detalles privados? Seguramente no.
      Aunque sientas que desconfías todo lo que quieres, el flujo de consejos de la IA es como el agua y nosotros somos como peces. Ya nos está influyendo, y si no sabes cómo, deberías mirar con más atención.
    • Puede ser un tema un poco distinto, pero el verdadero problema de servicios como 23andMe no es solo que tengan información de ADN y rasgos que no se puede revertir.
      Ahora también tienen información de ADN y rasgos de una cantidad bastante grande de parientes, hacia arriba y hacia abajo del árbol genealógico. Usar un servicio así, en esencia, es vender a tu familia, y ellos no tienen opción.
    • Es muy probable que OpenAI ofrezca en el futuro algo más que chatbots.
      Incluso ahora ya se pueden subir archivos para que los analice.
      No creo que sea casualidad que Microsoft impulse Windows Recall para consumidores, quiera mantener un índice permanente de archivos eliminados, promueva OneDrive como ubicación de almacenamiento predeterminada para clientes empresariales de O365 y esté invirtiendo miles de millones de dólares en OAI.

  • Para quienes tienen bloqueado Twitter, aquí está citado lo que parece ser el resto de los tuits.
    https://fortune.com/2024/06/14/edward-snowden-eviscerates-op...

    • No es que tenga Twitter bloqueado, pero no puedo ver nada ahí.
      Como el 80% de las veces solo aparece un error genérico y “inténtalo de nuevo”.
    • Nota: esa página de “artículo” muestra una advertencia de que te lleva a x.com.
      Ya es hora de agregar un elemento a la lista de filtros.
      Hice clic en el enlace para ver qué nueva pantalla rota mostraría ahora en lugar del tuit. Curiosamente, el enlace del artículo funciona. Para mí, eso no pasaba desde hacía mucho tiempo.

  • Parece bastante evidente que existe alguna forma de cooperación entre OpenAI y el gobierno.
    Pero ¿por qué eso podría ser algo tan dramáticamente malo?

    • Tal vez porque su historial no es precisamente transparente, hehe.

  • Otro más que desaparece.
    Lo agregué a la lista, cancelé la cuenta paga, borré los datos y también eliminé la cuenta.
    Cada vez es más fácil dar un paso atrás respecto de un servicio y pensar si es indispensable. En principio no lo es, y en cuanto se convierte en una relación abusiva, se elimina.
    OpenAI no era un buen perro.