OpenAI elimina la prohibición de usar ChatGPT con fines militares y de guerra

OpenAI elimina la cláusula que prohibía el uso con fines militares y de guerra

• Esta semana, OpenAI eliminó discretamente de sus políticas de uso el lenguaje que prohibía explícitamente el uso de su tecnología con fines militares.
• Hasta el 10 de enero, la página de políticas de uso de OpenAI indicaba explícitamente la prohibición de actividades que pudieran aumentar el daño físico, incluyendo el "desarrollo de armas" y los usos "militares y de guerra".
• La nueva política mantiene la directriz de "no usar el servicio para dañarte a ti mismo o a otros", pero desaparece la prohibición total del uso para fines "militares y de guerra".

Contexto del cambio de política

• OpenAI realizó una revisión amplia de su página de políticas para hacerla "más clara y fácil de leer".
• Un vocero de OpenAI explicó que la nueva política enfatiza el cumplimiento legal y que el principio de "no dañar a otros" puede aplicarse de forma amplia.
• Expertos señalan que la nueva política evita responder preguntas sobre contratos militares y operaciones de guerra, y que se enfoca especialmente en las armas.

Preocupaciones sobre el uso militar y de guerra

• Expertos advierten que, debido a los sesgos y la falta de precisión de los modelos de lenguaje grandes (Large Language Models, LLMs), su uso en conflictos militares podría derivar en operaciones inexactas y sesgadas.
• Aunque es poco probable que las herramientas de OpenAI se usen para causar muertes de forma directa, sí podrían utilizarse en diversas tareas de apoyo a las fuerzas armadas.
• Dado que el objetivo principal de las instituciones militares es mantener su capacidad letal, ayudar a esas instituciones, aunque no sea de forma directamente violenta, sigue pudiendo ser problemático.
• La estrecha alianza entre OpenAI y Microsoft deja abierta la posibilidad de que OpenAI expanda su negocio hacia fines militares.

Impacto real del cambio de política

• Las consecuencias reales de este cambio de política aún no están claras.
• OpenAI no ha expresado con claridad cómo hará cumplir la prohibición sobre usos militares y de guerra.
• Expertos consideran que OpenAI está debilitando su postura respecto a hacer negocios con instituciones militares.

Uso de tecnología de IA por parte de instituciones militares

• Fuerzas armadas de distintos países buscan obtener ventaja mediante tecnologías de aprendizaje automático, y el Pentágono sigue explorando el uso de ChatGPT y otros LLMs.
• Los modelos de lenguaje grandes se entrenan con grandes volúmenes de libros, artículos y datos web para imitar respuestas humanas ante los prompts de los usuarios.

Opinión de GN⁺:

• El cambio de política de OpenAI podría aumentar la posibilidad de que la tecnología de inteligencia artificial se use con fines militares, lo que puede detonar discusiones importantes sobre ética y seguridad tecnológica.
• Este cambio muestra cómo las empresas tecnológicas intentan equilibrar sus principios con las oportunidades de mercado en torno a contratos de defensa.
• La eliminación de una prohibición explícita sobre el uso de IA con fines militares y de guerra podría servir como punto de partida para una discusión social más amplia sobre la seguridad y el uso ético de esta tecnología.

[GN⁺]

Opiniones en Hacker News

• El crecimiento de OpenAI y el cambio de principios

  • Resulta llamativo que OpenAI haya abandonado sus principios fundacionales y esté siguiendo la estrategia de Google.
  • A Google le tomó 17 años eliminar "Don't be Evil", pero OpenAI creció rápido y cambió de forma repentina.
  • Parece que OpenAI será la empresa o la tecnología que reemplace a Google, de forma irónica, igual que Google reemplazó a Microsoft.

• Posible uso militar de los modelos GPT

  • Los modelos GPT tienen una gran oportunidad de usarse de forma común en bases de datos militares y trabajos de investigación.
  • Prohibir el uso militar podría impedir, por ejemplo, que un cuerpo militar los use para mejorar la preparación ante desastres.
  • La mayoría de las grandes empresas termina haciendo este tipo de concesiones, porque el Pentágono tiene enormes cantidades de dinero.

• Desarrollo de productos militares por empresas industriales

  • Es probable que muchas empresas industriales también desarrollen productos militares.
  • Por ejemplo, podrían querer asistencia de un LLM en una herramienta CAD para desarrollar motores de barcos que podrían usarse con fines militares.
  • La infraestructura y el software a menudo se comparten o se desarrollan para poder aplicarse en toda la empresa.

• Comprensión de la nueva política

  • Se preguntan si alguien realmente leyó la nueva política.
  • Existe una política más amplia sobre armas y sobre causar daño.

• IA y poder militar

  • La IA avanzada es esencial para el poder militar avanzado.
  • Estos problemas no son problemas técnicos, sino problemas humanos.
  • Los humanos son primates jerárquicos que compiten por territorio y recursos.

• Diferencia de políticas sobre desarrollo de armas y actividad militar

  • Hay una diferencia clara entre ambas políticas: la primera prohíbe el desarrollo de armas y la actividad militar, mientras que la segunda enfatiza el cumplimiento de la ley y la flexibilidad.
  • El posible impacto en la seguridad de la IA es importante.

• Limitaciones de los LLM

  • Es una idea terrible que ChatGPT no pueda dejar de alucinar de forma consistente en tareas básicas y que en realidad no entienda.
  • El campo de IA/ML en sí no es una pérdida de tiempo, pero los LLM son en su mayoría puro brillo y casi no tienen valor real.

• La inevitabilidad de la decisión de OpenAI

  • Era inevitable que OpenAI no fuera a renunciar a ese tipo de dinero.
  • Parece extraño preocuparse por que el producto se use de otras maneras.

• Silicon Valley y el complejo militar-industrial

  • Silicon Valley es producto del complejo militar-industrial.

• Diferencia de perspectiva entre civiles y militares sobre el desarrollo de armas

  • Para los civiles, desarrollar armas es peligroso en la mayoría de los casos, pero para los militares, lo peligroso es no desarrollar mejores armas más rápido que el enemigo.