Google retira su promesa de no usar IA para armas ni vigilancia

• Contexto del cambio en los principios de IA de Google

  • Desapareció la promesa que figuraba en los principios de IA anteriores de no usar IA para armas ni con fines de vigilancia
  • Demis Hassabis y James Manyika de Google anunciaron el cambio de política, citando la expansión de la IA y las necesidades de seguridad nacional como motivos
  • Enfatizaron que “los países democráticos deben liderar el desarrollo de la IA y colaborar con los gobiernos y el ámbito de la seguridad”

• Puntos principales de la nueva política de IA

  • Se mantiene la redacción de que la tecnología se usará de acuerdo con el derecho internacional y los principios de derechos humanos
  • Se agregó un punto que indica que “se realizan pruebas para mitigar daños imprevistos”
  • En concreto, se eliminó la cláusula de exclusión sobre el uso en armas o vigilancia
  • Un vocero de Google se negó a responder preguntas específicas sobre el cambio en la política sobre armas y vigilancia

• La oposición interna pasada en Google y el contrato Maven

  • En 2018, hubo una fuerte reacción de empleados mientras la empresa trabajaba con el Departamento de Defensa de EE. UU. en el proyecto Maven de análisis de video de drones
  • Los empleados sostenían que “Google no debe involucrarse en el negocio de la guerra”
  • La empresa no renovó el contrato de Maven y luego publicó sus principios de IA, incluyendo la promesa de prohibir el uso para armas y vigilancia
  • Con esta actualización de la política, esa promesa explícita fue eliminada, lo que vuelve a poner en foco la anterior reacción de los empleados

• Impacto en la industria

  • La colaboración de Silicon Valley con el sector militar y de defensa se está expandiendo rápidamente
  • Existe la evaluación de que la oposición de los empleados de Google a Maven marcó un gran punto de inflexión en la industria
  • Algunos análisis sostienen que este cambio de política aumenta la posibilidad de que la IA de Google vuelva a aplicarse en los ámbitos militar y de vigilancia

[GN⁺]

Opiniones de Hacker News

• Se debate sobre los riesgos de los drones y las armas con IA. Existen diversas posibilidades de abuso, como asesinatos remotos, caos político y selección de objetivos por parte de dictadores.

  • Muchos países terminarán teniendo esta tecnología, y ya hay muchos modelos de IA disponibles públicamente.
  • La comunidad tecnológica debe pensar en formas de abordar este problema.
  • Se plantean preguntas importantes sobre contramedidas, métodos de vigilancia y cómo los ciudadanos pueden auditar el uso de armas por parte de sus gobiernos.

• Las grandes empresas como Google no son esencialmente buenas ni morales; esa imagen es solo una estrategia de marketing.

• Se reconoce que el mundo avanza hacia su autodestrucción y que existen desarrollos aterradores que ocurren de manera no pública.

• La mayoría de las empresas privadas usarán la tecnología con fines de lucro y romperán sus promesas anteriores.

• Resulta interesante cómo las empresas cambian según la situación política.

  • Google está cuidando su imagen como reacción a los anuncios sobre IA.

• Se compara la firma de contratos de OpenAI con el DoD y la conducta de Google, y se sostiene que una postura franca es más honesta.

• Se afirma que cierto país necesita armas para el control de multitudes.

  • Se critica que las crisis internacionales han sido iniciadas principalmente por Estados Unidos y Rusia.

• En medio del caos mundial, se considera positivo que empresas como Google, OpenAI y Microsoft participen en proyectos de defensa.

• Se expresa preocupación por la capacidad de los LLMs para ampliar el análisis de texto en agencias de inteligencia.