Google retira su promesa de no usar IA en armas y vigilancia
(washingtonpost.com)- Google cambió el martes sus lineamientos de ética de IA y eliminó su compromiso público de no aplicar IA en áreas de armas y vigilancia
- Los principios de IA de 2018 incluían una cláusula restrictiva que descartaba aplicaciones de IA de formas que “causen o puedan causar daño general”
- La sección “aplicaciones que no perseguiremos” del documento anterior establecía como categorías prohibidas las armas, la vigilancia, tecnologías con alto potencial de daño y casos de uso contrarios al derecho internacional y los principios de derechos humanos
- En una copia archivada en Internet Archive con fecha del jueves, esa sección de prohibiciones y sus 4 categorías aún aparecían
- Con este cambio, desaparece de los principios públicos de IA de Google el texto que excluía explícitamente ciertos usos de alto riesgo
La promesa de prohibición que desapareció de los principios de IA
- Google actualizó el martes sus lineamientos de ética de IA
- En los nuevos lineamientos se eliminó el texto anterior que prometía no aplicar tecnología de IA a armas o vigilancia
La cláusula restrictiva de la política de 2018
- En 2018, Google introdujo una política para limitar el alcance de aplicación de la IA
- La política de entonces incluía el compromiso de no aplicar IA de formas que “causen o puedan causar daño general”
La sección eliminada “aplicaciones que no perseguiremos”
- Los principios de IA anteriores incluían una sección llamada “Applications we will not pursue”
- En una copia archivada en Internet Archive con fecha del jueves, esta sección aún aparecía
- Esa sección contenía 4 categorías que Google afirmaba que no perseguiría
- Armas
- Vigilancia
- Tecnologías que “causen o puedan causar daño general”
- Casos de uso contrarios al derecho internacional y los principios de derechos humanos
Qué cambió en los principios públicos
- Antes del cambio, los principios de IA excluían explícitamente ciertos usos
- Después del cambio, los principios públicos ya no incluyen el texto que prometía no perseguir armas, vigilancia, daño general ni casos de uso que violen el derecho internacional y los principios de derechos humanos
1 comentarios
Opiniones de Hacker News
https://archive.ph/hfrKY
Al principio pensé que era el anuncio de un nuevo compromiso y pensé: “seguro lo van a olvidar en cuanto les convenga”, pero al leer el artículo me di cuenta: “ah, ya están en una situación conveniente”.
Google es una empresa enorme, y puede que las empresas enormes no sean “malvadas” por naturaleza, pero en el fondo no tienen interés en la bondad ni en la moral.
Si alguna vez parecen tenerlo, es simplemente marketing.
Puede haber una diferencia entre el mal al estilo de un policía corrupto y el mal al estilo de un asesino serial, pero la actitud de hacer cualquier cosa por dinero históricamente se ha clasificado como comportamiento malvado.
Eso no significa necesariamente que una sociedad sin grandes corporaciones sería mejor o peor, pero sería interesante un mundo donde, mientras más grande se vuelve una empresa, impuestos mucho más altos paga.
Además las seguían regalando como antes, y la calidad era decente.
Después, cuando el estado también prohibió esas, Walmart empezó, como relojito, a regalar bolsas de papel, que también estaban bastante bien.
Al ver eso entendí que las empresas no hacen nada ni siquiera un poco mejor para el medio ambiente a menos que se las obligue.
Creo que todo lo que hacen las empresas, incluso las cosas malas, es simplemente seguir el dinero, y que le corresponde al gobierno aportar la ética.
Si Google no lo hace, alguien más lo hará, así que la lógica termina siendo que es mejor que Google gane ese dinero para sus accionistas.
Técnicamente, accionistas activistas podrían juntarse y argumentar: “si no van tras este mercado, hay que reemplazar a la gerencia”.
Al final, es como si el precio de la acción fuera el único indicador que importa.
Las órdenes vienen de arriba y abajo se aceptan.
Por eso parecen malvadas por naturaleza.
Creo que la clave está en el anonimato que surge entre los números y la complejidad.
Miles de personas quieren que cada número suba, y ese deseo termina determinando decisiones como esta.
Si esto hubiera hecho caer las acciones de Google, Google no lo habría hecho.
Pero el comportamiento humano colectivo sostiene el precio de la acción.
Las grandes corporaciones son solo chivos expiatorios; en realidad se parecen más a una serie de reglas democráticas.
Las empresas son una ventana que nos permite ver la verdadera cara de la naturaleza humana.
Quiero enojarme por esto con una frustración algo ingenua de “¿por qué no podemos llevarnos bien todos?”.
Sé cómo quisiera que fuera el mundo, pero como especie, incluyéndome, no dejamos de decepcionar frente a una autodestrucción casi garantizada.
Quiero enojarme, pero al mismo tiempo tristemente termino aceptando la realidad de por qué nadie se sorprende.
En ese campo ya hay competidores que harán eso, y cosas peores.
Ya hemos visto avances bastante horribles en esa dirección y, pensándolo bien, esos son los que se consideró aceptable mostrar públicamente.
Las cosas realmente interesantes están ocurriendo fuera de las redes sociales, detrás de puertas cerradas.
Si se presentara un arma específica que solo pudiera contrarrestarse con armas de IA, podría cambiar de opinión, pero por ahora no puedo imaginar por qué un robot debería decidir a quién matar.
Cuando la gente dice que la IA es peligrosa o que podría causar el fin del mundo, por lo general no estoy de acuerdo, pero las armas de IA son claramente peligrosas y pueden salirse de control con facilidad.
Para empezar, su propósito es hacer que estén fuera de control.
El problema no es que las armas de IA sean “malvadas”, sino que la alineación de valores no es un problema resuelto, y que las armas de IA podrían matar a personas que no queremos que maten.
Las mentiras hacen girar al mundo, y es asqueroso.
Se mire como se mire, vivimos en un planeta con recursos escasos, y eso significa que hay competencia; la competencia genera innovación armamentística.
Aun así, durante décadas hemos tenido armas nucleares y colectivamente hemos decidido no usarlas, así que todavía hay un poco de margen para el optimismo.
No hay razón para volverse complaciente, y ese camino solo acelera la destrucción.
No tiene por qué terminar necesariamente así.
¿Esto es más ético o menos ético que cuando OpenAI, menos de un año después de decir que “eso nunca ocurriría”, consiguió un contrato con el DoD para desplegar modelos en el campo de batalla?
La excusa fue algo como: “lo que dijimos se refería solo a ciertos tipos de guerra o fines militares”.
Al final, la pregunta es si no es más honesto que Google dé marcha atrás abiertamente, en vez de mantener la ficción de que todavía intenta hacer lo correcto.
Es parecido a preguntar: “sí, parece rendirse ante un tirano extranjero, pero ¿es más ético o menos ético que cuando Vidkun Quisling gobernaba Noruega?”.
OpenAI me parece turbia y resbaladiza, dirigida por un narcisista desquiciado.
Hace que Pichai parezca un santo.
Éticamente puede que sean iguales, pero si alguien me apuntara con un arma, preferiría que detrás del gatillo hubiera alguien con un poco de empatía antes que una persona que parece la personificación de una empresa de la que los altos ejecutivos salen huyendo uno tras otro.
Una de las cosas más preocupantes de los modelos de lenguaje a gran escala para agencias de inteligencia es que pueden escalar el análisis de texto.
Antes, al menos algún agente tenía que interesarse en mí, pero ahora, en teoría, un LLM puede leer todos los textos con los que he tenido contacto y marcar cualquier cosa, desde infracciones de la ley hasta inclinaciones políticas.
A la escala de filtrar miles de millones de mensajes, los costos crecen muy rápido, así que también dudo que un LLM sea la mejor herramienta para esa tarea.
Esto se siente como el momento en Downton Abbey en que todos esperan a que empiece la Primera Guerra Mundial.
Todos sienten que se acerca, pero nadie puede impedirlo.
Siendo realistas, en una guerra de Occidente contra Rusia/Irán/Corea del Norte/China, o contra quien sea con quien terminemos peleando, se hará todo lo posible para que la civilización occidental y sus soldados sobrevivan y ganen.
Al final, Google es una empresa occidental y, si estalla una guerra, una postura de no apoyar a nuestra civilización y a nuestras fuerzas armadas sería extremadamente impopular y convertiría a Google en un paria.
Lo contrario era difícil que ocurriera desde el principio.
Estados Unidos se está aislando y acosando a sus aliados.
Para las potencias alternativas con ambiciones expansionistas, nunca hubo un mejor momento que ahora.
No se avecinaba una guerra entre un Occidente unido y otras grandes potencias.
La guerra viene porque Occidente ya no existe.
No hay una división entre “nuestra” civilización y “la de ellos”; solo hay una civilización.
Hace unos siglos quizá esa idea tenía cierto sustento, pero hoy creer que “nosotros” somos muy distintos de “ellos” es, para la mayoría de la gente, una fantasía peligrosa.
Si ahora hablamos de un país que amenaza con anexar Groenlandia y sostiene que hay que trasladar por completo a todos los palestinos a Jordania y Egipto, sin duda va a necesitar armas de control de multitudes.
Estas armas también podrían ser útiles a nivel interno cuando la gente se dé cuenta de que ambos partidos siempre la explotan.
No entiendo por qué China es una amenaza fuera de lo económico.
¿China ha intentado invadir Estados Unidos alguna vez? ¿Rusia ha intentado invadir la UE alguna vez? La respuesta es no.
La única amenaza actual para la UE viene del hombre naranja.
Él también desechó el tratado INF.
Estados Unidos ahora instalará misiles nucleares de alcance medio en Europa, y Rusia los instalará en Bielorrusia.
Así, las dos grandes potencias tendrán chivos expiatorios convenientes que recibirán el primer golpe nuclear, y solo después lo pensarán de nuevo.
Es realmente absurdo que Estados Unidos y Rusia sigan afirmando que están en peligro, cuando todas las crisis internacionales de los últimos 40 años empezaron en uno de los dos.
Rusia claramente invadió países de Europa, en particular Ucrania.
La única razón por la que no invadió la UE en sí es que eso desencadenaría una guerra con enormes bajas por la alianza de la OTAN y que terminaría perdiendo.
Lo que ha mantenido segura a la UE es el poder militar, y los países que no tienen suficiente fuerza militar siguen siendo golpeados por ambiciones de poder.
Ucrania quedó en esa situación después de renunciar ingenuamente a sus armas nucleares en los años 90 a cambio de la promesa de que Rusia no la invadiría.
Es difícil llamar a eso una amenaza imaginaria.
Su política económica también es muy depredadora: en vez de apoyar a otros países, obtiene a cambio cosas irreversibles.
¿Para qué invadir si puedes simplemente tomar lo que necesitas?
El hombre naranja es completamente impotente en ambos frentes.
No gastará dinero en las fuerzas armadas, ni es lo bastante competente como para cerrar acuerdos que no perjudiquen a largo plazo.
Es interesante cómo estas empresas se mueven según los vientos políticos.
Así como Meta anunció algunos cambios alrededor de la toma de posesión, la dirigencia de Google también habrá tomado nota de los anuncios relacionados con IA, y no querrá que la administración actual la vea de cierta manera.
Creo que la verdad está en algún punto intermedio.
Dentro de la empresa debe haber enormes desacuerdos, pero por supuesto les importa cómo los perciben quienes tienen el poder.
Las empresas tienen técnicamente un poder desproporcionado.
Por eso es mejor que se muevan según la voluntad de la ciudadanía.
La alternativa, es decir, que una empresa actúe según su propia voluntad, podría ser mucho peor.
El único incentivo de una empresa no es esa torpe actuación corporativa de “hacer del mundo un lugar mejor” que suelen decir, sino generar ganancias.
Las empresas se crean con ese propósito y siempre lo siguen.
No sé qué esperábamos después de que Google eliminó el lema Don’t be evil.
Un sistema autónomo bien construido podría ayudar bastante a aumentar la precisión de los objetivos y reducir las víctimas civiles.
Si te enoja la existencia misma de las armas, deberías revisar de nuevo el dilema del prisionero.
Supongamos que las traiciones a pequeña escala se manejan con gobiernos, pero que las principales potencias mundiales no aceptarán la jurisdicción de un gobierno mundial único que imponga por la fuerza evitar la traición.
En especial, potencias fuertes y prósperas como la nuestra no lo aceptarían, porque en un sistema así por lo general tendrían mucho que perder.
El ex CEO de Google, Schmidt, está desarrollando drones de IA para Ucrania en Estonia.
Si necesita un buen proveedor de IA de base, es razonable esperar que Google pueda ser uno de los proveedores preferidos.
Por supuesto, Ucrania es solo el comienzo, y el mercado objetivo de productos probados en el campo de batalla, sobre todo si fueron validados contra Rusia e indirectamente contra tecnología china, será enorme.
Aunque por ahora solo una parte se ha desplegado en campos de batalla reales, también hay muchísimo interés en plataformas terrestres operadas a distancia y autónomas.
Google es líder en plataformas autónomas civiles, y el camino para transferir esa tecnología a sistemas militares parece relativamente sencillo.