La inteligencia artificial y la vigilancia masiva

La inteligencia artificial y la vigilancia masiva

• La vigilancia y el espionaje son conceptos distintos, pero relacionados. Antes, la vigilancia era un trabajo manual que requería mucho costo y tiempo, pero ahora se rastrean automáticamente la ubicación, las compras y con quién hablamos a través de smartphones, tarjetas de crédito, apps y más.
• En la vigilancia masiva, que se ha convertido en el modelo de negocio de internet, estamos en una situación en la que no podemos simplemente optar por no participar. El espionaje todavía depende de la mano de obra humana, pero la inteligencia artificial (IA) está lista para cambiar eso.

Los cambios de la inteligencia artificial

• Los sistemas modernos de IA generativa son buenos para resumir, y pueden organizar millones de conversaciones por tema o indicar quién menciona un tema específico.
• Esta tecnología no es perfecta, pero los humanos también se equivocan, y la IA se está replicando y mejorando rápidamente, así que será mejor cada año. Se acerca la era del espionaje masivo.

El futuro de la vigilancia y el espionaje masivos

• La vigilancia masiva ofrece la capacidad de retroceder en el tiempo para vigilar, y permite vigilar incluso sin conocer de antemano a un objetivo específico.
• El espionaje masivo almacenará todos los datos y permitirá buscarlos y comprenderlos a gran escala. Será posible encontrar conversaciones sobre temas concretos, planes criminales, propagación de rumores o planes para participar en protestas políticas.
• Será posible realizar análisis complejos, como revelar estructuras organizativas o encontrar a quienes comparten secretos. No solo en conversaciones: dondequiera que haya un micrófono, el espionaje podrá hacerse posible.

El impacto social de la vigilancia y el espionaje

• Un estado de vigilancia constante influye en el comportamiento de las personas y fomenta la autocensura y el control social.
• Los gobiernos ya usan la vigilancia masiva, y también comenzarán con el espionaje masivo.
• Las empresas vigilarán a las personas con fines de marketing y reforzarán aún más la industria de la publicidad personalizada.

Privacidad de datos y límites

• Google intentó en el pasado usar el contenido de Gmail para ofrecer anuncios personalizados, pero lo suspendió porque la utilidad de los datos de palabras clave era baja. Sin embargo, a medida que estas tecnologías mejoren, existe la posibilidad de que lo retomen.
• Se podrían limitar las capacidades de espionaje masivo o introducir reglas sólidas de privacidad de datos, pero así como no se limitó la vigilancia masiva, es probable que con el espionaje no sea diferente.

La opinión de GN⁺

Lo más importante de este texto es que ofrece una visión sobre cómo el avance de la inteligencia artificial (IA) está cambiando la privacidad personal y la naturaleza misma de la vigilancia. Al comprender el impacto que la vigilancia y el espionaje masivos tienen sobre el comportamiento social y el control, los lectores pueden contar con una base para participar en debates importantes relacionados con la privacidad de los datos. Este texto ofrece un tema especialmente interesante para profesionales técnicos, como los ingenieros de software, al considerar el rápido avance de la IA y el amplio impacto que podría tener en nuestra vida cotidiana.

[GN⁺]

Opiniones de Hacker News

• La esencia del problema político

  • Este problema no es técnico, sino político. Por ejemplo, la antigua Unión Soviética llevó a cabo una vigilancia masiva efectiva incluso con tecnología básica. Si esto no ocurrió en Estados Unidos, no fue por falta de capacidad técnica, sino porque no había interés político.
  • Se han creado leyes que prohíben cosas que antes eran inimaginables. Declarar ilegal la recolección de datos tampoco sería un salto legal tan grande, pero actualmente no existe ningún interés político en ello.

• Los riesgos de vigilancia de la inteligencia artificial

  • En la realidad de un Estado vigilante, la cantidad de datos era tan grande que monitorearlos de forma realista era imposible, pero la IA puede resolver eso resumiéndolos. Ese es el verdadero peligro de la IA a corto plazo: puede convertirse en una herramienta para apuntar a todo lo que se salga de la norma.

• Los bots de asistentes personales corporativos

  • Los bots de Google, Meta, Microsoft y otros no solo rastrearán la web o las redes sociales, sino también temas y personas específicas. Estos bots de asistentes personales aparentan ayudar al usuario, pero en realidad recopilan información y entregan información manipulada de acuerdo con los objetivos de las empresas.

• La aplicación masiva de la ley penal por IA

  • Las leyes penales fueron redactadas bajo la suposición de que investigar y procesar requiere recursos, pero la IA puede eliminar esas limitaciones. La IA puede monitorear la actividad pública y automatizar los procedimientos legales, haciendo posible procesar incluso delitos menores.

• El impacto de la censura

  • La posibilidad de censura y el modelo de negocio que puede surgir de ella preocupan más que la vigilancia. Por ejemplo, podría volverse posible cobrar por intercambiar contactos en apps de citas o eliminar de inmediato ciertas opiniones en redes sociales.

• El avance inevitable de la tecnología

  • A medida que la tecnología avance, la vigilancia y la censura ocurrirán inevitablemente. Hace falta debatir cómo aceptar esa realidad y cómo adaptarse. Mediante regulación legal y tecnologías contra la vigilancia, se puede reducir el riesgo de vigilancia ilegal.

• El reconocimiento facial por motivos de seguridad

  • Bajo el pretexto de la "seguridad", pronto se realizarán escaneos faciales con frecuencia, y esto será obligatorio en muchas partes de nuestra vida.

• Los esfuerzos de Google por la privacidad

  • Google no está escuchando todo el tiempo con "Hey Google"; solo envía audio cuando reconoce una palabra específica. El equipo de privacidad de Google está intentando hacer lo correcto.

• La realidad de la vigilancia masiva impulsada por IA

  • La vigilancia masiva ya existe, y la IA puede usarse para extraer datos sobre el comportamiento de todas las personas acumulados durante décadas. Si esos datos se usaran solo para procesar delitos, se tendría una sociedad en la que nadie estaría por encima de la ley, pero los seres humanos que controlan el sistema quieren una posición que los favorezca.

• La libertad del software de IA

  • El software de IA no debería estar restringido, y la gente común y las personas con conciencia cívica deberían poder desarrollar sistemas de IA personales y públicos para enfrentarse a la IA corporativa. El futuro de la IA será conflictivo, y la libertad para desarrollar software de IA debe existir, aunque su uso deba estar regulado.