El jefe de espionaje más importante de Israel expone su verdadera identidad por un error de seguridad en línea
(theguardian.com)- La identidad del comandante de Unit 8200, la unidad de inteligencia militar de Israel, que se mantenía en estricto secreto, quedó expuesta por un rastro digital dejado en un libro electrónico de Amazon en 2021
- Un libro publicado bajo el seudónimo Brigadier General YS incluía una dirección de correo anónima, y esta llevaba a una cuenta de Google a nombre de Yossi Sariel y a perfiles de Maps y Calendar
- El libro The Human Machine Team trata sobre la combinación de personal militar e IA, y se vincula con el plano conceptual del sistema de recomendación de objetivos basado en IA del que las FDI dependieron durante seis meses de la guerra en Gaza
- Las FDI dijeron que ese correo no era una cuenta personal sino una cuenta exclusiva para asuntos relacionados con el libro, pero después reconocieron la exposición de la información personal de Sariel como un “error” y anunciaron una revisión para evitar que vuelva a ocurrir
- Esta filtración añade presión sobre Sariel en medio de los cuestionamientos sobre la responsabilidad de Unit 8200 y las críticas al sesgo tecnológico tras no haber impedido el ataque de Hamás del 7 de octubre de 2023
Se expone la identidad del comandante de Unit 8200
- La identidad del comandante de Unit 8200 de Israel es tratada como uno de los secretos más sensibles incluso dentro del propio ejército
- Unit 8200 es conocida como una poderosa agencia de vigilancia comparable con la NSA de Estados Unidos
- Se confirmó que el comandante era Yossi Sariel, quien había operado sin ser identificado públicamente durante más de 20 años
- La identidad de Sariel quedó expuesta a través de un rastro digital vinculado a un libro publicado en Amazon
- La dirección de correo anónima incluida en el libro electrónico llevaba a una cuenta de Google creada con el nombre de Sariel
- Esa cuenta tenía conectados un ID único y enlaces a perfiles de Google Maps y Calendar
- Un portavoz de las FDI explicó que ese correo no era el correo personal de Sariel, sino una cuenta dedicada exclusivamente a asuntos relacionados con el libro
- Después, las FDI reconocieron ante la prensa israelí que la exposición de la información personal fue un “error” y dijeron que revisarían el caso para evitar incidentes similares
The Human Machine Team y la estrategia militar con IA
- Sariel publicó en 2021 The Human Machine Team bajo el seudónimo Brigadier General YS
- El seudónimo está formado por sus iniciales
- Según la verificación de varias fuentes, Sariel es el autor no público de ese libro
- El libro presenta una visión de cómo la IA puede transformar la relación entre el personal militar y las máquinas
- Sariel sostiene que, en la guerra moderna, el aprendizaje automático debe pasar de la periferia al centro del escenario
- La dirección principal es el human-machine teaming, que busca la sinergia entre humanos e IA más que sistemas totalmente autónomos
- El público objetivo son altos mandos militares y autoridades de seguridad
- Se entiende que Sariel escribió el libro con autorización de las FDI después de pasar un año como investigador visitante en la National Defense University de Washington DC, en Estados Unidos
La idea de una máquina de objetivos con IA
- Una parte del libro aborda el concepto de una “targets machine” basada en IA
- Este concepto se parece a la descripción del sistema de recomendación de objetivos que, según se sabe, las FDI usaron en los bombardeos sobre Gaza
- Sariel considera que para construir una máquina de objetivos efectiva se necesita big data que el cerebro humano no puede procesar
- Como ejemplos menciona datos del campo de batalla, información demográfica, información visual, datos de teléfonos móviles, conexiones en redes sociales, fotos y contactos de teléfonos celulares
- Su postura es que, mientras más datos y más diversos sean, mejor
- La máquina de objetivos usa modelos complejos que predicen a partir de combinar en masa pequeñas características
- Entre los ejemplos aparecen personas que están en grupos de WhatsApp con miembros de Hezbollah, personas que reciben un teléfono nuevo cada pocos meses y personas que cambian de dirección con frecuencia
- La IA se presenta como una forma de reducir los cuellos de botella causados por agentes de inteligencia humanos o soldados en el proceso de generar posibles objetivos militares
- La búsqueda de nuevos objetivos y la toma de decisiones para aprobarlos
- El procesamiento de grandes volúmenes de datos
- La conexión entre inteligencia y potencia de fuego
Sistemas de IA en la guerra de Gaza
- Bajo el mando de Sariel, las FDI desplegaron durante seis meses de la guerra de Gaza varios sistemas de apoyo a la toma de decisiones basados en IA que Unit 8200 desarrolló y mejoró rápidamente
- Entre los sistemas conocidos públicamente están the Gospel y Lavender
- Ambos sistemas fueron dados a conocer por el medio israelí-palestino +972 magazine, el medio en hebreo Local Call y The Guardian
- Las FDI explicaron que los sistemas de IA están pensados para asistir a oficiales de inteligencia humanos
- Los oficiales de inteligencia humanos deben verificar si un sospechoso militar es un objetivo legítimo según el derecho internacional
- Un portavoz dijo que el ejército usa diversas herramientas y métodos, y que también existen herramientas basadas en IA que ayudan a los analistas de inteligencia
La controversia en torno a Unit 8200 después del 7 de octubre
- El error de seguridad de Sariel se hizo público en medio de las críticas porque Unit 8200 no logró prever ni impedir el ataque de Hamás del 7 de octubre de 2023
- En ese ataque, milicianos palestinos mataron a unas 1,200 personas israelíes y secuestraron a unas 240
- Unit 8200 había sido muy valorada dentro y fuera de Israel por capacidades de inteligencia comparables en su momento con las del GCHQ británico
- Se cree que construyó un aparato de vigilancia a gran escala para monitorear de cerca las zonas palestinas
- Después del ataque surgieron críticas de que la arrogancia tecnológica de Unit 8200 había desplazado métodos tradicionales de recolección de inteligencia
- El periódico israelí Maariv trató en febrero de 2024 las disputas internas sobre responsabilidades dentro de Unit 8200 tras el 7 de octubre
- Sariel fue mencionado no por su nombre, sino como el comandante de Unit 8200 “Y”
- Los críticos creen que, bajo el mando de Sariel, la unidad priorizó tecnologías “adictivas e interesantes”, lo que contribuyó a la tragedia
- Se cita a Sariel diciendo a sus colegas que el 7 de octubre lo perseguirá hasta su último día, y que asume la responsabilidad en el sentido más profundo: “fuimos derrotados. Yo fui derrotado”
1 comentarios
Opiniones de Hacker News
Me da más curiosidad saber cuál fue exactamente la naturaleza del error de seguridad mencionado en la cita.
Me pregunto si Amazon tiene un bug que expone la dirección de correo de los autores autopublicados, o si al compartir contenido de Google Maps o Google Calendar dentro del libro no se dieron cuenta de que esas funciones revelan el correo real.
Parece que había una cuenta de Gmail creada para recibir feedback, correcciones, reseñas y contactos de prensa, que debía ser casi anónima, pero estaba registrada con el nombre real.
Como mínimo, el nombre habría sido visible para quienes recibieron una respuesta, y también pudo haberse revelado mediante conexiones con otras cuentas.
No sé si es algo como un número de identificación nacional, un número militar u otro identificador.
No parece haber ninguna falla de seguridad aquí.
Algunas personas usan seudónimos para ocultar su identidad real, pero otras los usan para separar su persona pública de su vida privada.
Este caso claramente se acerca más a lo segundo.
Publicó un libro combinando sus iniciales y pistas que aludían a su profesión, y en ese contexto también parece natural que no intentara ocultar seriamente su correo.
Esto es tan poco relevante como informar que se descubrió el verdadero nombre de JJ Lehto.
Pensándolo de nuevo, es a la vez un nombre de combate y un seudónimo.
La seguridad operacional es difícil.
Y por más optimista que uno sea sobre el potencial de la IA, usar IA para decidir a quién matar es horrible y claramente antiético.
Permite atrocidades sin responsabilidad.
El hecho de que esta persona fuera anónima desde el principio también parece una señal de que el objetivo no era la rendición de cuentas.
https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai...
Dicho eso, en ese artículo la mayoría de las partes aterradoras provienen de los operadores humanos.
Parece haber una indiferencia bastante fuerte a buscar motivos para desconfiar de la máquina.
Coincido con la sensación de que “usar IA para decidir a quién matar es antiético”, pero me cuesta aceptar una afirmación tan fuerte.
Por ejemplo, si hay un grupo de 10 personas que decide objetivos y la IA reduce la carga de trabajo para que esas 10 personas puedan revisar durante más tiempo, eso también sería “usar IA para decidir a quién matar”, pero el resultado podría mejorar.
El problema es que, en la realidad, es muy probable que la gente le traslade la responsabilidad a la máquina y se encoja de hombros.
Creo que es difícil responder bien a esta pregunta y, al mismo tiempo, dar una respuesta fácil.
Más bien, comentarios y formas de pensar como esta hacen posible evadirla.
Hay humanos que decidieron usar IA, y esos humanos deben responder.
Si no pueden cargar con esa responsabilidad, no deberían usar IA.
Aunque se filtre su identidad, no es algo muy importante.
Si es una figura de nivel director, haga lo que haga va a llamar más la atención y no puede esconderse.
En el ámbito militar, los oficiales de alto rango no protegen su identidad porque representan a las fuerzas armadas.
Por supuesto, los soldados y el personal de rangos bajos y medios, que cumplen órdenes y asumen riesgos reales, siempre deben tener su identidad protegida.
Habría sido mejor que su identidad no se hiciera pública porque podría quedar expuesto a riesgo de asesinato cuando viaje, pero honestamente esto no es un gran tema.
Probablemente solo genere comentarios de odio de grupos con postura antiisraelí.
En apariencia intentó ocultar su identidad y fracasó de forma bastante desastrosa, por eso se convirtió en noticia.
El libro está aquí:
https://www.amazon.com/Human-Machine-Team-Artificial-Intelli...
Personalmente no me interesa su identidad, pero este artículo también trata el contenido del libro que publicó, y eso me parece mucho más interesante
La astuta jugada de ajedrez 4D de Yossi Sariel
Parece que quiere salir del cargo sin renunciar oficialmente, haciéndolo pasar por un error.
Este “error” les da a sus superiores una excusa para sacarlo, pero al mismo tiempo le permite evitar lo del 7 de octubre.
Viendo lo que pasó después del 7 de octubre, ninguno de los dos bandos parece muy capaz de formular estrategias de ningún tipo.
Mucho menos de “astuto ajedrez 4D”.
¿O sea que cometió ese error a propósito en ese momento para fabricarse una salida sin renunciar tres años después?
No parece que de verdad intentara mantenerlo en secreto.
Si quisiera, también podría haberse convertido en denunciante como Snowden.
Es extrañamente reconfortante saber que esto también es difícil para los expertos.
Eso de que “los críticos de Sariel creen que Unit 8200 priorizó tecnología ‘adictiva y emocionante’ por encima de métodos de recopilación de inteligencia más tradicionales, lo que llevó al desastre”...
¿También usan Kubernetes y los frameworks frontend más nuevos?
un enorme bucle useEffect() que controla individualmente todos los robots asesinos con nombres hardcodeados.
Todavía no tienen presupuesto para investigar memoización, así que es un poco lento, pero con hardware lo bastante potente funcionaba bien.
Todos los cálculos balísticos se hacen en WebGL, causando la escasez mundial de GPU de los últimos años.
A veces calculaba mal el tamaño del viewport y se producían daños colaterales :(
Habiendo aprendido la lección, el próximo proyecto de IA de Israel seguirá un enfoque probado y estará escrito completamente en CSS.
Una analogía más verosímil sería despedir a los desarrolladores senior, contratar juniors con suscripción a ChatGPT y esperar que la velocidad de desarrollo mejore muchísimo.
Comprometen computadoras aleatorias en sótanos y les envían pequeñas funciones para procesamiento distribuido.
Los datos son tan pequeños que es imposible reconstruir qué están haciendo.
Es un SETI@HOME al estilo soviético.
Terminas procesando sus datos sin darte cuenta.
Lo único que puedes hacer es formatear el sistema para eliminar la puerta trasera, y esperar que salga bien.
La seguridad operativa es difícil.
Puedes hacer bien 99,999 cosas, pero si te equivocas una vez, se acabó.