El problema del Pentágono en Silicon Valley

El problema del Pentágono en Silicon Valley

• Ronen Bar, director del servicio de seguridad interna de Israel, Shin Bet, presentó una plataforma de inteligencia artificial desarrollada internamente.
• Esta tecnología se usa para analizar información sobre terroristas, predecir riesgos y generar alertas.
• El ataque de Hamás tomó completamente por sorpresa al sistema de defensa de Israel, y eso ocurrió a pesar de que Hamás llevó a cabo sus preparativos abiertamente.

Big Tech se está quedando atrás en la guerra del futuro

• Michèle Flournoy subraya la importancia de la conexión entre Silicon Valley y el gobierno de Estados Unidos.
• Existe la percepción de que el Pentágono se resiste a las nuevas tecnologías, pero en realidad está invirtiendo en numerosos proyectos de IA.
• La tecnología de IA puede influir en la forma en que se llevan a cabo las operaciones militares, pero también alimenta el mito de que idealistas de la industria tecnológica están revolucionando la maquinaria militar.

La creencia de que el software puede resolver los conflictos humanos

• El papel del software en la manera en que Estados Unidos hace la guerra tiene una larga historia.
• Durante la guerra de Vietnam, la Operación Igloo White desplegó sensores para detectar la actividad enemiga, pero fracasó.
• Silicon Valley se desarrolló a partir de la industria electrónica que contribuyó a la victoria en la Segunda Guerra Mundial, y recibió el patrocinio del Pentágono durante la Guerra Fría.

La relación entre Silicon Valley y el Pentágono

• La industria tecnológica de Silicon Valley originalmente tuvo una relación estrecha con la industria de defensa, e internet evolucionó a partir de ARPANET del Pentágono.
• Peter Thiel tiene como objetivo devolver Silicon Valley al complejo militar-industrial.
• El Pentágono busca aprovechar la tecnología de Silicon Valley para mantener la ventaja tecnológica de Estados Unidos.

La tecnología de defensa de Silicon Valley

• Las empresas de Silicon Valley están ampliando sus actividades en el sector defensa, lo que suma nuevos actores al complejo militar-industrial existente.
• Google desarrolló tecnología para procesar imágenes de drones a través del Proyecto Maven, pero se retiró del proyecto por la oposición de sus empleados.
• Las empresas de Silicon Valley están ampliando su papel en el sector defensa, ya que este parece una fuente estable de ingresos a partir del presupuesto militar.

La opinión de GN⁺

• Este artículo ofrece una mirada interesante sobre cómo los avances en tecnología de defensa e inteligencia artificial se están aplicando a operaciones militares reales.
• Plantea dudas sobre si la tecnología de IA puede comprender y responder por completo a la complejidad del campo de batalla real.
• Provoca un debate importante sobre cómo la cooperación entre la industria tecnológica y el sector defensa podría afectar la seguridad nacional.
• El artículo destaca los problemas éticos que podrían surgir a medida que las empresas de Silicon Valley se involucren más profundamente en el sector defensa.
• También recuerda que el avance tecnológico no siempre conduce al éxito militar, apoyándose en proyectos fallidos del pasado como ejemplo.

[GN⁺]

Opinión de Hacker News

• Los casos mencionados en el artículo parecen elegidos de manera selectiva. No se puede atribuir el fracaso en Vietnam únicamente a la computadora IBM 360. El ataque de Hamás pudo haber tomado por sorpresa a Israel, pero en los últimos años el Iron Dome ha funcionado bien. Estados Unidos advirtió sobre el ataque ruso a Ucrania, pero mucha gente no escuchó. Y quienes construyeron la bomba atómica fueron físicos teóricos.
• Como muchos medios, este artículo también generaliza demasiado la inteligencia artificial. La capacidad predictiva del machine learning (ML) se ha usado en los ejércitos modernos desde hace décadas. La introducción del artículo insinúa que los LLM tuvieron un papel importante en la falla de inteligencia del ataque del 7 de octubre, pero en realidad no fue así. El ML seguirá desempeñando un papel, alternando entre éxitos y fracasos, y volviéndose aún más imperfecto mientras enfrenta al ML adversarial. No sirve de mucho culpar a herramientas imperfectas.
• Los sistemas de inteligencia artificial sabían todo sobre Hamás, pero los miembros de Hamás entregaban los datos que la IA quería oír. Cuando la otra parte puede ver todas tus acciones y palabras, la única defensa es la privacidad. En la novela "El problema de los tres cuerpos", la privacidad existe solo dentro de la mente humana, y solo los humanos pueden tomar decisiones basadas en estrategias que nunca expresaron con palabras. La ciencia ficción se vuelve realidad.
• Diseñar un buen sistema sin un caso de uso claro es casi imposible. Ucrania sí tiene esos casos de uso y una gran motivación para resolverlos. Ucrania controla el campo de batalla con computadoras comunes y ha hundido varios buques de guerra rusos con drones marítimos de largo alcance. Más recientemente, comenzó a probar a gran escala drones aéreos baratos equipados con reconocimiento de objetivos basado en visión por computadora. Pero Estados Unidos está en paz y, aunque eso en sí mismo es algo bueno, en la práctica facilita desperdiciar miles de millones de dólares en tecnología inútil.
• La expresión "sorprendentemente" es rara. Los medios israelíes han informado repetidamente que analistas de primera línea dieron la alarma, pero fueron ignorados. Tal vez se deba al sexismo, al edadismo, a la discriminación relacionada con el servicio militar obligatorio, o quizá a la fuerte voluntad de los grupos de colonos dentro del gobierno de reasentarse en la Franja de Gaza. En cualquier caso, las señales existían, y se había estado observando la preparación y los ensayos durante aproximadamente un año. Incluso si los grupos de resistencia mantuvieron el secreto, cualquier oficial promedio de inteligencia o del ejército debería haber podido concluir que eventualmente habría una respuesta violenta.
• No sé mucho sobre la tecnología israelí, pero el Pentágono tiene un problema de imagen en Silicon Valley. No parece que esté reclutando al mejor talento ni contratándolo en empresas proveedoras como Palintir. Nuestra generación está más cerca de Irak y Vietnam que de la Segunda Guerra Mundial, y muchas de las mentes más brillantes son inmigrantes de primera generación. Últimamente la adtech ha tenido problemas de imagen también (a medida que la gente ve más del proceso de producción), pero todavía resulta más atractivo trabajar en grandes empresas de consumo que en la industria de defensa. Para convencer a colegas de trabajar para el gobierno de Estados Unidos, aunque sea de forma indirecta, habría que pagarles más. En cambio, a menudo se les paga menos y tienen menos libertad para actividades fuera del trabajo.
• Al final del artículo, Cockburn se queja de que obtuvo una respuesta alucinada de ChatGPT cuando le preguntó sobre el trabajo del IDF y Palantir. Si buscas "IDF Palantir" en DuckDuckGo.com, obtendrás enlaces a varias noticias. Si el punto es que los LLM no son confiables hoy en día, está bien; pero si se trata de que no se puede saber si Palantir coopera con el IDF, ya existe evidencia.
• No se puede escapar de la verdad eterna de mediciones y contramedidas... un tonto con una herramienta sigue siendo un tonto...
• Parece que el personal de operaciones está saturado por las falsas alarmas de las guardias on-call. La mejor forma de corregir los errores es... simplemente ignorarlos. Un sistema complejo que debe ser operado por personal burocrático está destinado al fracaso.