‘ELITE’, la app que Palantir usa para que ICE seleccione zonas de redadas

• ‘ELITE’ es una herramienta interna de Palantir que el Servicio de Inmigración y Control de Aduanas de EE. UU. (ICE) usa para encontrar personas sujetas a deportación, y visualiza la densidad de objetivos en zonas específicas mediante una interfaz basada en mapas
• La app tiene una forma similar a Google Maps y utiliza datos, incluida la densidad de inmigrantes, para marcar “zonas con muchos objetivos”
• Cuando el usuario selecciona a una persona concreta, se muestra un perfil personal (dossier) con nombre, foto, número de extranjero (Alien Number), fecha de nacimiento y dirección
• Según materiales internos, este sistema incluso ofrece un puntaje de confianza (confidence score) de la dirección actual del objetivo, y se está usando para perfilamiento racial a gran escala
• El texto plantea que esta tecnología está contribuyendo a reforzar la capacidad administrativa de deportar personas sin debido proceso legal y presenta el tema como una pregunta sobre la responsabilidad ética de los desarrolladores

---

La colaboración tecnológica entre ICE y Palantir

• Según documentos internos de ICE y testimonios de personas vinculadas al tema, se confirma una conexión directa entre la infraestructura tecnológica construida por Palantir para ICE y las operaciones de campo
• Según un reporte de 404 Media, el sistema ELITE está siendo usado por ICE para identificar zonas para operativos masivos de deportación
• Esta herramienta marca en el mapa a posibles objetivos de deportación y proporciona un puntaje de confianza (confidence score) para la dirección de cada persona

Funciones e interfaz de ELITE

• ELITE se basa en una interfaz de mapas similar a Google Maps y visualiza “zonas ricas en objetivos” a partir de datos que incluyen la densidad de inmigrantes
• Cuando el usuario hace clic en una persona específica en el mapa, el sistema muestra un perfil personal (dossier) con nombre, foto, número de extranjero, fecha de nacimiento y dirección completa
• Estos datos se utilizan para que ICE rastree la ubicación de los objetivos y planifique operaciones de arresto

Cuestionamientos éticos

• El texto califica este sistema como “perfilamiento racial a gran escala” y critica que la tecnología se esté usando para deportar personas sin procedimiento legal
• El autor describe el conflicto moral que podrían sentir los empleados de Palantir al desarrollar este tipo de productos
  • Con la frase “Ir a trabajar todos los días y crear software para deportar personas”, se subraya la brecha entre la rutina del desarrollador y la ética
• También señala que, aunque los empleados de Palantir disfrutan de beneficios como salario, stock options y prestaciones, la tecnología que crean contribuye a actos violentos de organismos armados

La conexión entre tecnología y violencia

• El texto menciona que ICE, como fuerza armada, incurre en actos como secuestrar civiles y dispararles, y afirma que ELITE respalda esas actividades con una “interfaz de mapas hermosa y moderna”
• También alude a casos de violencia, como el caso en que ICE disparó en el rostro a una mujer, para criticar que la tecnología se use como una herramienta para hacer más eficiente una ejecución administrativa violenta

Tecnólogos y responsabilidad social

• El texto describe que empleados de Palantir pueden sentir al mismo tiempo que “es agradable trabajar con este equipo” y que “deberían buscar otro trabajo”, reflejando un conflicto interno
• Plantea la pregunta de si, cuando el trabajo de un tecnólogo contribuye a la violencia social, eso puede justificarse simplemente por razones de sustento o carrera profesional
• En conclusión, ELITE es presentado como un sistema que respalda técnicamente los operativos violentos de ICE y como un caso que expone el problema de la responsabilidad ética de los desarrolladores de tecnología

[GN⁺]

Opiniones de Hacker News

• Nunca he trabajado en Palantir, pero si le quitas la pose de villano de su liderazgo escandaloso, esta empresa se siente como un vendor enterprise bastante típico
  El producto es mediocre, pero se vende exageradamente a compradores institucionales y al final se obliga al personal de campo a usarlo
  El problema son las decisiones de política que hacen que se usen estas herramientas y la estructura que vuelve ampliamente accesibles datos que deberían estar controlados
  Más que darle a Palantir una imagen de “los malos”, habría que enfocarse en el trasfondo político de por qué se llegó a querer una herramienta así

  • Yo también veo a Palantir de forma parecida. Al final es una consultora con servicios envueltos en mapas, graph DB y “AI”
    Venden carísimos a sus ‘forward deployed engineers’ y personalizan todo para cada cliente
    No diría que es una empresa ética, pero ellos no recopilan directamente la información personal. Los datos los pone el cliente
    El cambio tiene que venir de ese lado
  • Me impacta que exista la ‘maldad falsa’. Igual que la ‘falsa devoción’ en los 1600, ahora está de moda la maldad performativa
    Si vivimos en una cultura donde las empresas tienen que fingir ser más malvadas de lo que realmente son, eso es una bancarrota moral de la sociedad
  • No estoy de acuerdo. El problema es Palantir y sus clientes
    Se puede elegir no construir la herramienta, y también se puede elegir no usarla
  • El verdadero problema es que el gobierno use servicios de Palantir para conectar datos y habilitar vigilancia masiva
  • Karp justifica esto como “ayudar al gobierno a funcionar mejor”
    Pero al final, quienes deben controlar al gobierno son los votantes

• Siento que la gente hoy perdió la capacidad de pensar con complejidad
  Uno puede creer que ICE podría tener una misión clara y ética, y aun así pensar que la forma en que la ejecuta está mal
  Uno también puede creer que es importante respetar los procedimientos legales sin etiquetar a los inmigrantes indocumentados como ‘intrínsecamente ilegales’
  El mundo no es blanco o negro; no sé por qué terminamos pensando solo en extremos. Tal vez sea por la influencia de las redes sociales

  • Pero el lado que tiene poder y armas solo quiere imponer ‘una única creencia correcta’, es decir, los ‘valores estadounidenses’
    Esto no es una pelea ideológica simétrica. La ola azul en las próximas elecciones intermedias podría ser la última esperanza
    Si eso falla, la desesperación de la literatura rusa se va a sentir todavía más cercana
  • Que algo “sea posible” no significa que sea correcto
    La misión legal de ICE no está clara, y en la práctica se está ejecutando de formas antiéticas e ilegales
    No se justifica solo por ser una ‘postura posible’
  • Decir que “saltarse la fila migratoria es inmoral” es una postura que no entiende la realidad
    Para la gente pobre, esa fila ni existe. Ni siquiera pueden solicitar una visa legal
  • El punto central no es que la gente no pueda pensar de forma compleja, sino que esa complejidad no recibe recompensa
  • También hubo quien respondió que ya dejen de trollear fingiendo interés

• Quisiera decirles a líderes y reclutadores de otras empresas
  Ojalá declararan públicamente que van a entrevistar a ingenieros que quieran renunciar a Palantir por razones morales
  Bajar la barrera para cambiarse de trabajo y ofrecer refugio a esas personas debería volverse una nueva norma en la industria

  • Pero yo pienso lo contrario. No quiero meter en mi empresa a alguien que construyó sistemas éticamente dudosos
  • La reputación de Palantir ya era mala desde hace 10 años
    Si alguien apenas se está dando cuenta ahora, parece que le faltan principios
  • Me parece mejor trabajar en proyectos positivos para la sociedad y construir una buena reputación
    Curiosamente, nunca he visto el CV de un exempleado de Palantir. Quizá los filtran automáticamente, o quizá a esa gente no le interesan este tipo de empresas
  • ¿De verdad hicieron algo malo? También se podría pensar que usar su talento para perseguir criminales es más bien un deber moral

• Desde su fundación, Palantir ha recibido cerca de 10 mil millones de dólares en impuestos del gobierno de EE. UU.

  • El gobierno actual en la práctica funciona como una corporatocracia. Todos solo calculan cuánto pueden desviar
  • (Este comentario estaba escrito en forma de letra de canción, pero se omite por cuestiones de copyright)

• Si queremos que este hilo no sea eliminado, hace falta una discusión más profunda
  Hay que abordar de forma concreta qué línea de productos de Palantir se está usando, cómo aplica la FOIA (Ley de Libertad de Información) y qué datos se están proporcionando

• Parece que el equipo de manejo de imagen de Palantir intervino mucho más rápido en este hilo

  • Tal vez incluso operen un ejército de bots en línea para manipular la opinión pública
    Incluso podrían vender eso como servicio a sus clientes
    Para frenar este tipo de problemas, los sitios deberían reforzar la verificación de identidad de cuentas anónimas

• Cuando yo tenía 19 años, vino un empleado de Palantir a dar una charla sobre TDD y los estudiantes la boicotearon
  En ese momento me pareció demasiado extremo, pero ahora siento que en realidad tenían razón
  Nunca trabajaría en una empresa como Palantir. Si pudiera volver al pasado, yo también me habría sumado al boicot
  La lógica de “China también hace esto, así que nosotros también deberíamos hacerlo” es éticamente repugnante
  La respuesta a un mundo corrupto no es corromperse más. Esa lógica diluye la responsabilidad, deshumaniza y agrava el conflicto
  Tenemos que luchar contra esta corrupción moral

  • La realidad es que si haces este tipo de crítica te ganas los downvotes de los bots

• Esto no es simplemente un tema de “inmigrantes ilegales”
  Ya se está construyendo una infraestructura de vigilancia masiva. Ahora apunta a ciertos grupos, pero pronto va a alcanzar a todos
  Sistemas de vigilancia como Flock y Ring, junto con AI e integración de datos, son la base de eso
  Quienes construyeron esta tecnología deben asumir responsabilidad moral, y hace falta una plataforma trazable

  • Si el gobierno puede encontrar incluso a personas que no han tenido registros durante décadas, entonces rastrear a los contribuyentes sería muchísimo más fácil
  • Pero si usamos la “moral” como criterio, entonces también habría que criticar a todos los empleados de FAANG

• Artículo original: 404 Media - ELITE: the Palantir app ICE uses to find neighborhoods to raid
  Enlace de archivo: archive.ph/wa32f