El accidente del vuelo 752 de Ukraine International Airlines, ocurrido hace poco cerca de Teherán, Irán, parece muy probablemente haber sido causado por un lanzamiento erróneo de misiles por parte de Irán. En ese momento, Estados Unidos estaba desplegando seis bombarderos estratégicos B-52 cerca de Irán debido a las fricciones con ese país, y es posible que, en medio de esa escalada de tensión, una unidad de defensa antiaérea iraní haya confundido un avión civil que despegaba de su propio territorio con una aeronave militar estadounidense que intentaba atacar un aeropuerto iraní. Casual o irónicamente, se superpone de inmediato un incidente similar, en una zona similar, en el que un avión civil iraní fue derribado por error por fuerzas estadounidenses: el [incidente del derribo del vuelo 655 de Iran Air por el USS Vincennes]. Entre las causas señaladas para ese caso están una cadena de errores humanos ocurridos bajo tensión psicológica y una interfaz de usuario inadecuada.
Así, cuando los seres humanos se encuentran tensos o enfrentan una situación urgente e inesperada, es fácil que caigan en confusión y tomen malas decisiones. Por eso, mucha gente menciona como contramedida la automatización por medio de máquinas o la autonomía con mínima intervención humana. La idea es que, cuando una persona se confunde o no alcanza a reaccionar a tiempo, la máquina debería tomar automáticamente alguna medida de forma preventiva. Suena razonable, pero el problema es que quienes construyen esas máquinas siguen siendo seres imperfectos. Por lo tanto, es muy probable que esas máquinas también lo sean. En consecuencia, existe la posibilidad de que las acciones automatizadas que ejecuta una máquina en realidad sean incorrectas. Además, si la persona que opera esa máquina no comprende bien la automatización, esta podría incluso agravar el problema.
Encontré un texto que explica los aspectos negativos de los sistemas autónomos a través de casos de lanzamientos erróneos de misiles tierra-aire Patriot. (En inglés) El misil Patriot tiene la capacidad de interceptar misiles balísticos enemigos, pero como hacerlo manualmente es demasiado complejo y el tiempo es muy limitado, se introdujo un [modo automático] en el que, con solo activar un interruptor, el sistema se lanza automáticamente e intenta interceptar en cuanto el radar detecta un misil balístico. Este modo automático parecía derribar con éxito misiles Scud en la Guerra del Golfo, así que el ejército estadounidense terminó confiando en él con excesiva tranquilidad. Sin embargo, durante la guerra de Irak ocurrieron dos casos en los que misiles Patriot en modo automático derribaron aviones de combate aliados. Debido a interferencias electromagnéticas en el radar, se detectó un misil balístico que en realidad no existía, el Patriot salió disparado automáticamente y, al no poder encontrar el objetivo designado, el misil consideró como objetivo al objeto más cercano —un avión de combate— y lo derribó.
El caso del modo automático del misil Patriot muestra con claridad los problemas de las armas autónomas letales (Lethal Autonomous Weapon: armas autónomas diseñadas para seleccionar y atacar objetivos por sí mismas sin intervención humana). En situaciones ambiguas del mundo real, la capacidad de un sistema automatizado para juzgar correctamente es más baja de lo que uno podría pensar. Y no se trata solo de armas autónomas letales: los sistemas automatizados están influyendo cada vez más en nuestra vida cotidiana. Por ejemplo, YouTube identifica automáticamente contenido infantil mediante machine learning y ha provocado quejas de creadores cuyos canales fueron clasificados de forma absurda; y en Corea, a partir de julio, será posible lanzar automóviles con funciones de conducción parcialmente autónoma correspondientes al nivel 3. Se acerca una era de máquinas con cada vez menos intervención humana, pero no debemos olvidar que, en caso de emergencia, la intervención humana sigue siendo necesaria.
Referencia - resumen extraído en coreano del texto anterior:
2 comentarios
Parece que ya salió el video y de verdad parece que le pegó un misil real.
https://www.nytimes.com/2020/01/09/video/iran-plane-missile.html
Al final, Irán reconoció que este incidente ocurrió por el lanzamiento erróneo de un misil por parte de sus propias fuerzas armadas. Mis condolencias para los fallecidos.
https://www.yna.co.kr/view/AKR20200111031354009
https://www.yna.co.kr/view/AKR20200111041651111