Ucrania prueba drones con IA que identifican y apuntan a personas y los expertos alertan: "Reducir una decisión de vida o muerte a un cálculo algorítmico amenaza a la humanidad"
La guerra está acelerando el desarrollo de armas cada vez más autónomas.
En un bosque del centro de Ucrania, un grupo de ingenieros observa una pantalla mientras un dron sobrevuela una pequeña explanada. No busca un tanque ni un vehículo blindado. Busca personas.
En la prueba, varios miembros del equipo caminan entre los árboles simulando ser soldados enemigos. La inteligencia artificial del aparato los detecta, los encuadra automáticamente en la pantalla y mantiene el seguimiento. El sistema está preparado para atacar. Solo espera una última orden humana.
La escena parece sacada de una película de ciencia ficción, pero forma parte de una realidad cada vez más presente en la guerra de Ucrania. Tras más de cuatro años de conflicto, el país se ha convertido en uno de los mayores laboratorios militares del mundo y está probando tecnologías que hace apenas unos años parecían impensables.
Entre ellas destacan los drones equipados con inteligencia artificial capaces de identificar objetivos de manera autónoma, incluidos seres humanos. Una evolución tecnológica que promete aumentar la eficacia militar, pero que también ha encendido todas las alarmas entre expertos en derechos humanos y organizaciones internacionales.
La nueva generación de drones
El desarrollo de estos sistemas responde a una necesidad muy concreta. Rusia continúa lanzando de forma masiva drones Shahed contra ciudades e infraestructuras ucranianas. Para combatirlos, Kiev ha impulsado una nueva generación de interceptores dotados de inteligencia artificial.
Uno de ellos es el P1-Sun Long, desarrollado para localizar y derribar los Shahed con una intervención humana cada vez menor. El sistema ha sido entrenado con más de 10.000 vídeos reales de interceptaciones y es capaz de detectar objetivos mucho antes de que un operador humano pueda identificarlos visualmente.
Durante las demostraciones realizadas por la empresa SkyFall, la IA localiza el dron enemigo, lo marca automáticamente y es capaz de seguirlo sin ayuda una vez recibe autorización del piloto. El operador sigue teniendo la última palabra para ordenar el impacto, pero gran parte del proceso ya está automatizado.
La tendencia apunta a una autonomía cada vez mayor. Algunas compañías ucranianas ya trabajan en sistemas capaces de despegar automáticamente tras detectar una amenaza mediante radar y completar prácticamente toda la misión sin intervención humana.
Cuando la IA empieza a distinguir personas
Sin embargo, la cuestión más delicada no está en los drones que persiguen otros drones. La gran frontera tecnológica consiste en desarrollar sistemas capaces de identificar personas concretas sobre el terreno. Y esa frontera ya se está explorando.
Según relata The New York Times, varias compañías ucranianas están probando algoritmos que permiten reconocer combatientes humanos y seguirlos automáticamente. SkyFall figura entre las empresas que experimentan con estas capacidades, aunque todavía de forma limitada.
La diferencia es enorme desde el punto de vista ético. Mientras identificar un vehículo o un aparato aéreo plantea menos controversias, permitir que una máquina determine quién puede convertirse en objetivo militar abre interrogantes mucho más profundos.
¿Puede un algoritmo distinguir correctamente entre un soldado y un civil? ¿Qué ocurre si se equivoca? ¿Quién asume la responsabilidad de una muerte causada por un error de programación?
La línea roja de los derechos humanos
Precisamente ahí es donde aparecen las mayores preocupaciones.
Diversas organizaciones humanitarias llevan años advirtiendo sobre el peligro de las llamadas armas autónomas letales. Para estos grupos, delegar decisiones de vida o muerte en sistemas informáticos supone cruzar una línea que puede tener consecuencias imprevisibles.
El temor es que la evolución tecnológica avance más rápido que la capacidad de las sociedades para establecer límites legales y morales.
Incluso el presidente ucraniano, Volodímir Zelenski, ha reconocido públicamente esos riesgos. En una intervención ante Naciones Unidas advirtió de que llegará el momento en que los drones luchen contra otros drones, ataquen infraestructuras críticas y persigan personas prácticamente por sí solos.
Los desarrolladores insisten en que el ser humano sigue estando dentro del proceso y que la decisión final de disparar continúa dependiendo de un operador. Pero muchos expertos consideran que esa barrera es cada vez más fina.
Un debate que va mucho más allá de Ucrania
La cuestión tampoco afecta únicamente a la guerra entre Kiev y Moscú.
Los avances que hoy se prueban en Ucrania podrían terminar exportándose a otros conflictos o incluso llegar a manos de actores mucho menos controlables. Zelenski ha alertado de que, a medida que estas tecnologías se abaraten, grupos terroristas, milicias o cárteles podrían acceder a capacidades que hasta hace poco solo estaban al alcance de grandes potencias.
Mientras tanto, los ingenieros siguen perfeccionando algoritmos y aumentando la autonomía de los sistemas. La tecnología ya está preparada para avanzar mucho más. La gran pregunta es si la humanidad también lo está.
Porque detrás de cada mejora en la precisión, detrás de cada nueva línea de código y detrás de cada dron capaz de reconocer una figura humana desde el aire, emerge una cuestión inquietante: quién debe decidir, en última instancia, cuándo una vida puede convertirse en un objetivo.
