Drones autónomos con licencia para matar: el debate que enfrenta a militares, espías y expertos en IA sobre si una máquina puede ser moral
Numerosas startups están desarrollando plataformas de software para drones.
Los drones militares se han convertido en la gran revolución armamentística del último lustro gracias a su papel protagonista en la guerra de Ucrania. Los vehículos no tripulados apuntan a marcar un antes y un después en la doctrina de guerra moderna.
En estos momentos, la mayoría de los drones están controlados por pilotos humanos. Sin embargo, el avance de la inteligencia artificial (IA) está haciendo que, poco a poco, los drones autónomos se abran paso.
Aunque actualmente se trata de una tecnología muy incipiente, la realidad es que más de un centenar de startups estadounidenses y europeas están desarrollando plataformas de software para drones.
Ese avance plantea un debate: ¿los drones pueden ser morales a la hora de decidir si matan a una persona o no? Los expertos no se ponen de acuerdo en la respuesta a esa difícil pregunta.
En declaraciones al medio de comunicación británico The Guardian, Zee Talat, académica especializada en aprendizaje automático en la facultad de informática de la Universidad de Edimburgo (Escocia) cree que los sistemas de IA generativa, que no dejan de ser máquinas, no tienen la capacidad de adoptar decisiones morales.
El motivo, según la experta, es que los sistemas de IA se entrenan con enormes cantidades de datos que les permiten construir un modelo probabilístico de cuál es la siguiente palabra o frase más probable en una secuencia. "Si tienes una máquina que es probabilística por naturaleza, tenderá a la respuesta más probable en una situación. ¿Acaso creemos que la moralidad se rige por nociones probabilísticas?", ha expresado al respecto Talat.
"La cuestión es si comprendemos la moralidad lo suficientemente bien como para codificarla"
Por su parte, Andrew Rogoyski, del Instituto de IA Centrada en las Personas de la Universidad de Surrey (Inglaterra), ha destacado que "la moralidad es profundamente compleja, objeto de debate, moldeada culturalmente y algo que la mayoría de los seres humanos nunca llega a comprender del todo, ni siquiera para sí mismos".
"Quizás la verdadera cuestión sea si comprendemos la moralidad lo suficientemente bien como para codificarla. Hasta que lo hagamos, no podemos esperar que las máquinas encarnen algo que nosotros mismos no podemos articular con claridad", ha añadido Rogoyski.
