Dos investigadores de la Universidad de Cornell, sobre la IA en servicios sociales: "Los sistemas de IA solo funcionan cuando los sistemas humanos que los sostienen ya están funcionando bien"
"La eficiencia por sí sola no fortalece los sistemas públicos sin mejorar su capacidad subyacente", han advertido.
Aditya Vashistha, profesor adjunto de Informática y Ciencias de la Información en la Universidad de Cornell (EEUU) y Deepak Varuvel Dennison, estudiante de doctorado en la misma universidad, han llevado a cabo un trabajo de investigación acerca de la aplicación de la inteligencia artificial (IA) a los servicios sociales.
La conclusión a la que ambos han llegado es que la IA puede ser una ayuda importante para aumentar la eficiencia e incluso mejorar los servicios, pero, en última instancia, todo depende de si el sistema está funcionando bien en el plano humano.
En otras palabras, la IA no puede hacer que 'por arte de magia' los servicios sociales que cuenten con alguna deficiencia desde el punto de vista de la gestión humana pasen a funcionar de manera correcta.
Vashistha y Dennison han explicado, en Rest of World, que durante su trabajo de investigación "examinamos ocho sistemas de IA implementados para abordar problemas sociales en países en desarrollo".
Y durante ese estudio, ambos investigadores de la Universidad de Cornell han asegurado que "lo que destacó no fue la tecnología en sí, sino la compleja red de personas que trabajaban en torno a ella".
"La diferencia entre los sistemas que fallaron y los que resultaron útiles radicó en la infraestructura humana"
En ese sentido, Aditya Vashistha y Deepak Varuvel Dennison han subrayado que "en todos los casos, la diferencia entre los sistemas que fallaron y los que resultaron útiles radicó menos en la sofisticación de los modelos de IA que en la solidez y la resiliencia de esta infraestructura humana".
"En todas las implementaciones, los sistemas de IA solo funcionaron cuando los sistemas humanos que los rodeaban ya funcionaban correctamente (…) Los trabajadores que ya están sobrecargados de trabajo no pueden transformar repentinamente su práctica solo porque se introduzca una herramienta de IA. En el mejor de los casos, la herramienta les ayuda a completar las tareas existentes un poco más rápido", han resaltado los investigadores.
En consecuencia, Vashistha y Dennison han advertido que "a menudo se presenta a la IA como una herramienta para la eficiencia, pero la eficiencia por sí sola no fortalece los sistemas públicos sin mejorar su capacidad subyacente. Incluso cuando las tareas se completan más rápido, las limitaciones más profundas del sistema no desaparecen automáticamente".