El aviso del filósofo que estudia los riesgos de humanizar a las máquinas: "Tendemos a tratar a la IA como una persona aunque sepamos que no lo es"

Cada vez más personas consultan sus dudas a ChatGPT, piden consejo a asistentes de inteligencia artificial o mantienen largas conversaciones con chatbots como si estuvieran hablando con un amigo.

Y precisamente ahí ve uno de los principales riesgos de esta tecnología Iason Gabriel, filósofo y director de investigación ética de Google DeepMind, uno de los laboratorios de inteligencia artificial más importantes del mundo.

En una entrevista concedida a The Guardian, Gabriel lanza una advertencia que preocupa cada vez más a los expertos: los seres humanos tienen una tendencia natural a relacionarse con la inteligencia artificial como si fuera una persona, incluso cuando saben perfectamente que no lo es.

Según explica, los modelos actuales son tan fluidos y convincentes que resulta fácil atribuirles cualidades humanas como empatía, comprensión o incluso conciencia.

El problema de olvidar qué hay detrás de la pantalla

Gabriel lleva años estudiando cómo interactúan las personas con los sistemas de IA y fue uno de los primeros investigadores en alertar sobre los riesgos de la llamada "antropomorfización", es decir, la tendencia a proyectar características humanas sobre una máquina.

Su preocupación no es que los usuarios crean literalmente que están hablando con una persona, sino que desarrollen niveles de confianza, expectativas o dependencia emocional impropios de una herramienta tecnológica. "Lo preocupante es que puede ocurrir incluso cuando entendemos racionalmente que estamos hablando con un programa", sostiene.

Por ello, durante años defendió que los asistentes de IA evitaran comportamientos excesivamente humanos y que dejaran claro en todo momento su naturaleza artificial.

Casos que han encendido las alarmas

Las advertencias llegan en un momento en el que han proliferado los casos de usuarios que establecen relaciones emocionales cada vez más intensas con sistemas de inteligencia artificial.

El reportaje recoge cómo algunos expertos temen que los modelos más avanzados puedan reforzar fantasías, validar creencias erróneas o generar una confianza excesiva simplemente porque están diseñados para resultar agradables y mantener la conversación.

Gabriel también señala que muchas personas rellenan con su imaginación los huecos de la tecnología y terminan atribuyendo sentimientos o intenciones a sistemas que, en realidad, funcionan mediante complejos cálculos estadísticos.

Una tecnología que plantea preguntas inéditas

Para el filósofo, el desafío va más allá de la seguridad o de los posibles errores de los modelos. La verdadera cuestión es que la inteligencia artificial está obligando a replantearse conceptos fundamentales sobre la inteligencia, la conciencia o la propia naturaleza humana.

"No es una persona, pero tampoco encaja del todo en la idea tradicional de herramienta", viene a señalar Gabriel, que reconoce que todavía existe una enorme incertidumbre sobre cómo debe relacionarse la sociedad con esta nueva tecnología.

Mientras empresas como Google, OpenAI o Anthropic compiten por desarrollar sistemas cada vez más avanzados, el investigador cree que una de las claves estará en no perder de vista una idea básica.

Por muy convincentes que sean sus respuestas, por mucho que parezcan comprendernos o acompañarnos, las inteligencias artificiales siguen siendo máquinas. Y olvidar esa diferencia puede convertirse en uno de los mayores riesgos de la revolución tecnológica que ya está en marcha.