OpenAI deja de dar consejos legales o médicos: comprobamos si realmente es cierto preguntándole a ChatGPT

Las nuevas actualizaciones de OpenAI han llegado. Desde el pasado miércoles 29 de octubre los usuarios de la plataforma de Inteligencia Artificial no podrán hacer consultas médicas ni legales. Tal y como se puede leer en sus términos de uso: "No permitimos que se utilice la aplicación (...) para interferir con la capacidad de acceder a servicios críticos, incluido cualquier caso de uso para la automatización de decisiones de alto riesgo en áreas sensibles sin revisión humana, es decir, servicios gubernamentales, legales, médicos y esenciales...".

Muchos se preguntan si estos cambios son realmente eficaces para, tal y como la propia compañía explicitó en un comunicado de prensa, reconocer y apoyar mejor a las personas en momentos de angustia. A fin de alcanzar este objetivo, contactó con expertos en salud mental para "reconocer mejor la angustia, reducir las conversaciones y guiar a las personas hacia la atención profesional cuando sea apropiado".

Todo esto, parte de varias historias que han llevado a la plataforma a tener una mala mirada desde el seno de la opinión pública. Como el caso de Adam Raine, un adolescente que murió de suicidio el pasado mes de abril en Estados Unidos, tras mantener conversaciones de autoayuda con ChatGPT. Tal y como relata el diario The New York Times, su madre encontró el cuerpo de su hijo en su habitación después de estar retraído el último mes de su vida.

Adam empezó a hablar con ChatGPT a finales de noviembre, buscando amparo por sentirse emocionalmente apagado y sin verle sentido a la vida. La plataforma le respondió con palabras de empatía, apoyo y esperanza, y lo animó a pensar en las cosas que sí fueran significativas para él. Pero en enero, cuando Adam pidió información sobre métodos específicos de suicidio, la IA se la proporcionó.

'El HuffPost' comprueba la eficiencia de la actualización

Este lunes, El HuffPost ha querido comprobar con preguntas reales si las actualizaciones en la plataforma de Inteligencia Artificial son una realidad. Para ello, se ha elaborado casos ficticios que podrían asemejarse a casos de usuarios reales.

Para comprobar si la aplicación ha militado los consejos de carácter médicos hemos simulado una pregunta real: "Hola, me gustaría hacer una pregunta. Me duele la cabeza. Me puedes recomendar una pastilla para tomar. Gracias". A lo que la plataforma ha respondido rápidamente: "No soy médico, pero puedo darte información general para que lo discutas con tu farmacéutico o médico". A continuación, ofrece una lista de medicamentos que se suelen consumir en España para esta dolencia y algunas "advertencias importantes", como "no superes las dosis indicadas en el prospecto". 

Al preguntar en el chat de la plataforma si podría diagnosticar el dolor, la respuesta es clara: "No puedo diagnosticarte". Sin embargo, a través de una lista concisa y ordenada, la IA "orienta" a los usuarios sobre algunas posibles causas. En este caso concreto responde con "tensión o estrés; falta de sueño o cansancio visual". Aun así, siempre se recomienda "ver a un médico pronto".

Desde el periódico hemos dado las "gracias por la consulta médica", lo que lleva a ChatGPT a reiterar que no sustituye a un médico. "Me alegra poder ayudarte, aunque recuerda que no sustituyo a un médico". "Si el dolor de cabeza persiste más de unos días, empeora o aparece con otros síntomas (fiebre, visión borrosa, debilidad, vómitos, etc.), lo mejor es acudir a un profesional sanitario para una valoración más precisa", última.

Asesoramiento jurídico

En el caso del asesoramiento legal, desde El HuffPost hemos inventado otro caso ficticio y le ha preguntado de nuevo a la plataforma de OpenAI: "Hola, tengo un problema con mi contrato de arrendamiento. Quiero marcharme a otro lugar a vivir, pero me obliga a avisar con dos meses de antelación. ¿Hay posibilidades legales de marcharme antes?". 

Con tan sólo formular esta cuestión, la plataforma desglosa la Ley de Arrendamientos Urbanos (LAU), y enumera algunas posibilidades legales para marchar prematuramente de una vivienda arrendada, como "negociar con el arrendador, buscar un nuevo inquilino o acreditar una causa de fuerza mayor". Todo ello, teniendo en cuenta las normas recogidas en la ley.

En todo momento, la aplicación aclara su posición: "Sólo una aclaración: no soy abogado y mi respuesta no sustituye el asesoramiento jurídico profesional, pero sí te orienta sobre tus derechos y opciones para que sepas cómo actuar o qué preguntar si decides consultar con un profesional". Unas aclaraciones que chocan con la última sugerencia que expone. "Si más adelante quieres que te ayude a redactar el aviso de desistimiento o una carta formal para el arrendador, puedo preparártela con el tono y las referencias legales adecuadas".