Guillem Alsina Gonzàlez
La capacidad de los modelos de inteligencia artificial para resultar cercanos y perceptivos abre oportunidades, pero también exige cautelas, puesto que muchas personas lo utilizan como ayuda en temas personales.
Es por ello que OpenAI ha anunciado un conjunto de medidas para que ChatGPT gestione mejor las consultas relacionadas con el bienestar psicológico y las decisiones personales delicadas. La firma reconoce que, en situaciones puntuales, su modelo 4o no detectó adecuadamente signos de delirio o dependencia emocional, y subraya que está perfeccionando sus algoritmos para identificar estas circunstancias y dirigir al usuario hacia recursos basados en evidencias científicas.
Entre las novedades, que OpenAI ya ha empezado a desplegar en el chatbot, los usuarios recibirán recordatorios suaves cuando una sesión de conversación se prolongue en exceso, con el fin de fomentar pausas regulares y mantener el control del tiempo que pasan interactuando con la herramienta. Este ajuste se calibrará progresivamente para que resulte útil sin interrumpir la experiencia.
Otra modificación afectará a las consultas de alto riesgo emocional, como la clásica duda sentimental sobre si poner fin a una relación. En esas situaciones, el sistema evitará emitir un veredicto; en su lugar, invitará al interlocutor a reflexionar mediante preguntas, a sopesar ventajas e inconvenientes y, cuando proceda, lo dirigirá hacia ayuda profesional. Este comportamiento se desplegará en las próximas semanas.
Hecho en colaboración con la comunidad médica y académica
Para llevar a cabo estos cambios, OpenAI ha trabajado con más de 90 médicos de más de 30 países —entre ellos psiquiatras, pediatras y médicos de familia— que han contribuido a diseñar rúbricas específicas para evaluar conversaciones complejas y prolongadas. Además, investigadores en interacción persona-ordenador y profesionales clínicos externos han revisado los métodos de detección de comportamientos preocupantes, y han puesto a prueba las nuevas salvaguardas.
La compañía también ha convocado un grupo asesor permanente formado por especialistas en salud mental, desarrollo juvenil e interacción hombre-máquina, encargado de supervisar la evolución del producto y asegurar la alineación con las mejores prácticas actuales. OpenAI afirma que seguirá publicando información conforme avance este trabajo.
Mirando al futuro, la empresa mantiene el objetivo de que cualquier usuario que recurra a ChatGPT en un momento difícil obtenga una ayuda que tranquilice a sus familiares y allegados. El compromiso, subraya OpenAI, pasa por ajustar de forma continua los modelos a partir del uso real y de la evidencia científica disponible.
