Marc Sureda
La paulatina integración de sistemas algorítmicos en el sector médico abarca actualmente áreas que van desde el escrutinio de pruebas visuales hasta la generación de historiales resumidos o la estimación de contingencias. Para gestionar este avance tecnológico, la Secretaría General de Salud Digital, Información e Innovación del Sistema Nacional de Salud ha elaborado un manual dirigido al personal encargado de la adopción y el manejo de herramientas de IA en los centros asistenciales.
El objetivo principal de este texto es asegurar un uso prudente de estos recursos tecnológicos. Para lograrlo, el documento incide en la necesidad de mantener el control humano, resguardar la privacidad de los usuarios, confirmar la eficacia del software, y capacitar las plantillas.
En el ámbito de la confidencialidad de los datos, el manual prohíbe explícitamente la introducción de información personal o historiales identificables en plataformas que carezcan de autorización clínica o que no proporcionen las medidas de seguridad normativas requeridas.
Desde el ámbito de la asesoría y gestión hospitalaria, Ruth Cuscó, directora gerente de ASHO, señala: “La incorporación de la inteligencia artificial a la práctica sanitaria abre nuevas posibilidades para mejorar y agilizar determinados procesos, pero también plantea la necesidad de establecer criterios claros sobre cómo y cuándo deben utilizarse estas herramientas. Esta guía supone un paso importante para avanzar hacia una integración de la IA que combine innovación, seguridad y responsabilidad profesional.
La IA puede ayudar a procesar información y agilizar determinados procesos sanitarios, pero el profesional debe mantener en todo momento la capacidad de revisar, cuestionar y, cuando sea necesario, rechazar el resultado generado por la herramienta”.
Una premisa fundamental del documento gubernamental es que el software debe actuar únicamente como un mecanismo de asistencia, sin reemplazar en ningún caso el juicio del facultativo. Antes de aplicar cualquier sugerencia generada por un modelo de IA, el experto sanitario está obligado a examinarla, compararla con la evidencia científica disponible y evaluar su pertinencia para las particularidades concretas del paciente al que está tratando.
En el terreno jurídico y administrativo, la guía aclara que la tecnología carece de entidad legal, por lo que la responsabilidad de las decisiones no se transfiere al programa informático. Dependiendo del contexto en el que se utilice, las consecuencias de una decisión médica recaerán sobre el especialista o el centro hospitalario. Dejando abierta una posible responsabilidad del fabricante tecnológico solamente en el supuesto de que el sistema presente defectos de funcionamiento.
Por consiguiente, el texto insiste en que los profesionales deben conocer las limitaciones técnicas de los sistemas que operan y supervisar los resultados para poder justificar los tratamientos adoptados. En el caso de que la recomendación del software contradiga la práctica clínica habitual, el personal sanitario deberá anteponer la seguridad del enfermo, dejar constancia documental de la diferencia de criterio en el historial, y evitar fundamentar sus acciones exclusivamente en el algoritmo.
