Manual de Buenas Prácticas para la Inteligencia Artificial en Medicina (y III)

Continuamos con el análisis de cuestiones clave que nos proporciona el Manual de Buenas Prácticas para la Inteligencia Artificial, desarrollado por la Organización Médica Colegial de España. En la parte I hemos analizado algunas preguntas clave (a, b, c y d) en la parte II otros apartados(e, f, g, h) y ahora continuamos con otras más. 

i) ¿Qué obligaciones tienen los hospitales como desplegadores? 

Bajo el marco de la Ley de Inteligencia Artificial de la Unión Europea (AI Act), los hospitales y centros sanitarios que incorporan sistemas de IA en su actividad profesional asumen el rol legal de desplegadores (deployers). Esto implica que la implantación de la IA en el ámbito clínico no es un espacio neutro, sino que está estrictamente configurada por un catálogo de deberes jurídicos y organizativos. 

De acuerdo con el artículo 26 del AI Act, estas obligaciones se dividen en tres grandes bloques: 

1. Uso conforme y medidas organizativas internas 

• Garantizar el uso conforme. El hospital debe adoptar las medidas técnicas y organizativas necesarias para asegurar que el sistema de IA se utiliza siguiendo las instrucciones de uso facilitadas por el proveedor. 

• Asignar supervisión humana real. La supervisión debe recaer en profesionales que cuenten con la competencia, formación y autoridad necesarias, asegurando además que dispongan del tiempo y los apoyos materiales idóneos para que este control sea real y efectivo (no meramente nominal). 

• Alfabetización en IA (AI literacy). El hospital tiene la obligación de implantar políticas de formación y alfabetización en IA para todo el personal que interactúe con las herramientas, de forma proporcional al riesgo de las mismas. 

2. Gestión de datos, funcionamiento y registro 

• Calidad de los datos de entrada. Se debe garantizar que los datos introducidos bajo el control del hospital sean pertinentes, de calidad y suficientemente representativos, conforme a las especificaciones del sistema. 

• Monitorización continua. El centro debe vigilar el funcionamiento del software de forma constante para detectar posibles sesgos, pérdida de rendimiento o funcionamientos anómalos, debiendo interrumpir su uso inmediatamente si se detecta un riesgo significativo para la seguridad o los derechos de las personas. 

• Conservación de registros (logs). El hospital debe conservar los registros generados de forma automática por el sistema bajo su control durante el periodo mínimo establecido por el Reglamento y la normativa sectorial aplicable. 

• Verificación de registro. Deben comprobar que el sistema de IA de alto riesgo está correctamente inscrito en la base de datos europea y abstenerse de utilizarlo si no cumple con este requisito. 

3. Transparencia, impacto en derechos y cooperación regulatoria 

• Informar a las personas afectadas. Existe la obligación de informar a los pacientes cuando se empleen sistemas de alto riesgo que tomen o apoyen decisiones de gran impacto sobre ellos, un deber que complementa las obligaciones informativas de la protección de datos (RGPD). 

• Evaluación de impacto en derechos fundamentales. En los supuestos del artículo 27 de la ley, el hospital debe realizar un estudio de impacto previo al despliegue, especialmente si se afecta de manera sistemática a colectivos vulnerables. 

• Gobernanza integrada de datos. Estas evaluaciones deben coordinarse de forma estrecha con las Evaluaciones de Impacto en Protección de Datos (DPIA) exigidas por el RGPD. 

• Notificación de incidentes graves. Si ocurre un incidente grave o se detecta una no conformidad, el hospital debe notificarlo de inmediato al proveedor y a las autoridades de vigilancia de mercado, cooperando en las acciones correctoras. 

El manual destaca de forma muy clara que estas obligaciones se añaden "sin perjuicio" de las responsabilidades que la institución ya asume en virtud de la legislación sanitaria general, de productos sanitarios, de protección de datos o de seguridad del paciente. Esto sitúa al hospital como el nodo central de la responsabilidad en el ecosistema, desplazando parcialmente el riesgo del médico aislado hacia la gobernanza de la propia organización. 

j) ¿Qué es el concepto de alfabetización en IA? 

La alfabetización en IA (AI literacy) es un concepto clave que el manual aborda tanto desde una perspectiva legal y de derechos, como desde un punto de vista puramente formativo y profesional. No se trata simplemente de aprender a usar un software, sino de adquirir la capacidad crítica para entender cómo funciona, cuáles son sus límites y cómo supervisarlo de forma segura. Se fundamenta en los siguientes aspectos fundamentales: 

1. Una obligación legal del hospital y un derecho del médico 

• Obligación para el "desplegador" (deployer): según el AI Act de la Unión Europea, las instituciones sanitarias (hospitales y centros de salud) están legalmente obligadas a implantar políticas de alfabetización en IA para todo el personal asistencial que interactúe con estos sistemas, de forma proporcional al nivel de riesgo de la herramienta. 

• Derecho a la formación: el médico tiene el derecho fundamental a recibir formación continua y acreditada sobre el funcionamiento de las herramientas de IA que su centro le exige utilizar, para evitar asumir un riesgo jurídico desproporcionado. De hecho, el manual señala que usar la IA con responsabilidad y poseer esta capacitación crítica ya forma parte del profesionalismo médico contemporáneo. 

2. ¿En qué consiste esta formación? (Contenido práctico) 

Para que un profesional sanitario esté adecuadamente "alfabetizado" en IA, debe disponer de una formación básica que le capacite para: 

• Comprender los datos de origen: conocer qué tipo de datos y poblaciones se han utilizado para entrenar los algoritmos, lo que resulta esencial para anticipar si la herramienta funcionará bien en el contexto demográfico de sus propios pacientes. 

• Interpretar las recomendaciones: comprender el significado real de las predicciones o alertas generadas por el sistema. 

• Identificar sesgos y limitaciones: saber en qué situaciones el rendimiento del modelo puede decaer (por ejemplo, imágenes de baja calidad o subgrupos de población infrarrepresentados) y detectar desviaciones sistemáticas. 

• Mantener una supervisión crítica: no caer en la "automatización ciega" u "obediencia algorítmica" (la tendencia a dar por buena la recomendación de la máquina solo por venir de un ordenador). La alfabetización proporciona los fundamentos técnicos para interrogar al algoritmo y decidir cuándo es clínicamente prudente rechazar o modificar su recomendación. 

3. "Alfabetización algorítmica clínica" 

En la práctica clínica diaria, esta alfabetización requiere que el médico entienda nociones básicas de sesgo algorítmico, validación clínica (interna, externa y local), métricas de rendimiento (sensibilidad, especificidad, AUC y tasas de falsos positivos/negativos) y límites de generalización (si un modelo entrenado en un entorno puede aplicarse a otro). 

En definitiva, la alfabetización en IA es la herramienta que permite al médico realizar una hermenéutica clínica, es decir, traducir los datos y estadísticas fríos generados por una máquina en un significado humano y compasivo, adaptado a la historia única de cada paciente. 

k) ¿Qué es la ficha técnica de una IA? 

La ficha técnica de una herramienta de IA clínica es un documento transparente y accesible para los profesionales sanitarios que les permite comprender exactamente cómo funciona el sistema de IA y cuáles son sus limitaciones antes de incorporarlo a su práctica asistencial. 

De acuerdo con el manual, para garantizar una correcta "alfabetización algorítmica" y evitar el efecto de "caja negra", toda herramienta de IA en el ámbito médico debería disponer de una ficha técnica que incluya, como mínimo, los siguientes ocho puntos fundamentales: 

1. Finalidad clínica: una descripción clara y precisa del propósito médico del sistema (por ejemplo, la "detección automática de retinopatía diabética en imágenes de fondo de ojo"). 

2. Tipo de algoritmo: explicación general del modelo matemático o computacional utilizado, como una "red neuronal convolucional entrenada con imágenes retinianas". 

3. Datos de entrenamiento: información detallada sobre el "combustible" del modelo, especificando el tamaño del conjunto de datos (dataset), su origen demográfico y geográfico, y las características específicas de la población de la cual provienen. 

4. Rendimiento del sistema: los indicadores y métricas de precisión clínica obtenidos en las pruebas, que deben incluir de forma obligatoria la sensibilidad, especificidad, el AUC (área bajo la curva) y las tasas de falsos positivos y falsos negativos. 

5. Limitaciones conocidas: advertencias explícitas sobre las situaciones en las que el rendimiento del algoritmo decae o no es fiable, por ejemplo, al procesar imágenes de baja calidad o al aplicarse en poblaciones no representadas en el entrenamiento. 

6. Clasificación como producto sanitario: identificación del nivel de riesgo regulatorio asignado al software (Clase I, IIa, IIb o III) y su correspondiente número de marcado CE, lo cual certifica su seguridad y conformidad legal para uso clínico. 

7. Requisitos técnicos: las especificaciones de infraestructura necesarias para su despliegue, incluyendo compatibilidad de hardware, conectividad, y su capacidad de integración con los sistemas locales (como la Historia Clínica Electrónica). 

8. Procedimiento de actualización: información clara sobre cómo se gestiona el mantenimiento del software, si se trata de un modelo fijo tradicional (que requiere parches o validaciones adicionales por versión) o de un modelo adaptativo con aprendizaje continuo. 

Esta ficha técnica es el recurso principal que tiene el médico para realizar una hermenéutica clínica, es decir, para traducir el frío porcentaje probabilístico de una máquina en una decisión prudente, personalizada y humana para su paciente 

l) ¿Qué es el checklist asistencial? 

El checklist asistencial (o lista de verificación para la evaluación de herramientas de IA antes de su implementación) es un instrumento práctico propuesto en el manual para que las instituciones sanitarias realicen un análisis previo, ordenado y sistemático de cualquier software de IA antes de incorporarlo a su práctica clínica diaria. Este documento sirve de apoyo directo a los directores médicos, gestores de salud y comités de evaluación tecnológica para asegurar que la innovación tecnológica no comprometa la seguridad ni la ética de la atención médica. 

El checklist se estructura en seis bloques fundamentales de evaluación: 

1. Evaluación clínica. Este bloque analiza si la herramienta responde a una necesidad real y cuenta con suficiente respaldo científico: 

• ¿Existe una necesidad clínica real en el centro que justifique la adopción de la herramienta? 

• ¿Se dispone de evidencia científica sólida que respalde su uso? 

• ¿Se han publicado estudios de validación clínica que verifiquen su rendimiento? 

2. Evaluación regulatoria. Garantiza que la IA cumpla con el marco legal europeo y los estándares de seguridad de los productos sanitarios: 

• ¿Está la herramienta oficialmente clasificada como producto sanitario? 

• ¿Cuenta con el correspondiente marcado CE que autorice su uso clínico? 

• ¿Se conoce con exactitud su nivel de riesgo regulatorio (Clase I, IIa, IIb o III)? 

3. Evaluación técnica. Evalúa si la infraestructura tecnológica del hospital está preparada para acoger el sistema: 

• ¿Es interoperable con la Historia Clínica Electrónica (HCE) del centro? 

• ¿Utiliza los estándares de comunicación sanitaria internacionales (como HL7, FHIR o DICOM para imagen médica)? 

• ¿Cuál será el impacto e infraestructura tecnológica que requerirá para su soporte local? 

4. Evaluación del algoritmo. Abre la denominada "caja negra" para que los profesionales entiendan el motor matemático del sistema: 

• ¿Se conoce con transparencia el tipo de modelo computacional utilizado? 

• ¿Se dispone de información precisa sobre la representatividad y origen de sus datos de entrenamiento? 

• ¿Se conocen al detalle las limitaciones del sistema (situaciones donde pierde rendimiento o precisión)? 

5. Evaluación operativa. Prevé el impacto real de la herramienta en la rutina diaria del personal asistencial: 

• ¿Se integra de manera natural en el flujo de trabajo clínico habitual (o va a generar duplicidad de tareas)? 

• ¿Se ha planificado formalmente la formación y alfabetización en IA de los profesionales sanitarios que la usarán? 

• ¿Se ha definido un protocolo de monitorización del rendimiento para vigilar el comportamiento del software tras su despliegue? 

6. Seguridad y ética. Asegura que el uso de la IA preserve la dignidad algorítmica y la confidencialidad del paciente: 

• ¿Cómo se gestionan, almacenan y protegen los datos clínicos de los pacientes? 

• ¿Existe una supervisión humana permanente (human-in-the-loop) sobre las recomendaciones o decisiones críticas de salud? 

• ¿Se ha realizado un análisis para identificar y prevenir el riesgo de sesgos en el algoritmo? 

La aplicación rigurosa de este checklist actúa como una barrera de seguridad preventiva, ya que el manual advierte de que el uso clínico de sistemas de IA no certificados o no evaluados puede generar graves fallos en la seguridad del paciente y responsabilidades legales directas para el hospital.

  

Cine y Pediatría (870) “Los niños de la Resistencia”, cuando la lucha frente a la injusticia no tiene edad

La historia de la humanidad está asociada a sus guerras, quizás la mayor constatación del fracaso del ser humano. Y no debiéramos ser ajenos a su denuncia, también desde el séptimo arte. Y por ello publicamos hace unos años el artículo “Las violaciones contra la infancia en los conflictos bélicos, una denuncia de cine”, en el que recopilamos un conjunto de seis decenas de películas clasificadas en tres apartados: a) La infancia en la Guerra (y postguerra) Civil Española, con ejemplos como El espíritu de la colmena (Víctor Erice, 1973), La guerra de papá (Antonio Mercero, 1977), La lengua de las mariposas (José Luis Cuerda, 1999), Las 13 rosas (Emilio Martínez-Lázaro, 2007) o El maestro que prometió el mar (Patricia Font, 2023); b) La infancia en la Segunda Guerra Mundial, con ejemplos como Alemania, año cero (Roberto Rossellini, 1948), La infancia de Iván (Andrei Tarkovsky, 1962), El tambor de hojalata (Volker Schöndorff, 1979), La vida es bella (Roberto Benigni, 1997) o El niño con el pijama de rayas (Mark Herman, 2008); c) La infancia y otras guerras, con ejemplos como Los juncos salvajes (André Téchiné, 1994), Voces inocentes (Luis Mandoki, 2004), Nacido en Gaza (Hernán Zin, 2014), Pequeño país (Eric Barbier,2020) o Belfast (Kenneth Branagh, 2021).               

Historias de cine desde todas las filmografías que combinan realidad y ficción, pasado y presente, y que deben prescribirse en escuelas y familias (y, por qué no, también nuestras consultas pediátricas) para denunciar la continua violación de los derechos de la infancia en las guerras. Y con las emociones y reflexiones que nos devuelven buscar un mundo en paz y con mayor sintonía. 

Y hoy incluimos un título más a esta interminable lista: la película francesa Los niños de la Resistencia (Christophe Barratier, 2026), basada en la exitosa serie de cómic homónima creada por Vincent Dugomier y Benoît Ers. La historia se desarrolla en 1940-1941, durante la ocupación nazi de Francia, en el pequeño pueblo ficticio de Pontain l'Écluse, situado cerca de la línea de demarcación que dividía la Francia ocupada de la zona libre. Y comienza así: “Verano de 1939. Pontain-l´Ecluse, un pequeño pueblo anidado en el corazón de Francia…” Lo que nos dará idea de la vida antes de la ocupación nazi, donde se refleja el reclutamiento de padres y hermanos, así como la huida de muchos vecinos ante el avance de los alemanes. 

La trama sigue a tres niños: François, Eusèbe y Lisa, cuya apacible infancia da un vuelco cuando los alemanes invaden su pueblo y comienzan a imponer restricciones, delaciones y un clima de miedo y resignación entre los adultos. Negándose a cruzarse de brazos ante la injusticia, el trío decide tomar cartas en el asunto de manera secreta, adoptando el nombre clandestino de «El Lince», y se dedican a enviar octavillas subversivas y a orquestar misiones de sabotaje contra los ocupantes: “El pueblo estaba dormido y lo hemos despertado”, comentan entre ellos al ver el resultado de sus acciones. Llamativa la celebración, pese a la prohibición de la Gestapo, del 11 de noviembre, Día del Armisticio, una fiesta nacional que conmemora el fin de los combates de la Primera Guerra Mundial y que rinde homenaje a los soldados caídos por el país. 

El ejemplo de François, Eusèbe y Lisa (esta es acogida en la familia de François, pese a los celos de éste) acaba despertando la conciencia de quienes, hasta ese momento, habían guardado silencio ante la injusticia. La película, heredera del cómic, culmina con un mensaje esperanzador: la amistad y la lealtad pueden ser armas poderosas para defender la libertad, incluso en los tiempos más oscuros. 

Dos nombres destacan en el elenco del film: su director, Christophe Barratier, quien saltó a la fama internacional con la afamada Los chicos del coro (2004), una película que también exploraba temas de infancia, resistencia emocional y el poder transformador de la solidaridad en contextos difíciles; y el actor con Gérard Jugnot, que aquí hace un pequeño papel de cura, pero que fue el actor principal que interpretó al mítico profesor Mathieu en Los chicos del coro.  

Pese al tono edulcorado de la historia, no deja de ser una oportunidad para conocer un poco más lo que significó la Resistencia francesa, ese conjunto de movimientos clandestinos civil y militar que combatieron la ocupación de la Alemania nazi y al régimen colaboracionista de Vichy. Operó entre 1940 y 1944, fragmentada en diversas facciones ideológicas que finalmente lograron unificarse para apoyar la liberación de Francia junto a las fuerzas aliadas. Y recordamos que la oposición al fascismo se organizó desde dos ámbitos conectados pero distintos: la Resistencia Exterior, liderada desde Londres por el general Charles de Gaulle a través del movimiento de la Francia Libre; y la Resistencia Interior, grupos clandestinos dentro del territorio ocupado conocidos popularmente como los Maquis. El funcionario francés Jean Moulin logró unificar las redes internas bajo las órdenes de De Gaulle en 1943, creando el Consejo Nacional de la Resistencia y cuyo métodos de operación incluían el sabotaje de líneas ferroviarias, corte de comunicaciones y asalto a convoyes militares alemanes, la guerra de información a través de diarios clandestinos, la evasión de refugiados y la colaboración internacional (destacando los republicanos españoles exiliados). 

Una película aparentemente sencilla, pero con trasfondo y que nos permite reflexionar sobre varios temas: que la resistencia no es cuestión de edad y los niños y niñas no son meros espectadores pasivos de la historia, pero también sobre el peligro del silencio y la resignación adulta, y sobre la amistad como arma de resistencia y lucha. En síntesis, Los niños de la Resistencia pertenece a esa categoría de relatos que atraviesan generaciones porque su mensaje esencial sigue vivo: la injusticia no siempre se impone porque sea invencible, sino porque demasiadas personas terminan aceptando que no merece la pena combatirla. El ejemplo de François, Eusèbe y Lisa nos recuerda que la libertad se defiende con acciones concretas, por pequeñas que sean, y que nadie es demasiado pequeño para hacer  la diferencia.

Manual de Buenas Prácticas para la Inteligencia Artificial en Medicina (II)

Continuamos con el análisis de cuestiones clave que nos proporciona el Manual de Buenas Prácticas para la Inteligencia Artificial, desarrollado por la Organización Médica Colegial de España. En la parte I hemos analizado algunas preguntas clave (a, b, c y d), y ahora continuamos con otras más. 

e) ¿Qué es la objeción de conciencia tecnológica? 

La objeción de conciencia tecnológica es un derecho emergente de los profesionales sanitarios a negarse, de forma motivada y documentada, a utilizar un sistema concreto de IA o de automatización clínica cuando consideren que su uso compromete la seguridad, la dignidad o la adecuada atención del paciente, o bien cuando el sistema carezca de evidencia suficiente o perpetúe sesgos. 

El manual aclara que no se trata de un rechazo genérico a la tecnología ni de una resistencia irracional al cambio, sino de una postura profesional ante herramientas específicas percibidas como inseguras o incompatibles con la lex artis. Esta figura ética y profesional se fundamenta en la intersección de tres pilares: 1) la autonomía profesional e independencia clínica del médico; 2) el deber de no maleficencia y de protección de la integridad del paciente (basado en la primacía del ser humano establecida en el Convenio de Oviedo); y 3) el marco regulatorio de la IA, que exige por ley una supervisión humana eficaz sobre los sistemas de alto riesgo (human-in-the-loop). 

En el contexto español, el manual propone entender esta figura como una extensión de la "objeción de ciencia", que es el rechazo razonado de una directriz por motivos científicos que se oponen a la libertad de método o prescripción del médico. Aunque el término no está todavía positivizado (recogido formalmente en las leyes), existen tendencias convergentes en países como Francia, Alemania, Canadá o Estados Unidos bajo el principio de que ningún médico puede ser obligado a usar una IA que considere incompatible con la buena praxis y la seguridad del paciente. 

He aquí cuatro escenarios prácticos donde un médico podría recurrir a esta objeción: 

• Triaje automatizado con criterios injustificados. Si un hospital implanta un algoritmo de triaje en urgencias que discrimina silenciosamente (por ejemplo, priorizando menos a personas mayores que viven solas basándose en variables sociodemográficas sin justificación clínica), el médico puede negarse a usarlo y realizar el triaje tradicional. 

• Sistemas de ayuda al diagnóstico "caja negra" con falsos negativos. Si un servicio de radiología adopta un sistema de detección de nódulos pulmonares que genera falsos negativos y el fabricante se niega a abrir su código o compartir sus bases de validación, el radiólogo puede objetar y exigir realizar su propia lectura sistemática e independiente. 

• Modelos no adaptados al contexto local. Si una IA de predicción quirúrgica entrenada en hospitales de gran volumen comete errores graves al aplicarse en un hospital comarcal (infravalorando complicaciones en población anciana pluripatológica), el cirujano puede objetar su uso hasta que el modelo se recalibre localmente. 

• Automatización excesiva en salud mental. Si una institución sanitaria decide sustituir consultas presenciales por un chatbot automatizado para el seguimiento de pacientes con ideación suicida, el psiquiatra puede oponerse por considerar que la herramienta no garantiza la contención emocional ni la detección de riesgos graves. 

En todos estos casos, la objeción defiende que la tecnología debe ser el instrumento y el cuidado humano el fin. 

f) ¿Qué son los derechos de cuarta generación? 

Los derechos de cuarta generación surgen como respuesta a la irrupción de la IA y las tecnologías digitales en la sociedad. Según el manual, no sustituyen a los derechos fundamentales clásicos, sino que los reformulan y adaptan a un entorno dominado por los datos, los algoritmos y las decisiones automatizadas. 

En el ámbito de la medicina, estos derechos se estructuran bajo las siguientes claves: 

1. La dimensión dual y la "dignidad algorítmica". 

Mientras que el siglo XX consolidó el derecho a la protección de la salud como un derecho social, el siglo XXI exige incorporar el concepto de dignidad algorítmica. Esta dignidad tiene una doble dirección: protege tanto a los pacientes que reciben los cuidados como a los profesionales que los prestan, garantizando que ninguno de ellos sea tratado como un mero conjunto de datos o un objeto de optimización estadística. 

2. Contenido esencial de estos derechos digitales. En el entorno sanitario, este haz de garantías digitales se traduce en aspectos muy concretos: 

• Derecho a no someterse a decisiones 100% automatizadas. El paciente tiene la garantía de que cualquier decisión clínicamente relevante (como un diagnóstico, pronóstico o la priorización de un recurso asistencial) no se dejará exclusivamente en manos de un algoritmo, requiriendo siempre la intervención de un profesional humano. 

• Explicabilidad y transparencia algorítmica. El derecho a recibir una explicación comprensible sobre cómo y por qué una herramienta de IA ha tomado o sugerido una determinada decisión clínica que afecta a su salud. 

• Protección de datos y privacidad avanzada. Incluye la salvaguarda de la identidad digital y de información altamente sensible, como la privacidad de los neurodatos. • Protección frente a sesgos y discriminación. El derecho a no ser discriminado de forma silenciosa por algoritmos que puedan perpetuar desigualdades sociodemográficas o de otra índole. 

3. Los tres pilares para su aplicación práctica. 

Para evitar que estos derechos sean vulnerados de forma invisible por los modelos algorítmicos, el manual establece que el uso de la IA debe sostenerse sobre tres pilares normativos y organizativos: 

• Transparencia útil para decidir: información clara y accesible tanto para el médico como para el paciente. 

• Gobernanza clínica robusta: estructuras institucionales que refuercen la autonomía y la independencia clínica del profesional. 

• Responsabilidad proporcionada: un reparto justo del riesgo y de las responsabilidades entre los proveedores tecnológicos, las instituciones sanitarias y los médicos. 

El objetivo final de consagrar estos derechos de cuarta generación es alcanzar un derecho a la "salud aumentada", un modelo donde la tecnología expanda nuestras capacidades analíticas pero preserve intacto el pulso humano de la relación médico-paciente. 

g) ¿Qué es la dignidad algorítmica? 

La dignidad algorítmica es un principio ético y profesional fundamental que defiende que los pacientes son personas con una dignidad e individualidad intrínseca y, por lo tanto, nunca deben ser tratados como meras predicciones estadísticas. Este concepto surge en el siglo XXI como una respuesta necesaria a la era digital, adaptando los derechos tradicionales para asegurar que el uso de los datos y los algoritmos respete la vulnerabilidad humana. 

La dignidad algorítmica se sostiene sobre las siguientes bases fundamentales: 

• No instrumentalizar al paciente. Este principio establece que el paciente es el fin en sí mismo y no un medio, por lo que está prohibido tratarlo como un objeto de optimización. En medicina, "optimizar" no es maximizar variables abstractas como la eficiencia de los procesos, el flujo de camas o la reducción de costes institucionales, sino realizar una acción clínicamente prudente en condiciones de incertidumbre y respeto a la persona. 

• Dimensión dual. La dignidad algorítmica tiene una doble dirección. Protege tanto a los pacientes que reciben los cuidados (evitando que su salud sea decidida por un estándar frío y despersonalizado) como a los profesionales que los prestan, garantizando que su criterio clínico y su independencia no sean anulados por métricas de control o imposiciones de un software. 

• Límite ante abusos silenciosos. El manual advierte que las herramientas algorítmicas pueden erosionar la dignidad del paciente de manera invisible, por lo que la ética médica debe imponer límites estrictos contra la manipulación, la explotación de vulnerabilidades y la discriminación automática. Algunos de estos riesgos sutiles que atentan contra la dignidad son: Sistemas de IA que orientan al paciente hacia opciones de tratamiento preferidas por los intereses económicos o de gestión de la institución; Chatbots interactivos que pretenden sustituir la verdadera escucha y acompañamiento del médico por guiones prefabricados;  Algoritmos de estratificación o predicción que terminan penalizando socialmente al enfermo crónico. 

En definitiva, la dignidad algorítmica es la garantía de que, por muy avanzada que sea la tecnología, el sufrimiento y el proceso de enfermar de una persona jamás podrán reducirse por completo a variables numéricas o flujos de datos 

h) ¿Cuáles son los principios éticos para implementar IA en consulta? 

Para implementar la IA en la consulta, el manual determina que la ética y la deontología no deben actuar como un freno externo, sino como la brújula interna de la profesión médica. Esta visión se articula a través de dos dimensiones: la relectura de los principios clásicos de la bioética clínica y la aplicación de diez criterios deontológicos operativos. 

1. Relectura de la Bioética Clínica ante la IA 

El manual adapta los cuatro principios clásicos para dar respuesta a los nuevos desafíos tecnológicos: 

• Autonomía (Consentimiento e Información). Exige que el paciente mantenga la capacidad de comprender, deliberar y decidir. Para ello, el médico debe ofrecer una explicación clínica inteligible de la recomendación de la IA, detallando las variables relevantes consideradas por el algoritmo, sus límites, la incertidumbre y la posibilidad de una segunda opinión. El consentimiento informado debe adaptarse de forma moralmente significativa, aclarando el papel exacto del sistema en la decisión y el margen de intervención que retiene el médico. 

• Beneficencia (Utilidad y Evidencia). Obliga a demostrar que el rendimiento del algoritmo se traduce en un beneficio clínico real en salud, sufrimiento o calidad de vida, y no solo en una métrica técnica abstracta. Requiere una validación clínica rigurosa, validez local adaptada al contexto del centro y una monitorización continua para evitar que el envejecimiento de los modelos (drift) altere los resultados. 

• No Maleficencia (Seguridad y Control de Daños). Demanda instaurar barreras frente a tres tipos de daño: el daño por error algorítmico (como falsos negativos o positivos), el daño por automatización (complacencia y pérdida de vigilancia del médico) y el daño sistémico (cuando el algoritmo introduce políticas que perjudican a pacientes complejos). Exige controles humanos, umbrales de alerta y cultura de notificación de incidentes. 

• Justicia (Equidad y Sesgos). Dado que la IA aprende de datos históricos, existe el riesgo de que perpetúe injusticias del pasado bajo una apariencia de neutralidad. La justicia exige realizar auditorías de equidad y corregir activamente los sesgos en los datos, objetivos y despliegue del sistema. 

2. Diez Criterios Deontológicos Operativos 

Como "prueba moral" para autorizar el uso de un sistema en consulta, el manual propone diez pautas de acción concretas: 

1. Finalidad clínica legítima. El objetivo del sistema debe ser mejorar la salud del paciente y el cuidado, no la vigilancia ni el racionamiento encubierto de recursos. 

2. Evidencia de beneficio. No basta con que el sistema tenga alta precisión matemática; se requiere demostrar su impacto positivo en las decisiones médicas reales. 

3. Explicación clínica suficiente. El profesional debe ser capaz de justificar de manera comprensible la recomendación del algoritmo y su margen de incertidumbre. 

4. Consentimiento significativo. Informar claramente al paciente del papel que juega la IA en su atención, sus alternativas y la supervisión humana aplicada. 

5. Equidad y auditoría. Evaluar de forma continua el desempeño por subgrupos (sexo, edad, origen) para corregir activamente sesgos discriminatorios. 

6. Privacidad por diseño. Aplicar principios de minimización de datos de salud, control estricto de accesos y limitaciones a los usos secundarios de la información. 

7. Trazabilidad y registro. Mantener un registro del ciclo de vida del sistema, sus versiones, cambios realizados, incidencias y revisiones. 

8. Supervisión humana real. Garantizar la posibilidad efectiva de que el médico anule, corrija o escale las decisiones sugeridas por el sistema. 

9. Responsabilidad distribuida sin dilución. Definir con total claridad los roles y responsabilidades del médico, de la institución y del proveedor del software. 

10. Preservación del vínculo clínico. La tecnología debe servir para liberar tiempo clínico que se dedique al cuidado directo del paciente, sin sustituir jamás el compromiso y la relación fiduciaria médico-paciente. 

En última instancia, el manual insiste en que el núcleo moral del acto médico radica en que la responsabilidad clínica siempre es indelegable, el paciente es una persona con dignidad y la relación de confianza no es reducible a un software.