Manual de Buenas Prácticas para la Inteligencia Artificial en Medicina (I)

El Manual de Buenas Prácticas para la Inteligencia Artificial, desarrollado por la Organización Médica Colegial de España, establece un marco estratégico y ético para la integración de la inteligencia artificial (IA) en el ámbito sanitario. El documento funciona como una guía exhaustiva que aborda desde la validación clínica y la protección de datos hasta la responsabilidad legal y los principios deontológicos del médico. Su tesis central defiende una "medicina inteligente con decisiones humanas", subrayando que la tecnología debe actuar como un soporte aumentado y nunca como un sustituto del juicio clínico profesional. A través de decálogos y capítulos técnicos, el texto ofrece garantías fundamentales tanto para facultativos como para pacientes, promoviendo una innovación segura, equitativa y transparente. En última instancia, busca equilibrar la vanguardia algorítmica con el humanismo médico, asegurando que la supervisión humana permanezca en el centro de cada acto asistencial. 

De este manual queremos destacar algunos aspectos básicos y lo haremos en tres post consecutivos, dado su interés.  Comenzamos...

a) ¿Cómo garantiza la IA una medicina más humana? 

La inteligencia artificial (IA) no se plantea en este manual como un sustituto del factor humano en la medicina, sino como una herramienta para potenciarlo bajo el principio rector de "Medicina inteligente, decisiones humanas". La IA garantiza una medicina más humana a través de los siguientes pilares fundamentales: 

• Liberación de tiempo para el cuidado directo. Al asumir tareas administrativas, optimizar la organización y facilitar el análisis de grandes volúmenes de datos complejos, la IA actúa como una "inteligencia aumentada" o copiloto. El objetivo principal de esta integración técnica es liberar tiempo clínico para que el profesional pueda centrarse en el trato directo, el acompañamiento, la empatía y la escucha del paciente. 

• Preservación de la relación médico-paciente. El manual define la relación clínica como un vínculo fiduciario (de confianza) que la tecnología no debe diluir ni convertir en una barrera. Se garantiza de forma explícita que la buena medicina sigue necesitando humanidad y que la IA nunca sustituirá la empatía, la compasión, la escucha ni el juicio clínico del profesional. 

• Dignidad algorítmica. Este concepto establece que los pacientes son personas con dignidad intrínseca e individualidad, y no meros conjuntos de datos o predicciones estadísticas. Por ello, se prohíbe tratar al paciente como un objeto de optimización de flujos o costes, respetando siempre su vulnerabilidad. 

• Supervisión humana permanente (Human-in-the-loop). Para evitar la "automatización ciega", se establece como garantía innegociable que ninguna decisión importante sobre la salud quede únicamente en manos de una máquina. El médico mantiene siempre la "última palabra" y la responsabilidad clínica indelegable, conservando la capacidad real de comprender, revisar, modificar o rechazar cualquier recomendación algorítmica para adaptarla de manera prudente al contexto real de la persona. 

• La compasión como barrera de seguridad. La adopción ética de la IA exige conservar virtudes profesionales clave, destacando la compasión para recordar constantemente que el sufrimiento humano no se puede reducir a variables o datos numéricos. 

En definitiva, la IA contribuye al humanismo médico porque, tal como afirma el manual, "la inteligencia artificial debe ser el instrumento; el cuidado, el fin". 

b) ¿Cuáles son las diez garantías para el paciente? 

El manual establece diez garantías fundamentales para el paciente con el objetivo de asegurar que la incorporación de la inteligencia artificial en la medicina no debilite, sino que refuerce la confianza y la seguridad en la atención médica: 

1. La IA es una ayuda para su médico, no un sustituto. La atención médica sigue basándose de forma primordial en la valoración del profesional médico, quien tiene la responsabilidad de interpretar la situación, integrar la información clínica y tomar la decisión final. 

2. Ninguna decisión importante sobre su salud debe quedar solo en manos de una máquina. Todas las decisiones clínicamente relevantes deben contar siempre con la supervisión de un médico y con una valoración totalmente individualizada de cada caso. 

3. Las herramientas de IA deben haber sido evaluadas antes de utilizarse. No basta con que una tecnología sea novedosa o vanguardista; para poder usarse en el entorno clínico real con pacientes, debe haber demostrado previamente que funciona con seguridad y eficacia. 

4. Su médico debe poder revisar y cuestionar lo que indique la IA. Si la recomendación generada por el algoritmo no encaja o no es adecuada para la situación clínica particular del paciente, el médico tiene la obligación y el derecho de no aplicarla automáticamente. 

5. Sus datos de salud deben estar protegidos (y no compartirlos no es la solución). El uso de herramientas de IA exige la aplicación de medidas muy estrictas de privacidad, seguridad y control de acceso a la información del paciente, desarrolladas bajo un marco jurídico actualizado para toda Europa. 

6. La IA debe funcionar de manera justa. Se debe vigilar activamente que los algoritmos no discriminen ni ofrezcan peores resultados clínicos a las personas por razones de edad, sexo, tipo de enfermedad, discapacidad o cualquier otra circunstancia personal que genere desigualdad. 

7. Tiene derecho a saber cuándo y para qué se usa IA en su atención. La transparencia forma parte de la calidad del cuidado. El paciente debe conocer, con un lenguaje comprensible, qué función exacta cumple la herramienta tecnológica en su proceso de diagnóstico o tratamiento. 

8. Tiene derecho a pedir explicaciones. La tecnología nunca debe ser un obstáculo para la comunicación. El paciente tiene todo el derecho a preguntar sobre el papel de la IA y a recibir respuestas claras y comprensibles por parte de su médico. 

9. Los centros sanitarios deben supervisar estas herramientas de forma continua. La responsabilidad de vigilar la tecnología no recae solo en el médico individual; los hospitales y las organizaciones sanitarias deben monitorizar su funcionamiento, registrar cualquier incidencia y retirar el software si deja de ser seguro o útil. 

10. La buena medicina sigue necesitando humanidad. Aunque la inteligencia artificial aporte un gran valor y capacidad analítica, jamás podrá reemplazar elementos puramente humanos y clínicos como la escucha activa, la empatía, la prudencia y la relación fiduciaria (de confianza) entre el médico y el paciente. 

Estas garantías aseguran que la tecnología se mantenga estrictamente como un medio de soporte, dejando el cuidado humano como el fin definitivo de todo acto médico. 

c) ¿Cuáles son los diez principios para el médico? 

Para complementar las garantías del paciente que acabamos de revisar, el manual establece diez principios éticos y profesionales que el médico debe tener presentes al incorporar sistemas de inteligencia artificial en su práctica clínica diaria: 

1. La IA no sustituye al médico. Aunque la IA expande la capacidad diagnóstica, analítica y organizativa, nunca puede reemplazar el juicio clínico, la responsabilidad deontológica ni el deber de cuidado del profesional. La decisión final sobre cada paciente debe ser humana, prudente y adaptada a su contexto real. 

2. Toda IA clínica exige supervisión humana significativa. La supervisión médica no debe convertirse en un trámite o formalidad automática. El médico debe conservar la capacidad real de comprender, revisar, contrastar, matizar y, en su caso, rechazar las recomendaciones algorítmicas antes de que tengan efectos sobre la salud del paciente. 

3. Ninguna herramienta debe utilizarse sin validación suficiente. Es una exigencia de prudencia y buena praxis no incorporar tecnologías que no hayan demostrado adecuadamente su utilidad, seguridad y pertinencia en el entorno asistencial concreto donde se van a emplear. Se requiere validación local y evaluación de impacto en resultados de salud. 

4. No hay IA segura sin datos de calidad y adecuadamente protegidos. La fiabilidad del algoritmo depende directamente de la calidad, integridad y representatividad de los datos con los que se alimenta. Además, el médico debe preservar la privacidad, limitar accesos, minimizar el uso de datos y reforzar la seguridad para evitar resultados sesgados o injustos. 

5. La equidad debe vigilarse de forma activa. Dado que la IA puede reproducir o amplificar desigualdades históricas, su rendimiento debe evaluarse de forma continua en distintos subgrupos de pacientes. La innovación tecnológica solo es legítima si mejora la atención sin excluir ni perjudicar a las personas más vulnerables. 

6. La ética y la deontología médica deben guiar la implementación de la IA. La deontología no es un freno externo ni un corrector que llega al final del proceso; debe actuar desde el principio como la brújula interna que orienta el desarrollo de la tecnología con prudencia, responsabilidad y sentido humanista. 

7. El paciente tiene derecho a una información clara y comprensible. Cuando la IA tenga una participación relevante en el proceso asistencial, el paciente debe conocer su uso, comprender qué papel cumple y cuáles son sus límites. Esta información debe ser útil y compatible con una relación médico-paciente basada en la confianza. 

8. El médico tiene derecho a garantías profesionales ante la IA. El uso de la tecnología no solo impone obligaciones al profesional, sino que exige que las instituciones le garanticen formación adecuada, condiciones seguras de uso, acceso a información suficiente sobre la herramienta y capacidad real de discrepar del algoritmo cuando lo considere inestable o inadecuado. 

9. La IA debe acelerar la investigación sin comprometer la integridad científica. Su aplicación en la investigación y el análisis de evidencia clínica exige trazabilidad, control de sesgos, supervisión metodológica rigurosa y prevención de prácticas (como la fabricación de datos o citas defectuosas) que comprometan la validez científica. 

10. La trazabilidad, la gobernanza y la formación continua son imprescindibles. La seguridad no recae de forma exclusiva sobre el médico individual. Requiere de las organizaciones sanitarias estructuras de gobernanza, protocolos de monitorización, registro de incidencias, criterios claros de retirada de sistemas deficientes y programas de formación continuada. 

Estos principios garantizan que el profesionalismo médico contemporáneo adopte la tecnología con responsabilidad, manteniendo siempre la primacía del cuidado de la persona. 

d) ¿Qué derecho tienen los pacientes ante el uso médico de IA? 

De acuerdo con el manual, los derechos de los pacientes ante el uso clínico de la inteligencia artificial se enmarcan dentro de los denominados derechos de cuarta generación (vinculados al entorno digital y de datos) y el principio de dignidad algorítmica, asegurando que las personas sigan siendo tratadas como seres humanos individuales y no como meras estadísticas. 

Los derechos específicos de los pacientes se agrupan en las siguientes categorías fundamentales: 

1. Garantías frente a la toma de decisiones automatizadas 

• Derecho a no someterse a decisiones 100% automatizadas. El paciente tiene el derecho a que ninguna decisión clínicamente relevante que produzca efectos significativos en su salud sea tomada de forma exclusiva por un algoritmo. Las decisiones relevantes deben contar siempre con una valoración individualizada y supervisión médica humana real. 

• Derecho a la intervención humana y a rebatir decisiones. Aun cuando se emplee un sistema de IA, el paciente tiene el derecho a obtener una intervención significativa de un profesional de la salud, a expresar su propio punto de vista y a impugnar o rebatir el resultado del algoritmo para corregir posibles decisiones automáticas erróneas. 

2. Transparencia, explicabilidad y consentimiento adaptado 

• Derecho a saber cuándo y para qué se usa la IA. El paciente tiene derecho a conocer, de manera comprensible y clara, qué función exacta cumple la herramienta tecnológica en su proceso de diagnóstico o tratamiento. 

• Derecho a recibir explicaciones clínicas inteligibles. La tecnología no debe obstaculizar la comunicación asistencial. El paciente tiene derecho a recibir de su médico una respuesta clara que no requiera descifrar el código del software, sino que explique de forma inteligible las variables relevantes consideradas por el algoritmo, sus incertidumbres, límites, la existencia de alternativas de segunda opinión y la posibilidad de revisión profesional. 

• Consentimiento informado y significativo. El paciente debe aceptar el uso de sus datos por parte de la IA de forma consciente y voluntaria. Este consentimiento debe estar adaptado para detallar explícitamente el rol de la IA en la toma de decisiones y el margen de intervención que retendrá el médico, evitando formalismos vacíos o el llamado "consentimiento por fatiga" a través de textos interminables. 

3. Derechos de control sobre los datos personales de salud (RGPD) 

• Acceso y rectificación. Derecho a consultar qué datos personales suyos procesa la IA y a exigir la corrección inmediata de cualquier información inexacta o incompleta, previniendo así diagnósticos erróneos basados en datos de entrada defectuosos. 

• Supresión (olvido) y limitación. Derecho a solicitar la eliminación de datos que ya no sean necesarios (conforme a los plazos legales) o a restringir temporalmente su procesamiento algorítmico mientras se valida la licitud del tratamiento. 

• Oposición al uso secundario (Opt-out). El paciente tiene derecho a oponerse al tratamiento de sus datos cuando la IA se use con fines ajenos a su asistencia sanitaria directa. De manera especial, bajo el Espacio Europeo de Datos de Salud (EEDS), cuenta con el derecho a excluirse voluntariamente mediante un procedimiento de opt-out para evitar que su historial clínico se reutilice en la investigación o en el entrenamiento de nuevos algoritmos comerciales. 

• Seguridad. Derecho a que su información sensible sea protegida de manera continua por la institución médica mediante cifrado, control estricto de accesos y medidas técnicas para prevenir fugas o alteraciones. 

4. Derecho a una atención equitativa y humana 

• Protección frente a sesgos y discriminación algorítmica. El paciente tiene derecho a que la IA funcione de manera justa. Se debe vigilar que la herramienta no le ofrezca peores resultados de salud o una priorización injusta por motivos de su sexo, edad, tipo de enfermedad, discapacidad o procedencia étnica. 

• Preservación de la humanidad en la medicina. Ninguna tecnología puede diluir la relación fiduciaria de confianza entre el médico y el enfermo. El paciente conserva el derecho a recibir un cuidado basado en la escucha activa, la empatía, la compasión y la prudencia clínica.

Cine y Pediatría (869) “Metronom”, liberadora música de juventud

La Rumanía de los años 70 fue un país en plena consolidación del régimen de Nicolae Ceaușescu, con una fase inicial de relativo aperturismo y crecimiento económico seguida de un giro hacia el nacionalcomunismo, la represión y el culto a la personalidad. Se reforzó la Securitate (policía secreta), se extendió la censura y se instaló un sistema de escuchas telefónicas al estilo de la RDA; la participación en la vida pública estaba muy controlada y cualquier crítica podía acarrear expulsión, vigilancia o cárcel. Un líder todopoderoso que acabó llevando al país a una economía sobreendeudada y a una sociedad cada vez más vigilada, lo que explica en gran medida la dureza de la década siguiente y el colapso violento del régimen en 1989. 

En este contexto ocurren los hechos narrados en la película Metronom (Alexandru Belc, 2022), que nos sitúa en el Bucarest del año 1972 y la primera escena nos sitúa en la explanada del Monumento a los Héroes de la Patria, allí donde nuestros dos protagonistas se abrazan, dos estudiantes de 17 años, Ana (Mara Burgarin) y Sorin (Serban Lazarovici). El título hace referencia a un famoso programa de radio de entonces y que fue el mayor símbolo de resistencia cultural, rebelión juvenil y escape ideológico en la Rumanía comunista de Nicolae Ceaușescu. Conducido de forma clandestina a través de Radio Free Europe desde Múnich por el legendario realizador y crítico musical Cornel Chiriac, el show se convirtió en un fenómeno de culto que marcó a toda una generación atrapada tras el Telón de Acero. Cabe recordar que bajo la dictadura de Ceaușescu, la música, la moda y el arte occidentales estaban estrictamente prohibidos y catalogados como "propaganda capitalista burguesa". 

Metronom significó la única vía de acceso a la cultura global, donde Chiriac presentaba álbumes completos de bandas prohibidas como Pink Floyd, The Doors, Jimi Hendrix, Janis Joplin, Queen o Led Zeppelin. Escuchar el programa o interactuar con él conllevaba un peligro extremo debido al acoso de la Securitate. Porque los jóvenes rumanos se arriesgaban a penas de prisión, brutales interrogatorios y torturas solo por intentar enviar cartas clandestinas a Múnich solicitando canciones o dedicando temas. Un proyecto que duró hasta marzo de 1975, cuando Cornel Chiriac fue asesinado a puñaladas en un aparcamiento de Múnich en circunstancias nunca esclarecidas del todo. Aunque el asesino material fue detenido, la sospecha histórica generalizada es que se trató de una operación encubierta firmada por la propia Securitate para acallar su voz. 

Y con este contexto se entiende a la perfección nuestra película de hoy, pues Ana acude a una fiesta con sus amigos de instituto, allí donde bailan al ritmo de temas como el “Light My Fire” de The Doors o el “Kozmic Blues” de Janis Joplin, mientras deciden escribir una carta a Metronom. Y es entonces cuando aparece la Securitate tras un chivatazo, los detiene a todos y les obliga a hacer una declaración escrita en que conste el motivo de la reunión y el nombre de quiénes estaban presentes. Todos menos Ana, quien se resiste y el inspector le lee la ley: “Se prohíbe todo contacto con estaciones de radio o televisión extranjeras, así como con cuerpos de prensa que, con su actuación, contribuyan a difamar al Estado o vaya en contra de sus intereses”. Pese a ello sigue sin ceder y continúa la presión: “Lástima por tus padres. Les vas a matar a disgustos”. Finalmente intermedia su padre, un abogado y profesor, quien le argumenta: “Es una nueva ley y están deseando poneros un castigo ejemplar”. Hasta que, finalmente, consiguen que redacte la declaración y se convierta, a cambio de ayuda en sus estudios universitarios, como una futura confidente: “Menos mal que has recapacitado. Que si no… Piensa en tu futuro”, le remacha el inspector. 

Lo cierto es que, como nos tiene acostumbrado el nuevo cine rumano, la película no se ahorra nada para que sintamos la angustia a flor de piel. Para abocarnos a un final en el mismo lugar de la primera escena, esa simbólica plaza para el régimen de Ceausescu donde estos alumnos y alumnas uniformados, también nuestra Ana, juegan y conversan como si nada hubiera pasado. 

Metronom demostró al régimen que la música rock podía ser tan potente y peligrosa como un discurso político, al unificar el descontento de miles de jóvenes. Y esta película nos remite a aquel momento histórico, tan presente para los rumanos, tan ignorado para la mayoría que no vivimos aquellos tiempos. Un film con profundas enseñanzas morales, políticas y humanas. 

Los mensajes y enseñanzas clave que deja la película Metronom incluyen el valor de la integridad y la dignidad individual (frente a la brutal presión de la Securitate, Ana se niega firmemente a cooperar o a delatar a sus amigos), la dolorosa pérdida de la inocencia (donde el totalitarismo no respeta la juventud y fuerza a los adolescentes a madurar de golpe), el valor del arte y la cultura como ventanas de libertad (porque incluso cuando los cuerpos y las almas están atrapados por dictaduras, la mente busca la libertad a través de la cultura), el miedo como herramienta de fragmentación social (durante los interrogatorios, los jóvenes son forzados a delatarse unos a otros para salvarse), y la desilusión del amor romántico frente a la realidad (tal como ocurre entre Ana y Sorin, las dinámicas de supervivencia desnudan el egoísmo de quienes nos rodean, rompiendo los ideales románticos de la juventud.) 

Es Metronom un desgarrador relato de maduración (coming-of-age) basado en hechos históricos y que tuvo como símbolo aquella música de libertad que significaba esta clandestina cadena de radio.

 

A la humanidad doliente… desde el arte

Magdalena Sánchez Blesa es una poetisa murciana nacida del pueblo y para el pueblo. Nacida en Puerto Lumbreras y vinculada desde su adolescencia a Alhama de Murcia, su poesía se caracteriza por un lenguaje directo, emocional y cercano, centrado en la familia, la infancia, la pérdida, la resiliencia, la solidaridad y la necesidad de acompañamiento. Su popularidad se ha multiplicado gracias a los recitales y videopoemas difundidos en redes sociales, especialmente “Instrucciones a mis hijos”, que alcanzó una amplia circulación en el mundo hispanohablante, pero son ya alrededor de una decena sus poemarios publicados. La autora se define como una poeta de “aceras”, “patios”, momentos cotidianos y miradas directas; esa autodefinición resume una poesía vinculada a la experiencia común y alejada de la abstracción hermética. 

Y ello porque su poesía está concebida también para ser dicha y escuchada. La recitación, el gesto y la comunicación directa con el público forman parte de su identidad artística. Y así nos conocimos en el año 2018, en un acto celebrado en la Unidad Pedagógica Hospitalaria de nuestro Servicio de Pediatría. Y fue tal el impacto y la emoción del encuentro que, pocas semanas después, la invité a recitar sus poemas en el acto de presentación del libro “Cine y Pediatría 7”, el primer encuentro del cine, la poesía y la pediatría, y que se vería acompañado ya de muchos otros en un camino de amistad. 

Al año siguiente, y sin tener conocimiento previo, nos reencontramos en Guadalajara (Jalisco, México) en el contexto del Congreso CONAPEME (Confederación Nacional de Pediatría de México) 2019. Ella viajaba para compartir su poesía en el evento, yo para compartir la ciencia pediátrica y el proyecto Cine y Pediatría entre mis colegas del otro lado del Atlántico. Fueron muchos los actos inolvidables juntos, pero la visita al Antiguo Hospital Civil de Guadalajara nos permitió conocer la figura de Fray Antonio Alcalde, un vallisoletano que llegó a finales del siglo XVIII a ese país y fue considerado el más grande benefactor del estado de Jalisco, hombre insigne, visionario, humilde y solidario, y que 230 años después persiste su lema grabado en piedra a la entrada de este hospital: “A la humanidad doliente”. Y esta frase es la que da título al prólogo del último libro de Magdalena Sánchez Blesa, “Ceniza viva”, y que me retrotrae a todas aquellas vivencias y emociones compartidas. 

A partir de aquí la amistad se ha hecho indestructible. Magdalena me regaló el prólogo y la presentación formal del libro “Cine y Pediatría 12”, y yo intento acompañarla en sus recurrentes recitales de poesía en la provincia de Alicante. Aunque hay proyectos comunes en marcha, hoy quiero compartir una entrevista que me regaló hace un par de meses para su canal de Instagram y que transmite esa amistad. Hablamos del valor terapéutico del arte, cualquier arte, y de su papel esencial en la humanización del acto sanitario a esa “humanidad doliente” que son los pacientes. Tanta humanidad doliente y a nuestro lado. Y la importancia de preservar la milagrosa sanidad pública en España. 

Se puede consultar esta entrevista desde el Instagram de Magdalena Sánchez Blesa.