La inteligencia artificial está entrando progresivamente en nuestra práctica médica. Como clínico e intervencionista observo este proceso con interés, pero también con prudencia. Sus posibilidades son extraordinarias. Sin embargo, ninguna innovación debería alejarnos del sentido humano de nuestra profesión.

En 2021, la Organización Mundial de la Salud publicó Ethics and governance of artificial intelligence for health: WHO guidance. En español, Ética y gobernanza de la inteligencia artificial para la salud. Esta guía propone principios para orientar responsablemente estas tecnologías aplicadas a la salud.

De su lectura emerge un principio fundamental. La inteligencia artificial debe permanecer bajo control humano y al servicio de las personas. Esta afirmación coincide con mi manera de comprender su incorporación a la práctica clínica.

No considero suficiente preguntarnos qué puede hacer una determinada herramienta. Necesitamos preguntarnos también si debemos utilizarla en ese paciente concreto. Debemos conocer la evidencia que sustenta sus recomendaciones y reconocer sus riesgos. Sobre todo, debemos preguntarnos quién responderá finalmente por la decisión.

Mi lectura desde la bioética clínica

Encuentro en los principios universales de la bioética una orientación indispensable. La autonomía exige respetar las decisiones y preferencias del paciente. La beneficencia obliga a buscar un beneficio clínicamente significativo. La no maleficencia exige reconocer errores, sesgos y posibles consecuencias perjudiciales. La justicia demanda evitar que estas tecnologías profundicen desigualdades existentes.

Sin embargo, existe un aspecto que considero especialmente importante. La OMS sitúa la supervisión humana como salvaguarda esencial para una inteligencia artificial responsable. Comparto esa exigencia, pero considero necesario avanzar un paso más.

No basta con supervisar la inteligencia artificial. Debemos custodiar el acto médico donde interviene.

Esta diferencia no es solamente semántica. Supervisar significa vigilar, verificar y eventualmente corregir una herramienta. Custodiar significa preservar aquello que constituye la esencia del acto médico.

Cuando utilizo inteligencia artificial, no puedo delegarle mi juicio clínico. Debo contrastar sus respuestas con la evidencia disponible. Debo contextualizarlas frente al paciente que tengo delante. También debo reconocer cuándo una recomendación resulta inaplicable o potencialmente perjudicial.

Por ello, esta lectura de la guía conduce a una convicción:

La supervisión humana constituye una condición necesaria para una IA responsable. La custodia del acto médico representa su traducción clínica, bioética y profesional.

La inteligencia artificial puede ampliar nuestras capacidades diagnósticas, analíticas y científicas. También puede ayudarnos a integrar información cada vez más compleja. Pero existe una frontera que debemos preservar.

La tecnología puede asistir la decisión. No puede asumir nuestra responsabilidad moral ante el paciente.

Después de años ejerciendo la medicina clínica e intervencionista, esta distinción me parece fundamental. Cada decisión médica ocurre frente a una persona concreta. Esa persona posee historia, circunstancias, valores, temores y expectativas propias.

Por eso, mi preocupación no es solamente cómo supervisaremos la inteligencia artificial. También debemos preguntarnos cómo preservaremos el juicio clínico, la prudencia y la responsabilidad profesional.

Ese es el tránsito que proponemos desde EduCardio: avanzar de la supervisión humana de la tecnología hacia la custodia responsable del acto médico asistido por inteligencia artificial.

Invito a continuar esta reflexión en el articulo «De la supervisión humana a la custodia del acto médico: una lectura clínica de la guía de la OMS». Allí desarrollamos con mayor profundidad sus implicaciones clínicas, bioéticas y profesionales.