Custodiar el acto médico en la era de la inteligencia artificial
Una reflexión desde la práctica clínica, la bioética y el profesionalismo médico
Dr. Tulio José Núñez Medina
Cardiólogo Clínico e Intervencionista. Bioética Clínica.
Introducción
La inteligencia artificial ya entró definitivamente en la medicina. Su incorporación ocurrió antes de resolver muchos dilemas éticos fundamentales. Hoy interpreta imágenes, procesa datos y estima riesgos clínicos. También redacta informes, resume evidencias y organiza información médica. Incluso puede generar respuestas utilizando un lenguaje aparentemente experto. Su incorporación a la práctica clínica parece irreversible.
Durante los últimos meses, varias lecturas exhortaron profundamente mi práctica profesional. No llegaron como respuestas definitivas, sino como preguntas necesarias. Procedían de perspectivas diferentes, aunque sorprendentemente convergentes. Algunas surgían desde la salud pública y la medicina. Otras provenían de la educación, la ética y el profesionalismo. Una de ellas planteaba directamente la custodia de la persona humana.
La Organización Mundial de la Salud constituyó una primera referencia fundamental. Sus documentos sobre ética y gobernanza de la IA resultaron esclarecedores. Particularmente relevante fue su orientación sobre grandes modelos multimodales. La OMS reconoce enormes posibilidades para estas tecnologías sanitarias. Sin embargo, también identifica riesgos y responsabilidades importantes. La innovación, por sí sola, nunca constituye justificación suficiente (1,2).
Una segunda referencia provino de la UNESCO. Su Recomendación sobre la Ética de la Inteligencia Artificial amplió mi perspectiva. Allí, la discusión tecnológica se vincula directamente con los derechos humanos. También incorpora dignidad, justicia, transparencia, inclusión y supervisión humana. Su planteamiento trasciende ampliamente la eficiencia de los algoritmos. Nos obliga a preguntarnos qué sociedad estamos construyendo mediante ellos (3).
Una tercera lectura llegó desde el propio profesionalismo médico. Komasawa y Yokohira analizaron la IA generativa en educación médica. Su reflexión aborda oportunidades y riesgos para futuros profesionales. También plantea desafíos relacionados con pensamiento crítico y responsabilidad profesional. Esta perspectiva me resultó particularmente cercana como médico y docente. La IA transforma aquello que hacemos y cómo aprendemos a hacerlo (4).
Sin embargo, una lectura reciente produjo una exhoración todavía más perentoria. En mayo de 2026, León XIV publicó Magnifica Humanitas. La encíclica aborda la custodia de la persona humana ante la IA. Su planteamiento trasciende una discusión exclusivamente tecnológica. Pregunta qué humanidad estamos construyendo mediante esta transformación histórica. También reivindica la primacía de la persona frente a la tecnología (5).
Encontré entonces una convergencia que considero particularmente significativa. La OMS plantea seguridad, autonomía, transparencia y responsabilidad. La UNESCO sitúa dignidad y derechos humanos en el centro. El profesionalismo médico reclama pensamiento crítico y responsabilidad profesional. Magnifica Humanitas plantea la custodia de la persona humana. Distintos lenguajes convergen finalmente sobre una preocupación común.
Estas lecturas encontraron además una experiencia clínica de muchos años. Durante veinticinco años he ejercido cardiología clínica e intervencionista. He vivido sucesivas transformaciones tecnológicas dentro de nuestra profesión. También incorporé herramientas digitales en docencia e investigación. Más recientemente, he utilizado herramientas de inteligencia artificial. Siempre lo he hecho bajo supervisión y control profesional.
De esta convergencia nació una inquietud que considero inevitable. Quizás estamos formulando demasiado tarde algunas preguntas fundamentales. Discutimos cuánto puede hacer la inteligencia artificial por nosotros. Sin embargo, preguntamos menos cuánto estamos comenzando a delegarle. Celebramos su extraordinaria capacidad para procesar información. Pero discutimos insuficientemente quién responderá cuando se equivoque.
La cuestión resulta todavía más profunda dentro de la medicina. El acto médico nunca fue solamente procesamiento de información. Tampoco puede reducirse a reconocer patrones y calcular probabilidades. Implica encuentro, deliberación, prudencia, responsabilidad y confianza. Implica responder personalmente ante alguien que se encuentra vulnerable. Esa dimensión forma parte de la esencia de la medicina.
Por ello, mi pregunta dejó de ser solamente tecnológica. Tampoco consiste en decidir si debemos utilizar inteligencia artificial. Esa discusión probablemente pertenece ya al pasado. La pregunta que comenzó a preocuparme resulta mucho más incómoda. ¿Quién custodiará el acto médico cuando una máquina pueda imitar algunas funciones? Esta pregunta constituye el punto de partida de esta sección.
No escribo desde el rechazo hacia la inteligencia artificial. Tampoco escribo desde una fascinación tecnológica ingenua. Escribo desde la práctica clínica, la docencia y la investigación. Escribo también desde la bioética clínica. Sobre todo, escribo desde la responsabilidad profesional ante el paciente. Allí encuentro el verdadero sentido de esta discusión.
Desde mi experiencia clínica hacia el discernimiento bioético
Durante veinticinco años he ejercido cardiología clínica e intervencionista. Durante este tiempo, nuestra especialidad experimentó una profunda transformación tecnológica. La electrocardiografía se digitalizó y el ecocardiograma adquirió extraordinaria capacidad diagnóstica. La angiografía permitió caracterizar lesiones coronarias con creciente precisión. También incorporamos sistemas de monitoreo y análisis hemodinámico. Estas tecnologías ampliaron considerablemente nuestras capacidades clínicas.
Posteriormente llegaron bases de datos y sistemas automatizados de cálculo clínico. También incorporamos scores de riesgo y herramientas predictivas. Más recientemente, estas tecnologías alcanzaron áreas como la cardio-oncología. Allí facilitan seguimiento longitudinal y organización de información compleja. Sin embargo, siempre existió una frontera profesional fundamental. El instrumento proporcionaba información y el médico debía interpretarla.
Un ecocardiograma nunca decide realizar una intervención coronaria. Una angiografía tampoco decide implantar un stent coronario. Un score puede estimar mortalidad o determinadas complicaciones. Sin embargo, ningún score conversa verdaderamente con una familia. Tampoco comprende las preferencias vitales de un paciente vulnerable. Detrás de cada decisión continúa existiendo un médico responsable.
La inteligencia artificial introduce ahora una transformación cualitativamente diferente. Ya no solamente registra, calcula o representa información. También interpreta, redacta, sintetiza, argumenta y recomienda. Puede hacerlo utilizando un lenguaje extraordinariamente convincente. Esta capacidad modifica nuestra relación tradicional con la tecnología. Allí comienza un problema bioético que debemos afrontar.
Durante los últimos años he utilizado herramientas basadas en inteligencia artificial. Las he incorporado en actividades clínicas, docentes e investigativas. Estas herramientas pueden resultar extraordinariamente útiles para organizar información. También facilitan síntesis iniciales y determinados procesos documentales. Sin embargo, he conocido directamente algunas de sus limitaciones. Esa experiencia ha fortalecido mi prudencia frente a ellas.
He identificado errores documentales e inconsistencias de transcripción. También he encontrado formulaciones clínicamente imprecisas o descontextualizadas. Particularmente preocupantes resultan las denominadas alucinaciones bibliográficas. La inteligencia artificial puede proporcionar referencias que simplemente no existen. También puede atribuir datos incorrectos a publicaciones verdaderas. Además, puede hacerlo utilizando un lenguaje completamente convincente.
Esta experiencia me dejó una enseñanza profesional fundamental. La IA puede producir una respuesta convincente sin conocer la verdad. Por ello, verificar nunca constituye una precaución opcional. En medicina, verificar representa una obligación moral del profesional. La herramienta puede ayudarme a redactar un documento. Sin embargo, yo continúo respondiendo por aquello que firmo.
La inteligencia artificial también puede organizar información clínica compleja. Sin embargo, el médico continúa siendo responsable de interpretarla. Puede sugerir posibilidades diagnósticas o terapéuticas razonables. Pero la decisión clínica permanece bajo responsabilidad profesional. Esta frontera debe permanecer claramente definida. La IA puede asistir nuestro razonamiento, pero nunca asumir nuestra responsabilidad.
El verdadero peligro puede comenzar cuando dejamos de verificar
Las alucinaciones de la inteligencia artificial constituyen un problema reconocido. Sin embargo, considero que existe un riesgo todavía más profundo. Ese riesgo aparece cuando dejamos progresivamente de verificar sus resultados. Una inteligencia artificial equivocada representa un riesgo tecnológico evidente. Un médico que acepta acríticamente sus resultados plantea otro problema. Representa una posible renuncia al juicio profesional.
La dependencia tecnológica puede comenzar de manera prácticamente imperceptible. Inicialmente utilizamos una herramienta para reducir determinadas cargas administrativas. Después comenzamos a confiar progresivamente en sus resultados. Finalmente, podemos dejar de preguntarnos cómo fueron obtenidos. Entonces cambia profundamente la naturaleza de nuestra relación tecnológica. Ya no solamente utilizamos una herramienta, sino que transferimos autoridad.
Este riesgo merece especial atención dentro del profesionalismo médico. La medicina nunca ha consistido solamente en procesar información. El paciente tampoco entrega únicamente síntomas, imágenes o resultados de laboratorio. Entrega su cuerpo, vulnerabilidad, incertidumbre y confianza. También entrega una historia que necesita ser comprendida integralmente. Esa realidad no puede reducirse completamente a datos computables.
Un algoritmo puede procesar millones de variables simultáneamente. También puede descubrir asociaciones imperceptibles para nuestra capacidad humana. Incluso podrá superar determinadas capacidades diagnósticas de los médicos. Debemos reconocer esta posibilidad sin temor ni actitud defensiva. Sin embargo, una predicción no constituye todavía una decisión clínica. Entre información y decisión existe siempre un proceso deliberativo.
Entre deliberación y acción existe además responsabilidad profesional. Ese espacio constituye una dimensión esencial del acto médico. Un paciente puede cumplir criterios técnicos para determinado procedimiento. Sin embargo, esa intervención podría resultar clínicamente desproporcionada. La fragilidad, el pronóstico y sus preferencias pueden modificar nuestra decisión. El algoritmo reconoce variables, pero el médico debe reconocer personas.
Inteligencia no significa sabiduría
La inteligencia artificial procesa información con una capacidad extraordinaria. Ningún médico puede competir contra semejante velocidad computacional. Sin embargo, tampoco considero que debamos competir en ese terreno. Nuestro desafío profesional pertenece a una dimensión diferente. Podemos comenzar peligrosamente a confundir procesamiento con comprensión. Esa equivalencia podría modificar profundamente nuestra medicina.
La inteligencia artificial calcula probabilidades y reconoce determinados patrones. La prudencia clínica interpreta esos resultados dentro de cada biografía. Un algoritmo puede estimar con precisión determinados riesgos. El médico decide cuáles resultan aceptables para ese paciente. Esa decisión incorpora evidencia, experiencia, valores y circunstancias individuales. Por ello, constituye una auténtica deliberación clínica.
Estas diferencias no pertenecen solamente al terreno filosófico. Son diferencias profundamente clínicas y afectan decisiones cotidianas. La eficiencia tecnológica puede mejorar muchos componentes de nuestra práctica. Sin embargo, eficiencia y humanidad no constituyen necesariamente sinónimos. Existe entonces una paradoja que debemos considerar seriamente. Podemos construir una medicina tecnológicamente superior y humanamente inferior.
No toda innovación constituye progreso médico
La medicina contemporánea suele asociar innovación tecnológica con progreso sanitario. Esta equivalencia merece una evaluación mucho más crítica. Una tecnología nueva no representa necesariamente una medicina mejor. Tampoco una herramienta eficiente resulta automáticamente beneficiosa para nuestros pacientes. La inteligencia artificial debe demostrar eficacia, efectividad y seguridad. Además, debe demostrar verdadera utilidad clínica (1,2).
Sin embargo, estos criterios científicos continúan siendo insuficientes. También debemos preguntarnos qué sucede con la autonomía del paciente. Debemos proteger confidencialidad, dignidad, transparencia y justicia. Además, necesitamos identificar quién responde ante un eventual daño. La innovación tecnológica nunca debería producir vacíos de responsabilidad. Mucho menos cuando afecta decisiones sobre personas vulnerables.
Aquí aparece una pregunta particularmente incómoda para nuestra profesión. ¿Quién responde cuando nadie comprende completamente cómo decidió un algoritmo? La responsabilidad clínica no puede desaparecer dentro de una arquitectura tecnológica. Tampoco puede fragmentarse indefinidamente entre empresas, instituciones y profesionales. Frente al paciente siempre existe finalmente una decisión. Alguien debe asumir responsablemente sus consecuencias.
El paciente no puede convertirse en materia prima algorítmica
La relación médico-paciente continúa descansando fundamentalmente sobre la confianza. Por ello, incorporar inteligencia artificial exige transparencia y prudencia. El paciente debería conocer sus usos clínicamente relevantes. Esto no significa transformar cada consulta en una explicación tecnológica. Significa preservar una relación clínica basada en honestidad. También significa reconocer el derecho del paciente a comprender su atención.
Esta cuestión adquiere mayor relevancia cuando utilizamos información clínica sensible. Los datos médicos pertenecen al ámbito íntimo de una persona. Su utilización exige confidencialidad y protección particularmente rigurosas. La eficiencia nunca puede justificar cualquier tratamiento de estos datos. Tampoco puede justificar una transferencia indiscriminada de información. El paciente no debe convertirse silenciosamente en materia prima algorítmica.
¿Podrá el médico contradecir al algoritmo?
Existe otra pregunta fundamental para nuestro futuro profesional. ¿Tendrá el médico libertad para contradecir una recomendación algorítmica? Actualmente esta pregunta podría parecer prematura o exagerada. Probablemente no parecerá así dentro de algunos años. Los sistemas predictivos serán progresivamente más precisos y ubicuos. También serán incorporados sistemáticamente dentro de instituciones sanitarias.
Apartarse de sus recomendaciones podría resultar entonces cada vez más difícil. Incluso podría interpretarse como una conducta profesional cuestionable. Allí aparecerá una segunda pregunta todavía más inquietante. ¿Conservará el médico conocimientos suficientes para saber cuándo debe contradecirlos? Esta pregunta afecta directamente nuestra autonomía profesional. También afecta profundamente la educación de futuras generaciones médicas.
La automatización puede mejorar considerablemente nuestro desempeño profesional. Sin embargo, también puede erosionar determinadas competencias cuando sustituye su ejercicio. Si delegamos reiteradamente capacidades, podemos terminar perdiéndolas progresivamente. Entonces aparecería una nueva forma de dependencia tecnológica. Tendríamos sistemas cada vez más inteligentes y profesionales progresivamente menos autónomos. Ese escenario exige reflexión antes de convertirse en realidad.
La inteligencia artificial también interpela a la universidad
Este desafío tampoco termina dentro de la consulta médica. La inteligencia artificial está transformando aceleradamente la educación y la investigación. Puede construir preguntas, casos clínicos y materiales educativos. También puede resumir artículos y colaborar estructurando protocolos. Estas posibilidades representan oportunidades educativas extraordinarias. Sin embargo, introducen importantes desafíos para la honestidad académica (4).
Podemos comenzar a aparentar conocimiento sin haber construido conocimiento. Un estudiante puede entregar un excelente trabajo sin comprenderlo suficientemente. Un investigador puede presentar argumentos que nunca elaboró personalmente. Incluso un docente puede delegar progresivamente su propia tarea intelectual. Entonces la eficiencia educativa podría ocultar empobrecimiento del pensamiento crítico. Esta posibilidad merece especial vigilancia dentro de nuestras universidades.
La inteligencia artificial puede ayudarnos legítimamente a escribir mejor. Sin embargo, no puede aprender verdaderamente por nosotros. Puede apoyar determinadas fases de una investigación científica. Pero tampoco puede asumir nuestra honestidad como investigadores. Puede sugerir referencias y organizar información bibliográfica. Nosotros debemos verificar rigurosamente cada fuente utilizada. La responsabilidad académica continúa siendo indelegablemente humana.
Custodiar no significa rechazar la inteligencia artificial
Ante estos riesgos podríamos adoptar una posición defensiva frente a la tecnología. Considero que esa respuesta también resultaría equivocada. La inteligencia artificial ofrece oportunidades extraordinarias para mejorar la medicina. Ignorar deliberadamente estas posibilidades tampoco constituye verdadera prudencia. Puede mejorar diagnósticos y organizar información clínica compleja. También puede apoyar investigación, docencia y salud pública.
El problema fundamental no consiste en utilizar inteligencia artificial. Consiste en utilizarla sin suficiente gobierno profesional y ético. Por ello, custodiar el acto médico no significa prohibir tecnología. Significa aprender a gobernarla moralmente desde nuestra profesión. También significa establecer responsabilidades, límites y mecanismos de vigilancia. Finalmente, significa reconocer cuándo una herramienta no debe utilizarse.
El Modelo CUSTODIA
Desde esta perspectiva propongo inicialmente el Modelo CUSTODIA. No constituye actualmente una escala clínicamente validada. Tampoco pretende sustituir metodologías científicas o bioéticas consolidadas. Representa una propuesta inicial para ordenar nuestra deliberación. Busca integrar evidencia científica, práctica clínica y responsabilidad profesional. Su pregunta rectora resume precisamente esta preocupación.
La pregunta parece sencilla, aunque sus consecuencias resultan profundas. ¿Esta inteligencia artificial custodia el acto médico o puede amenazarlo? Para responderla propongo ocho dimensiones complementarias de evaluación. Cada dimensión representa un aspecto esencial del discernimiento tecnológico. Ninguna debería analizarse completamente separada de las demás. Todas convergen finalmente sobre la protección del paciente.
La C representa la certeza clínico-científica de la evidencia disponible. La U representa la utilidad clínica centrada en cada paciente. La S representa la seguridad, el daño potencial y su vigilancia. La T representa transparencia, trazabilidad y posibilidad de verificación. Estos primeros componentes examinan principalmente confiabilidad y consecuencias clínicas.
La O representa la obligación profesional y responsabilidad clínica indelegable. La D representa la dignidad, datos y derechos del paciente. La I representa la inclusión, justicia y equidad sanitaria. Finalmente, la A representa la aplicabilidad prudente y auditoría continua. Estas dimensiones pretenden ampliar nuestra evaluación de la tecnología.
Ya no resulta suficiente preguntarnos simplemente si funciona. También debemos preguntar para quién funciona realmente esa tecnología. Necesitamos establecer bajo cuáles condiciones mantiene sus resultados. Debemos conocer sus errores y posibles consecuencias clínicas. También necesitamos identificar sesgos y poblaciones potencialmente excluidas. Finalmente, debemos determinar quién supervisa y quién responde.
La frontera que no deberíamos cruzar
Acepto la inteligencia artificial como herramienta legítima para la medicina. Incluso considero irresponsable ignorar completamente sus posibilidades actuales. Sin embargo, existe una frontera profesional que considero irrenunciable. La herramienta puede recomendar, pero el médico debe deliberar. La herramienta puede calcular, pero el médico debe contextualizar. La herramienta puede redactar, pero el médico debe verificar.
Asimismo, la inteligencia artificial puede realizar determinadas predicciones clínicas. Sin embargo, el médico debe asumir responsablemente cada decisión. La tecnología puede participar en numerosas dimensiones del proceso asistencial. Pero no puede convertirse en sujeto moral del acto médico. Una máquina no responde ante una familia después de una complicación. Tampoco establece una relación moral con quien sufre.
La inteligencia artificial puede conocer millones de datos sobre enfermedades. Incluso puede conocer miles de datos sobre un paciente determinado. Pero conocer datos no equivale necesariamente a conocer al enfermo. Esta diferencia resulta esencial para comprender nuestros límites tecnológicos. También explica por qué la responsabilidad continúa perteneciendo al profesional. Allí encuentro el núcleo de la custodia del acto médico.
EduCardio – Bioética Clínica
Esta sección nace precisamente para analizar estas cuestiones críticamente. No será solamente un espacio de reflexión sobre inteligencia artificial. Analizaremos investigaciones, guías, herramientas y documentos científicos relevantes. También discutiremos experiencias clínicas, controversias, errores y posibles riesgos. Valoraremos la certeza de la evidencia disponible. Examinaremos utilidad clínica, seguridad y aplicabilidad responsable.
Sin embargo, nuestro análisis irá deliberadamente más allá de la eficacia. Preguntaremos por dignidad, autonomía, confidencialidad, justicia y equidad. También analizaremos transparencia, profesionalismo y responsabilidad clínica. Abordaremos sus consecuencias sobre docencia, investigación y formación universitaria. El Modelo CUSTODIA orientará inicialmente este recorrido crítico. Su finalidad será ayudarnos a discernir antes de adoptar.
No pretendemos demostrar anticipadamente que la inteligencia artificial sea beneficiosa. Tampoco pretendemos demostrar que necesariamente constituya una amenaza. Ambas posiciones podrían convertirse fácilmente en prejuicios ideológicos. Nuestro propósito será mucho más exigente intelectualmente. Queremos examinar la evidencia y reconocer sus incertidumbres. Sobre todo, queremos discernir cuándo la tecnología sirve verdaderamente a la medicina.
La custodia comienza ahora
La inteligencia artificial continuará transformando profundamente nuestra profesión. Intentar detener completamente esa transformación sería poco realista. Sin embargo, aceptarla sin deliberación sería profesionalmente irresponsable. La medicina necesita innovación, pero también necesita límites. Necesita algoritmos progresivamente mejores y médicos capaces de cuestionarlos. Necesita eficiencia sin sacrificar responsabilidad, prudencia ni humanidad.
Por ello, la pregunta definitiva no será cuánto puede hacer la IA. La verdadera pregunta será cuánto estamos dispuestos a delegarle. Podemos delegar cálculos, búsquedas y numerosas tareas administrativas. También podremos automatizar determinadas formas de reconocimiento diagnóstico. Sin embargo, existe algo que no podemos legítimamente transferir. No podemos delegar nuestra conciencia profesional.
El diagnóstico continúa siendo esencialmente un acto médico. También lo son el pronóstico y la indicación terapéutica. La decisión intervencionista continúa formando parte del acto médico. Responder ante el paciente continúa siendo una obligación profesional humana. Por ello, custodiar el acto médico no significa proteger el pasado. Significa decidir responsablemente qué medicina queremos construir.
Una medicina acompañada por inteligencia artificial parece prácticamente inevitable. Una medicina gobernada acríticamente por algoritmos no debería serlo. La tecnología continuará avanzando con una velocidad extraordinaria. Nuestra responsabilidad será conseguir que avance también nuestra sabiduría profesional. Ese será el propósito fundamental de EduCardio – Bioética Clínica. Y quizás sea uno de nuestros mayores desafíos generacionales.
Referencias
- World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization; 2021.
- World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: World Health Organization; 2024.
- Recommendation on the Ethics of Artificial Intelligence. Paris: United Nations Educational, Scientific and Cultural Organization; 2021.
- Komasawa N, Yokohira M. Generative Artificial Intelligence (AI) in Medical Education: A Narrative Review of the Challenges and Possibilities for Future Professionalism. Cureus. 2025;17(6):e86316. doi:10.7759/cureus.86316.
- León XIV. Magnifica Humanitas. Carta encíclica sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Ciudad del Vaticano: Santa Sede; 2026.
