Del principio de custodia a un método de decisión clínica
La inteligencia artificial está transformando progresivamente la práctica médica contemporánea. También modifica la docencia, investigación y documentación clínica. Estas transformaciones ofrecen oportunidades importantes para mejorar la atención. Sin embargo, también introducen nuevos riesgos clínicos, éticos y profesionales.
En trabajos previos propuse la necesidad de custodiar el acto médico (1,2). Esta propuesta parte de una convicción fundamental. La inteligencia artificial puede asistir al médico durante diferentes procesos clínicos. Sin embargo, no puede sustituir su responsabilidad moral y profesional.
La inteligencia artificial puede procesar grandes cantidades de información. También puede reconocer patrones y generar hipótesis diagnósticas. Puede estimar riesgos, resumir evidencia y sugerir alternativas terapéuticas. Sin embargo, estas capacidades no constituyen por sí mismas prudencia clínica.
La decisión médica exige integrar evidencia, experiencia y contexto. También requiere considerar valores, preferencias y circunstancias particulares del paciente. Por ello, ninguna recomendación algorítmica debería convertirse automáticamente en conducta clínica. Primero debe ser interpretada, verificada y deliberada por el profesional.
La Organización Mundial de la Salud reconoce oportunidades importantes para estas tecnologías. Sin embargo, también identifica riesgos relacionados con autonomía, seguridad y transparencia (3,4). Asimismo, UNESCO destaca dignidad, derechos humanos y supervisión humana (5). Estos principios adquieren especial relevancia cuando la IA participa en decisiones clínicas.
Desde esta perspectiva surge el Modelo CUSTODIA-IA. Su propósito es orientar decisiones médicas donde intervenga inteligencia artificial. No pretende sustituir guías clínicas ni protocolos asistenciales. Tampoco busca reemplazar el juicio profesional mediante otra estructura algorítmica.
CUSTODIA-IA propone un marco clínico, deliberativo y bioético. Su función consiste en ordenar preguntas antes de aceptar recomendaciones tecnológicas. Cada pregunta permite examinar pertinencia, evidencia y seguridad. También permite valorar consecuencias para el paciente y responsabilidad profesional.
El modelo intenta transformar un principio general en un proceso práctico. Custodiar deja entonces de ser una idea exclusivamente conceptual. Se convierte en una forma estructurada de deliberar antes de decidir.
¿Qué significa custodiar una decisión médica?
Custodiar significa proteger aquello que posee un valor particular. En medicina, ese valor comienza siempre con la persona enferma. Debemos proteger su dignidad, autonomía y seguridad. También debemos preservar la calidad científica de nuestras decisiones.
Esta interpretación continúa el concepto desarrollado previamente en EduCardio (1,2). Custodiar no significa rechazar la innovación tecnológica. Tampoco significa establecer una oposición entre médicos e inteligencia artificial. Significa gobernar prudentemente su incorporación dentro del acto médico.
La inteligencia artificial introduce una nueva mediación dentro de la relación clínica. Entre los datos y algunas decisiones aparece ahora un sistema algorítmico. Este sistema puede ampliar nuestras capacidades para procesar información. También puede introducir errores, sesgos y falsas certezas.
Por ello, necesitamos algo más que competencia tecnológica. Necesitamos conservar capacidad crítica frente a las recomendaciones generadas. También debemos mantener claramente identificada la responsabilidad profesional. Esta necesidad constituye el fundamento del Modelo CUSTODIA-IA.
CUSTODIA-IA como marco deliberativo
CUSTODIA-IA organiza la deliberación mediante dimensiones sucesivas y relacionadas. Cada dimensión plantea una pregunta relevante para el profesional. Estas preguntas acompañan el tránsito desde información algorítmica hasta decisión clínica. Su finalidad es evitar una aceptación automática de recomendaciones tecnológicas.
El modelo no pretende establecer una secuencia rígida. Algunas situaciones exigirán mayor profundidad en determinadas dimensiones. Esta intensidad dependerá del riesgo y de las consecuencias previsibles. Las decisiones de mayor impacto necesitarán una custodia proporcionalmente mayor.
C — Contextualización clínica
Toda decisión médica comienza comprendiendo al paciente concreto. La inteligencia artificial, en cambio, comienza habitualmente procesando datos. Esta diferencia debe permanecer visible durante todo el proceso deliberativo.
Antes de utilizar una herramienta debemos definir el problema clínico. También debemos conocer antecedentes, comorbilidades y situación funcional. Debemos considerar preferencias, valores y circunstancias particulares. Estos elementos pueden modificar profundamente cualquier recomendación.
Una recomendación puede ser correcta desde una perspectiva poblacional. Sin embargo, puede resultar inapropiada para una persona determinada. La contextualización permite reconocer precisamente esta diferencia.
La primera pregunta del modelo será entonces: ¿comprendo suficientemente al paciente antes de consultar o aceptar la recomendación de la IA?
La tecnología aporta información sobre el paciente. El médico debe comprender al paciente dentro de su contexto. Esta distinción constituye el primer nivel de custodia.
U — Utilidad clínica
La posibilidad de utilizar inteligencia artificial no determina su necesidad. Cada utilización debe responder a una finalidad clínica reconocible. La tecnología necesita aportar algún valor dentro del proceso asistencial.
La IA puede apoyar diagnóstico, pronóstico y tratamiento. También puede colaborar con documentación, investigación y educación. Sin embargo, cada utilización presenta beneficios y riesgos diferentes.
La utilidad debe evaluarse antes de incorporar la herramienta. Una intervención tecnológica innecesaria puede aumentar complejidad sin mejorar resultados. Incluso puede introducir nuevas fuentes de error.
La pregunta correspondiente será: ¿la utilización de inteligencia artificial aporta verdadero valor a esta decisión clínica?
La OMS recomienda considerar finalidades, beneficios y riesgos durante su implementación sanitaria (3,4). Esta valoración debe realizarse desde las necesidades reales del paciente. La innovación tecnológica nunca debería convertirse en una finalidad independiente.
S — Seguridad del paciente
La seguridad constituye una condición esencial para cualquier innovación sanitaria. Los sistemas de inteligencia artificial también pueden equivocarse. Pueden producir información incompleta, sesgada o directamente incorrecta. Algunos errores pueden expresarse mediante respuestas aparentemente convincentes.
Por ello, fluidez lingüística no significa necesariamente exactitud científica. Tampoco una respuesta estructurada constituye evidencia suficiente. Estas diferencias deben permanecer claras durante la utilización clínica.
La pregunta central será: ¿qué podría ocurrir si esta recomendación fuera incorrecta?
Esta pregunta permite introducir una perspectiva proporcional al riesgo. Una tarea administrativa puede tener consecuencias clínicas limitadas. Una recomendación diagnóstica o terapéutica puede modificar sustancialmente el pronóstico.
Cuanto mayor sea el daño potencial, mayor debe ser la custodia. También debe aumentar la necesidad de verificación independiente. La seguridad debe preceder siempre a la comodidad tecnológica.
T — Transparencia
Las decisiones médicas necesitan conservar un grado razonable de explicabilidad. El profesional debe comprender suficientemente la información que incorpora. Esta necesidad permanece aunque el sistema tecnológico sea complejo.
No siempre podremos conocer completamente el funcionamiento interno del modelo. Sin embargo, debemos reconocer sus limitaciones relevantes. También necesitamos identificar incertidumbres que puedan modificar nuestra interpretación.
La pregunta será: ¿puedo comprender y explicar suficientemente esta recomendación?
Transparencia no significa dominar cada operación matemática del sistema. Significa disponer de información suficiente para ejercer juicio profesional. También significa reconocer cuándo esa información resulta insuficiente.
UNESCO considera transparencia y supervisión humana componentes relevantes de una IA responsable (5). Estos principios adquieren especial importancia dentro de la medicina. Una decisión difícilmente explicable requiere mayor prudencia cuando afecta directamente al paciente.
O — Objetividad, evidencia y verificación
Una respuesta generada por inteligencia artificial no constituye evidencia científica. Puede resumir evidencia y facilitar su localización. También puede organizar información de considerable complejidad. Sin embargo, sus afirmaciones relevantes deben ser verificadas.
Esta obligación resulta especialmente importante en medicina. Los sistemas generativos pueden presentar referencias inexistentes o incorrectas. También pueden atribuir conclusiones equivocadas a publicaciones auténticas. Por ello, la apariencia académica nunca sustituye la verificación documental.
La pregunta será: ¿esta recomendación está respaldada por evidencia verificable y aplicable?
Cuando corresponda, debemos contrastar la información con guías clínicas. También debemos consultar revisiones sistemáticas y estudios primarios relevantes. La calidad de la evidencia debe valorarse según cada pregunta clínica.
La inteligencia artificial puede colaborar durante esta búsqueda. Sin embargo, el profesional conserva la responsabilidad de verificar. Esta responsabilidad forma parte de la custodia científica del acto médico.
D — Deliberación clínica y bioética
La evidencia científica constituye una base fundamental para decidir. Sin embargo, ninguna evidencia describe completamente a una persona concreta. Tampoco resuelve automáticamente todos los conflictos presentes durante una decisión clínica.
Los pacientes poseen valores, preferencias y circunstancias diferentes. También pueden existir tensiones entre beneficios y riesgos. Algunas decisiones requieren considerar proporcionalidad, autonomía, justicia y dignidad.
La pregunta será: ¿esta alternativa resulta clínicamente adecuada y bioéticamente justificable para este paciente?
La deliberación permite integrar hechos científicos con valores humanos. También permite reconocer incertidumbres y alternativas razonables. Este proceso pertenece al núcleo del juicio clínico.
La inteligencia artificial puede aportar información durante la deliberación. Incluso puede mostrar alternativas previamente inadvertidas. Sin embargo, no puede asumir responsabilidad moral por sus consecuencias. Esa responsabilidad continúa perteneciendo a quienes participan en la decisión.
I — Individualización
Toda recomendación debe regresar finalmente al paciente concreto. Los algoritmos identifican patrones derivados de grupos y poblaciones. El médico, por el contrario, atiende una persona particular. Esta diferencia posee consecuencias clínicas importantes.
Edad, fragilidad y multimorbilidad pueden modificar una recomendación. También pueden hacerlo función renal, expectativa de vida y situación funcional. Las preferencias personales pueden modificar igualmente la decisión final.
La pregunta será: ¿esta recomendación resulta apropiada para esta persona particular?
Individualizar no significa rechazar la evidencia poblacional. Significa aplicarla prudentemente dentro de una situación concreta. La buena medicina siempre ha requerido realizar esta integración.
La inteligencia artificial puede ampliar nuestro conocimiento del patrón. El profesional debe determinar cómo ese patrón corresponde al paciente. Esta tarea continúa formando parte esencial del acto médico.
A — Autonomía profesional y responsabilidad
La decisión final debe conservar una autoría profesional identificable. El médico puede aceptar una recomendación generada mediante inteligencia artificial. También puede modificarla cuando encuentre razones suficientes. Finalmente, puede rechazarla cuando resulte inapropiada.
La autonomía profesional exige conservar esta capacidad crítica. No significa actuar arbitrariamente frente a la evidencia. Significa mantener independencia razonada frente a cualquier recomendación externa.
La pregunta será: ¿puedo asumir profesionalmente esta decisión ante mi paciente?
Cuando una recomendación algorítmica se incorpora a una conducta clínica, cambia su significado. Deja de ser solamente información producida por una herramienta. Pasa a formar parte de una decisión médica.
El profesionalismo médico exige priorizar bienestar, autonomía y justicia (9). También exige competencia, integridad y responsabilidad profesional. Estos compromisos no desaparecen cuando utilizamos inteligencia artificial.
IA — Inteligencia artificial bajo custodia humana
Las letras finales del modelo poseen también un significado deliberado. CUSTODIA termina precisamente donde aparece IA. Esta disposición expresa el principio central de la propuesta.
La inteligencia artificial queda integrada dentro de un proceso de custodia profesional. No ocupa el centro moral de la decisión. Tampoco se convierte en sujeto responsable del acto médico.
La IA puede calcular, comparar y reconocer patrones complejos. También puede generar hipótesis y estimaciones pronósticas. Incluso puede identificar posibilidades inicialmente inadvertidas por el profesional. Estas capacidades pueden representar un extraordinario apoyo para la medicina.
Sin embargo, corresponde al médico contextualizar estos resultados. También corresponde verificar su fundamento científico y aplicabilidad. Posteriormente debe deliberar sobre beneficios, riesgos y preferencias. Finalmente, debe asumir profesionalmente la decisión adoptada.
CUSTODIA-IA no propone disminuir las capacidades de la inteligencia artificial. Propone situarlas dentro de un marco responsable. La tecnología puede ampliar nuestra capacidad para conocer. La custodia debe orientar cómo utilizamos ese conocimiento.
De CUSTODIA-IA a nueve preguntas deliberativas
El modelo puede trasladarse a la práctica mediante nueve preguntas consecutivas. Estas preguntas acompañan el recorrido desde la información hasta la decisión. Su aplicación puede adaptarse a la complejidad clínica existente.
Primero debemos preguntarnos si comprendemos suficientemente al paciente y su problema. Después debemos determinar si utilizar IA aporta verdadero valor clínico. Posteriormente debemos analizar las consecuencias de una recomendación incorrecta.
También necesitamos comprender suficientemente el resultado generado. Después debemos verificar su fundamento científico mediante fuentes confiables. Posteriormente debemos deliberar sobre su justificación clínica y bioética.
La recomendación debe entonces individualizarse para ese paciente particular. También debemos conservar autonomía para cuestionarla, modificarla o rechazarla. Finalmente, debemos estar preparados para asumir profesionalmente la decisión adoptada.
Estas preguntas constituyen un recorrido y no una lista burocrática. Cada una conduce razonadamente hacia la siguiente. Juntas permiten introducir una pausa deliberativa antes de decidir.
El riesgo del sesgo de automatización
La existencia de supervisión humana no garantiza automáticamente decisiones seguras. Los profesionales también pueden ser influenciados por recomendaciones tecnológicas. Esta influencia puede producir el denominado sesgo de automatización.
El sesgo aparece cuando atribuimos excesiva confianza al sistema automatizado. Una recomendación algorítmica puede entonces modificar nuestro razonamiento inicial. Incluso puede desplazar una respuesta humana inicialmente correcta hacia otra incorrecta (10,11).
Este fenómeno posee especial importancia para CUSTODIA-IA. No basta con colocar un médico después del algoritmo. Debemos preservar su capacidad efectiva para cuestionarlo.
La exposición continuada también plantea interrogantes educativos importantes. Una dependencia excesiva podría deteriorar determinadas competencias profesionales. Podría afectar razonamiento clínico, búsqueda crítica y verificación de información (12).
Por ello, custodiar también significa preservar competencias médicas. La IA debería ampliar nuestras capacidades sin atrofiarlas. Esta consideración será particularmente importante durante la formación de nuevos profesionales.
De la supervisión humana a la custodia del acto médico
La literatura sobre inteligencia artificial utiliza frecuentemente el concepto de supervisión humana. Este principio resulta necesario para aplicaciones sanitarias responsables (3-5). Sin embargo, considero que resulta insuficiente para comprender completamente el acto médico.
Supervisar significa observar y controlar el funcionamiento de un sistema. Custodiar incorpora además una obligación profesional y moral. Significa proteger activamente aquello que puede perderse durante la transformación tecnológica.
Debemos custodiar la relación entre médico y paciente. También debemos proteger razonamiento, pensamiento crítico y deliberación. Debemos preservar prudencia, compasión y responsabilidad profesional.
Por ello, CUSTODIA-IA propone avanzar desde la supervisión hacia la custodia. No basta con mantener un humano dentro del circuito tecnológico. Necesitamos mantener al médico responsable dentro del acto médico.
Esta diferencia posee consecuencias prácticas importantes. El profesional no debería convertirse solamente en validador final del algoritmo. Debe conservar capacidad real para interpretar, cuestionar y decidir.
CUSTODIA-IA no pretende frenar la innovación
Custodiar no significa adoptar una posición contraria a la tecnología. La medicina siempre ha incorporado herramientas capaces de transformar profundamente su práctica. Muchas permitieron mejorar diagnóstico, tratamiento y pronóstico.
La inteligencia artificial probablemente producirá transformaciones comparables. Algunas aplicaciones ya muestran capacidades clínicas relevantes. Otras todavía requieren mayor validación y vigilancia.
Nuestro desafío consiste en incorporarlas responsablemente. La OMS promueve tecnologías sanitarias seguras, éticas y responsables (3,4). UNESCO enfatiza dignidad, derechos humanos y responsabilidad humana (5). Estas perspectivas permiten comprender innovación y custodia como conceptos complementarios.
El Modelo CUSTODIA-IA se sitúa dentro de esta relación. No pretende establecer barreras innecesarias frente a la innovación. Pretende establecer condiciones para una incorporación clínicamente responsable.
La pregunta fundamental no debería ser solamente cuánto puede hacer la IA. También debemos preguntarnos qué debemos permitirle hacer dentro de medicina. Finalmente, necesitamos determinar bajo qué condiciones podemos utilizarla responsablemente.
Una frontera que debemos preservar
Existe una frontera conceptual que considero esencial. La información generada por inteligencia artificial todavía no constituye una decisión médica. Esta diferencia debe permanecer claramente reconocible.
Primero necesitamos contextualizar la información recibida. Después debemos valorar utilidad, seguridad y transparencia. Posteriormente necesitamos verificar su fundamento científico y deliberar sobre sus consecuencias.
Finalmente, debemos individualizar la recomendación para cada paciente. El profesional debe entonces decidir si acepta, modifica o rechaza esa información. Solo después puede incorporarla responsablemente dentro del acto médico.
Esta frontera puede parecer pequeña desde una perspectiva tecnológica. Sin embargo, posee una importancia extraordinaria desde la bioética clínica. Confundir recomendación algorítmica con decisión médica puede transferir silenciosamente responsabilidad.
CUSTODIA-IA busca precisamente impedir esa transferencia. La tecnología puede intervenir profundamente dentro del proceso. Sin embargo, la responsabilidad debe permanecer identificable y humanamente asumida.
Conclusión
La inteligencia artificial continuará ampliando sus capacidades dentro de medicina. También modificará progresivamente nuestra manera de diagnosticar, investigar y decidir. Esta transformación exige una respuesta profesional proporcionada a su importancia.
No debemos responder solamente desde el entusiasmo tecnológico. Tampoco resulta razonable responder exclusivamente desde el temor. Necesitamos desarrollar una cultura profesional de discernimiento.
El Modelo CUSTODIA-IA propone un marco inicial para ese propósito. Integra contexto, utilidad, seguridad, transparencia y evidencia. También incorpora deliberación, individualización, autonomía y responsabilidad profesional.
Su propuesta central mantiene una distinción fundamental. La inteligencia artificial puede participar ampliamente dentro de una decisión médica. Sin embargo, la responsabilidad por esa decisión continúa siendo humana.
El desafío futuro no consiste solamente en desarrollar mejores algoritmos. También necesitamos formar profesionales capaces de utilizarlos responsablemente. Esto exige conocimiento tecnológico, pensamiento crítico y sólida formación bioética.
Cuanto mayor sea la capacidad de la inteligencia artificial, mayor será nuestra responsabilidad. Cuanto mayor sea su participación clínica, mayor deberá ser nuestra custodia. Esta relación deberá acompañar la transformación tecnológica de nuestra profesión.
Porque aquello que finalmente debemos proteger no es una tecnología determinada. Debemos proteger al paciente y preservar la confianza depositada en nosotros. También debemos proteger los fundamentos científicos y éticos de nuestra profesión. En definitiva, debemos custodiar el acto médico.
Referencias
-
- Núñez Medina TJ. Custodiar el acto médico en la era de la inteligencia artificial. Una reflexión desde la práctica clínica, la bioética y el profesionalismo médico. EduCardio. 2026. Disponible en: https://institutoeducardio.net/custodia-acto-medico-inteligencia-artificial/
- Núñez Medina TJ. Custodiar el acto médico en la era de la inteligencia artificial. EduCardio. 2026. Disponible en: https://institutoeducardio.net/custodia-acto-medico-inteligencia-artificial-2/
- World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization; 2021.
- World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: World Health Organization; 2024.
- United Nations Educational, Scientific and Cultural Organization. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO; 2021.
- Dicasterio para la Doctrina de la Fe, Dicasterio para la Cultura y la Educación. Antiqua et Nova. Nota sobre la relación entre la inteligencia artificial y la inteligencia humana. Ciudad del Vaticano: Santa Sede; 2025.
- World Medical Association. Declaration of Geneva. Ferney-Voltaire: World Medical Association.
- S. Food and Drug Administration. Artificial Intelligence-Enabled Device Software Functions: Lifecycle Management and Marketing Submission Recommendations. Silver Spring: FDA; 2025.
- ABIM Foundation, ACP-ASIM Foundation, European Federation of Internal Medicine. Medical professionalism in the new millennium: a physician charter. Ann Intern Med. 2002;136(3):243-246. doi:10.7326/0003-4819-136-3-200202050-00012.
- Goddard K, Roudsari A, Wyatt JC. Automation bias: empirical results assessing influencing factors. Int J Med Inform. 2014;83(5):368-375.
- Kottner J, et al. Automation bias in AI-decision support: results from an empirical study.
- Komasawa N, Yokohira M. Generative artificial intelligence in medical education: challenges and possibilities for future professionalism. Cureus. 2025;17(6).
