Introducción
La inteligencia artificial ya forma parte de la medicina contemporánea. Su presencia comienza a percibirse durante la atención clínica cotidiana. Puede analizar información, reconocer patrones y proponer diagnósticos en pocos segundos. También puede organizar evidencia y sugerir posibles conductas clínicas (1,2). Sin embargo, estas capacidades plantean preguntas que trascienden su rendimiento tecnológico.
En una situación reciente de nuestra práctica utilizamos inteligencia artificial como apoyo clínico. El sistema integró rápidamente antecedentes, hallazgos y resultados de estudios complementarios. Su análisis fue coherente y ofreció recomendaciones clínicamente plausibles. Sin embargo, una recomendación no coincidía plenamente con nuestra valoración del paciente. Fue necesario revisar la información, contextualizarla y ejercer juicio clínico.
La situación parecía sencilla, pero contenía una cuestión fundamental. ¿Quién debe decidir cuando una recomendación algorítmica parece clínicamente razonable? Más aún, ¿quién responde finalmente por sus consecuencias? Estas preguntas adquieren creciente importancia con la incorporación clínica de estas tecnologías (1,3).
La Organización Mundial de la Salud abordó tempranamente estas preocupaciones. En 2021 publicó su guía sobre ética y gobernanza de inteligencia artificial sanitaria (1). Allí estableció seis principios para orientar su desarrollo y utilización responsable. Estos comprenden autonomía, seguridad, transparencia, responsabilidad, equidad y sostenibilidad (1). Su finalidad es preservar el bienestar humano frente al desarrollo tecnológico.
Posteriormente, la OMS amplió estas consideraciones hacia la inteligencia artificial generativa. Particular atención reciben los grandes modelos multimodales utilizados en salud (2). Estos sistemas ofrecen nuevas capacidades para generar, interpretar e integrar información sanitaria. Sin embargo, también introducen riesgos relacionados con errores, sesgos y automatización inapropiada (2).
Desde nuestra experiencia, proponemos leer estas recomendaciones desde el acto médico cotidiano. No pretendemos solamente resumir un importante documento institucional. Buscamos interpretarlo desde la clínica, la bioética y la responsabilidad profesional. La inteligencia artificial puede ampliar nuestras capacidades, pero también modificar nuestra manera de decidir.
En este contexto proponemos avanzar desde la supervisión humana hacia la custodia del acto médico. Custodiar implica verificar, contextualizar, deliberar y asumir responsabilidad. Significa utilizar la tecnología sin transferirle aquello que corresponde al médico. Sobre todo, significa preservar al paciente como centro y finalidad de toda decisión clínica.
De los principios éticos a la práctica clínica
La guía de la OMS parte de una premisa fundamental. La inteligencia artificial debe permanecer al servicio de personas y comunidades (1). Su desarrollo tecnológico no constituye una finalidad por sí mismo. Su valor depende de su capacidad para mejorar la salud humana. También depende del respeto a derechos, autonomía, seguridad y dignidad (1).
Para orientar este propósito, la OMS propone seis principios fundamentales. Estos comprenden proteger la autonomía humana y promover bienestar y seguridad. También incluyen transparencia, responsabilidad, inclusión, equidad y sostenibilidad (1). Posteriormente, estos principios fueron reafirmados ante los modelos multimodales generativos (2).
Sin embargo, su importancia aparece con mayor claridad frente al paciente. En la práctica clínica, estos principios no funcionan de manera independiente. Convergen alrededor de tres preguntas esenciales. ¿Protege esta herramienta al paciente? ¿Podemos comprender y cuestionar sus recomendaciones? ¿Quién responde finalmente por las decisiones tomadas?
Proteger al paciente continúa siendo la primera obligación
La autonomía humana ocupa una posición central en la propuesta de la OMS (1). Una herramienta algorítmica puede aportar información relevante para una decisión. Sin embargo, no debe desplazar las preferencias y valores del paciente. Tampoco debería disminuir su participación en decisiones sobre su propia salud.
Este principio adquiere particular importancia durante situaciones clínicas complejas. Una recomendación técnicamente correcta puede resultar inapropiada para determinado paciente. La edad, fragilidad, comorbilidades y pronóstico pueden modificar su proporcionalidad. También deben considerarse preferencias, objetivos terapéuticos y circunstancias personales.
Por ello, utilizar inteligencia artificial exige algo más que aceptar resultados precisos. Requiere interpretar cada recomendación dentro de una realidad clínica concreta. El beneficio estadístico no sustituye la valoración individual del paciente. Tampoco elimina la necesidad de deliberación clínica.
La seguridad constituye una segunda dimensión inseparable de esta responsabilidad. La OMS establece requisitos relacionados con seguridad, precisión y eficacia (1). Además, recomienda evaluar continuamente el comportamiento de estas tecnologías durante su utilización (1,3). Esta vigilancia resulta especialmente importante cuando los sistemas evolucionan rápidamente.
Desde nuestra perspectiva, aparece aquí una primera expresión de custodia. Custodiar significa aprovechar la tecnología sin abandonar la vigilancia clínica. Significa reconocer sus aportes, pero también identificar sus límites. Sobre todo, significa mantener la protección del paciente sobre la fascinación tecnológica.
Una inteligencia artificial puede recomendar. El médico debe discernir si esa recomendación beneficia realmente a ese paciente.
Comprender para poder confiar: transparencia y explicabilidad
La confianza clínica no puede sustentarse únicamente en la precisión algorítmica. Un sistema puede ofrecer una respuesta correcta sin explicar adecuadamente su razonamiento. Este problema adquiere especial relevancia cuando sus resultados influyen sobre decisiones médicas. La OMS considera transparencia, explicabilidad e inteligibilidad principios fundamentales de una IA responsable (1).
La transparencia comienza antes de utilizar una herramienta determinada. El médico debería conocer su finalidad, población de desarrollo y condiciones de validación. También debería reconocer sus principales limitaciones y posibles fuentes de error. Esta información permite valorar su aplicabilidad frente al paciente concreto (1,3).
Sin embargo, transparencia y explicabilidad no significan exactamente lo mismo. Conocer cómo fue desarrollado un sistema aporta transparencia. Comprender los elementos que sustentan determinada recomendación aporta explicabilidad. Ambas dimensiones resultan necesarias cuando pueden modificarse diagnóstico, tratamiento o pronóstico.
Este problema adquiere mayor complejidad con la inteligencia artificial generativa. Los grandes modelos pueden producir respuestas coherentes, estructuradas y aparentemente convincentes (2). Esa capacidad comunicativa puede generar una percepción exagerada de confiabilidad. Una respuesta bien redactada no constituye necesariamente una respuesta verdadera.
Desde la práctica clínica, este riesgo merece especial atención. El problema no siempre será una inteligencia artificial evidentemente equivocada. Puede resultar más difícil reconocer una recomendación incorrecta expresada convincentemente. Por ello, la fluidez lingüística nunca debería confundirse con evidencia clínica.
Aquí aparece también el riesgo del sesgo de automatización. El profesional puede otorgar excesiva confianza a una recomendación automatizada. Incluso podría modificar su propio juicio frente a una respuesta aparentemente segura. Esta dependencia puede debilitar progresivamente la deliberación clínica y la autonomía profesional (1-3).
La custodia del acto médico exige entonces una actitud activa. Cada recomendación relevante debe contrastarse con datos clínicos y evidencia disponible. También debe valorarse su coherencia con el contexto individual. Verificar no representa desconfianza hacia la tecnología. Representa una obligación inherente al profesionalismo médico.
La inteligencia artificial puede ayudarnos a formular mejores preguntas. También puede ampliar nuestra capacidad para organizar información compleja. Sin embargo, comprender, verificar y contextualizar continúan siendo responsabilidades del médico.
¿Quién responde cuando interviene la inteligencia artificial?
La responsabilidad constituye uno de los núcleos éticos más importantes de la guía. La OMS establece la necesidad de responsabilidad y rendición de cuentas (1). Esta exigencia adquiere especial importancia cuando una recomendación influye sobre decisiones clínicas. El problema aumenta cuando participan múltiples actores en una misma decisión.
En la medicina tradicional, la responsabilidad profesional posee referentes relativamente definidos. El médico evalúa, interpreta los hallazgos y establece una conducta clínica. La inteligencia artificial introduce nuevos participantes dentro de este proceso. Intervienen desarrolladores, proveedores, instituciones sanitarias y sistemas automatizados de diferente complejidad (1,3).
Esta distribución puede generar una peligrosa fragmentación de responsabilidades. Ante un daño, podría resultar difícil establecer dónde ocurrió el error. El algoritmo pudo utilizar información insuficiente o datos inadecuados. El sistema pudo generar una recomendación incorrecta. También el profesional pudo aceptarla sin realizar una verificación suficiente.
Sin embargo, distribuir responsabilidades no significa diluirlas. La incorporación tecnológica requiere mecanismos claros de rendición de cuentas (1). También exige trazabilidad y vigilancia durante la utilización clínica (3). Estos elementos permiten identificar errores y establecer medidas correctivas.
Desde la práctica médica aparece una distinción fundamental. Una herramienta puede participar en el razonamiento sin convertirse en responsable del paciente. Puede sugerir diagnósticos, interpretar información y proponer alternativas terapéuticas. Pero ninguna de estas capacidades establece una relación médico-paciente.
La decisión clínica tampoco consiste únicamente en seleccionar una respuesta correcta. Requiere integrar incertidumbre, evidencia y circunstancias individuales. También exige considerar proporcionalidad, preferencias y objetivos terapéuticos. Finalmente, alguien debe asumir las consecuencias de aquello que se decide.
Por ello, debemos evitar dos extremos igualmente problemáticos. El primero consiste en rechazar la inteligencia artificial por temor tecnológico. El segundo consiste en delegar progresivamente nuestro juicio en ella. Entre ambos extremos existe un espacio de integración responsable.
Ese espacio corresponde a la custodia del acto médico.
Custodiar significa conservar la autoridad clínica acompañada de responsabilidad profesional. Supone conocer cuándo utilizar una herramienta y cuándo cuestionarla. También implica reconocer cuándo debemos apartarnos de su recomendación. La responsabilidad final no puede desaparecer dentro de una cadena algorítmica.
Desde esta perspectiva, la inteligencia artificial modifica nuestras herramientas. Sin embargo, no modifica nuestra obligación fundamental. El médico puede apoyarse en el algoritmo, pero continúa respondiendo ante el paciente.
Equidad: una inteligencia artificial desarrollada lejos de nuestros pacientes
La equidad constituye otro principio central de la propuesta de la OMS. Los beneficios tecnológicos deberían distribuirse ampliamente entre personas y comunidades (1). Sin embargo, alcanzar este objetivo exige reconocer una dificultad fundamental. Los sistemas algorítmicos aprenden de los datos utilizados durante su desarrollo.
Cuando determinadas poblaciones están insuficientemente representadas, aparecen riesgos importantes. El rendimiento puede variar entre grupos poblacionales y contextos sanitarios diferentes (1,3). Una herramienta eficaz en determinada población no necesariamente conservará ese desempeño en otra. Esta consideración adquiere especial importancia para Latinoamérica.
Muchos sistemas actuales utilizan datos procedentes fundamentalmente de países de altos ingresos. Sus poblaciones y sistemas sanitarios pueden diferir considerablemente de los nuestros. También existen diferencias sociales, culturales y económicas relevantes. Por ello, la generalización automática de sus resultados merece prudencia.
La OMS reconoce especialmente estos desafíos para países de ingresos bajos y medios (1). Las limitaciones incluyen disponibilidad, representatividad y calidad de los datos. También comprenden infraestructura, capacidades regulatorias y recursos profesionales. Estas desigualdades pueden determinar quién recibe realmente los beneficios de la innovación.
Desde nuestra experiencia, esta cuestión tiene consecuencias clínicas concretas. Hemos comenzado a incorporar progresivamente herramientas basadas en inteligencia artificial. También investigamos algoritmos aplicados a electrocardiografía digital analítica de alta resolución. Estas experiencias permiten reconocer posibilidades importantes, pero también plantean preguntas necesarias.
¿Representan los datos de entrenamiento adecuadamente a nuestros pacientes? ¿Ha sido validado el algoritmo en poblaciones semejantes a la nuestra? ¿Mantiene su rendimiento dentro de nuestras condiciones asistenciales? Estas preguntas deberían preceder cualquier incorporación sistemática a la práctica clínica.
Por ello, la validación local constituye una responsabilidad científica y ética. No basta conocer el rendimiento publicado por los desarrolladores. Necesitamos evaluar desempeño, seguridad y utilidad dentro de nuestros contextos. También debemos identificar errores y sesgos antes de normalizar su utilización (3).
La equidad implica además evitar una nueva brecha tecnológica. La inteligencia artificial podría ampliar capacidades donde existen recursos suficientes. Pero también podría profundizar desigualdades donde esos recursos son limitados. La innovación sanitaria solamente adquiere legitimidad cuando contribuye realmente al bien común.
Esta dimensión amplía nuestra idea de custodia. No solamente debemos custodiar cada decisión médica. También debemos custodiar cómo incorporamos estas tecnologías a nuestros sistemas sanitarios.
De la supervisión humana a la custodia del acto médico
La OMS establece que los seres humanos deben conservar el control de las decisiones sanitarias (1). Este principio constituye una salvaguarda fundamental frente a la automatización. Sin embargo, desde la práctica médica, consideramos necesario avanzar un paso más. La supervisión humana puede resultar necesaria, pero no siempre suficiente.
Supervisar significa observar, revisar y controlar el funcionamiento de una tecnología. Custodiar incorpora una dimensión profesional y moral más profunda. Significa proteger aquello que ha sido confiado a nuestra responsabilidad. En medicina, aquello confiado es el paciente y su cuidado.
El acto médico tampoco puede reducirse a una decisión diagnóstica o terapéutica. Comprende escuchar, examinar, interpretar y deliberar. También implica comunicar incertidumbre, acompañar y asumir responsabilidad. Estas dimensiones pertenecen a la relación clínica y fundamentan el profesionalismo médico.
La inteligencia artificial puede participar en varias etapas de este proceso. Puede reconocer patrones difíciles de identificar y organizar información compleja. También puede generar hipótesis y apoyar determinadas decisiones clínicas (1,2). Su incorporación responsable puede ampliar nuestras capacidades profesionales.
Sin embargo, apoyar una decisión no significa sustituir al decisor. Una recomendación algorítmica debe integrarse con evidencia y contexto clínico. También debe confrontarse con preferencias y circunstancias del paciente. Su utilización requiere conocer incertidumbres, limitaciones y posibles sesgos (1-3).
Por ello, proponemos el concepto de custodia del acto médico. Esta custodia exige mantener el juicio clínico frente a la automatización. Requiere verificar información y preservar independencia intelectual. También demanda reconocer cuándo aceptar, modificar o rechazar una recomendación algorítmica.
Esta perspectiva modifica nuestra relación con la inteligencia artificial. Ya no preguntamos solamente qué puede hacer la tecnología. Debemos preguntarnos cuándo resulta apropiado utilizarla y con qué límites. Sobre todo, debemos preguntarnos cómo incorporarla sin erosionar nuestras obligaciones profesionales.
La custodia tampoco significa resistencia frente a la innovación. Por el contrario, exige conocerla suficientemente para utilizarla con prudencia. La competencia digital comienza así a formar parte del profesionalismo contemporáneo. Difícilmente podemos custodiar aquello cuyas capacidades y limitaciones desconocemos.
La inteligencia artificial puede convertirse en una extraordinaria herramienta médica. Pero su incorporación requiere algo más que supervisión tecnológica. Necesitamos médicos capaces de gobernarla prudentemente desde la clínica, evidencia y bioética.
En este sentido, la propuesta de la OMS encuentra una prolongación clínica:
La supervisión humana protege el proceso; la custodia médica protege el sentido del acto médico.
Volver al paciente: la decisión continúa siendo humana
Las recomendaciones de la OMS adquieren verdadero significado cuando regresamos al paciente. La ética de la inteligencia artificial no puede permanecer como abstracción normativa. Debe expresarse en cada encuentro clínico y cada decisión asistencial (1). Allí se comprueba finalmente el verdadero valor de estas tecnologías.
Volvamos al caso que inició esta reflexión. La inteligencia artificial había organizado información y propuesto alternativas razonables. Algunas recomendaciones coincidieron con nuestra valoración clínica. Otras necesitaron ser revisadas y contextualizadas. Ninguna podía asumirse automáticamente como una decisión médica.
El algoritmo conocía los datos que habíamos proporcionado. Nosotros conocíamos además al paciente. Habíamos escuchado su relato, examinado sus signos y valorado su evolución. Conocíamos también sus temores, expectativas y circunstancias particulares. Esa diferencia continúa siendo esencial.
La decisión final surgió entonces de integrar distintas fuentes. Participaron historia clínica, exploración, estudios complementarios y evidencia disponible. También intervino la información aportada por la inteligencia artificial. Sin embargo, el juicio clínico permaneció como elemento integrador del proceso.
Esta experiencia permite comprender mejor las recomendaciones de la OMS. Autonomía, seguridad, transparencia, responsabilidad y equidad no son principios aislados (1). Convergen cuando debemos decidir qué resulta apropiado para una persona concreta. Allí la gobernanza tecnológica se convierte finalmente en responsabilidad clínica.
Los modelos generativos hacen esta responsabilidad todavía más importante. Pueden producir información útil con extraordinaria rapidez y aparente seguridad (2). Precisamente por ello, requieren verificación crítica antes de influir sobre decisiones clínicas. La capacidad de generar una respuesta no garantiza su validez médica.
La regulación también constituye una salvaguarda necesaria. Debe considerar seguridad, desempeño, transparencia y vigilancia continuada (3). Sin embargo, ninguna regulación sustituye completamente el juicio ejercido frente al paciente. Siempre existirá una dimensión clínica que requiere interpretación y deliberación.
Por ello, la inteligencia artificial no debería entenderse como sustituta del médico. Tampoco debemos considerarla simplemente una amenaza para nuestra profesión. Representa una nueva capacidad que debemos aprender a incorporar responsablemente. Esto exige conocimiento tecnológico, evidencia científica y formación bioética.
El desafío consiste en evitar dos caminos igualmente insuficientes. Uno sería rechazar estas herramientas por temor a la transformación. El otro sería aceptarlas acríticamente por fascinación tecnológica. Entre ambos se encuentra una medicina capaz de innovar sin renunciar a sus fundamentos.
Como recuerda la guía de la OMS al citar a Stephen Hawking, el futuro plantea una carrera entre el creciente poder tecnológico y la sabiduría para utilizarlo (1). Esta reflexión adquiere una particular profundidad en medicina. Nuestras decisiones afectan directamente la salud, vulnerabilidad y vida humana.
La inteligencia artificial puede ayudarnos a conocer más y decidir mejor. Pero alguien debe verificar, interpretar, deliberar y responder. Esa responsabilidad continúa perteneciendo al profesional que acompaña al paciente.
La tecnología puede ampliar el acto médico. Nuestra responsabilidad es custodiarlo.
Conclusiones
La inteligencia artificial está modificando profundamente la práctica médica contemporánea. Sus capacidades pueden mejorar análisis, diagnóstico y acceso al conocimiento. También pueden fortalecer investigación, docencia y organización sanitaria (1-3). Sin embargo, estas posibilidades introducen nuevas responsabilidades profesionales.
La guía de la OMS ofrece un marco ético especialmente vigente. Sus principios sitúan autonomía, seguridad, transparencia y equidad como condiciones fundamentales (1). También destacan responsabilidad, rendición de cuentas y sostenibilidad. Estos principios adquieren verdadero sentido cuando se trasladan al encuentro clínico.
La llegada de la inteligencia artificial generativa profundiza este desafío. Sus respuestas pueden ser rápidas, coherentes y aparentemente convincentes (2). Precisamente estas capacidades obligan a fortalecer la verificación profesional. La fluidez de una respuesta nunca garantiza su validez clínica.
Nuestra lectura de la propuesta de la OMS conduce hacia una consideración adicional. La supervisión humana constituye una condición necesaria para utilizar responsablemente estas tecnologías. Sin embargo, la medicina requiere avanzar hacia la custodia del acto médico.
Custodiar significa conocer las posibilidades y limitaciones de cada herramienta. Significa verificar sus resultados y contrastarlos con evidencia independiente. También exige contextualizar cada recomendación frente al paciente concreto. Finalmente, implica asumir responsabilidad por la decisión adoptada.
Esta custodia tampoco corresponde exclusivamente al médico individual. Las instituciones deben establecer políticas claras para incorporar inteligencia artificial. Los desarrolladores deben garantizar transparencia, seguridad y vigilancia continuada (1,3). Los sistemas sanitarios necesitan promover evaluación independiente y validación en poblaciones locales.
También será necesario renovar nuestra concepción del profesionalismo médico. La competencia clínica deberá acompañarse progresivamente de nuevas capacidades digitales. El médico necesitará comprender cómo utilizar, cuestionar y verificar sistemas inteligentes. Pero deberá conservar aquello que ninguna competencia tecnológica puede reemplazar.
Ese núcleo permanece en la relación con el paciente. Allí convergen conocimiento, prudencia, deliberación y responsabilidad. Allí también encuentran su límite las decisiones automatizadas.
Por ello, el debate no debería plantearse entre médicos e inteligencia artificial. El verdadero desafío consiste en definir qué medicina queremos construir con ella. Una medicina tecnológicamente avanzada puede continuar siendo profundamente humana.
La inteligencia artificial puede ampliar nuestras capacidades. Puede incluso ayudarnos a reconocer aquello que antes permanecía oculto. Pero no debe desplazar nuestra responsabilidad ni debilitar nuestro juicio clínico.
La medicina del futuro necesitará inteligencia artificial. Pero necesitará, todavía más, médicos capaces de custodiar prudentemente su utilización.
Referencias
1. World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization; 2021. ISBN: 978-92-4-002920-0.
2. World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: World Health Organization; 2024. ISBN: 978-92-4-008475-9.
3. World Health Organization. Regulatory considerations on artificial intelligence for health. Geneva: World Health Organization; 2023. ISBN: 978-92-4-007887-1.
