De la advertencia tecnológica al poder profético de Magnifica Humanitas

En nuestra entrega anterior planteábamos la inteligencia artificial como un nuevo reto moral para el acto médico. El análisis partía de un informe de Anthropic, empresa estadounidense desarrolladora de Claude, que documentó usos potencialmente peligrosos de estas tecnologías (1). La pregunta central era cómo incorporarlas a la medicina sin debilitar juicio clínico, autonomía, confidencialidad ni responsabilidad profesional.

Apenas dos días después, las noticias de este 14 de septiembre de 2026 refuerzan considerablemente ese debate. Sam Altman, cofundador y director ejecutivo de OpenAI, empresa creadora de ChatGPT, ha advertido sobre pérdida de control y concentración excesiva del poder tecnológico (2). Dario Amodei, cofundador y director ejecutivo de Anthropic, había pedido desacelerar el desarrollo para fortalecer seguridad, evaluación independiente y mecanismos de control (3).

Hablamos de una zona de alarma no porque exista un desenlace adverso inevitable. Lo hacemos porque aumentan las señales que justifican una vigilancia mucho más estricta. El poder de estos sistemas parece avanzar más rápidamente que algunos mecanismos disponibles para comprenderlos, supervisarlos y gobernarlos responsablemente (2,3).

En este contexto, Magnifica Humanitas, publicada por León XIV el 15 de mayo de 2026, adquiere una dimensión notablemente profética (4). Apenas cuatro meses antes, la encíclica advertía sobre velocidad tecnológica, concentración del poder y dificultades para orientar estas capacidades hacia el bien común. Su carácter profético no consiste en haber predicho acontecimientos concretos, sino en haber identificado anticipadamente el verdadero conflicto: que el poder tecnológico pueda avanzar más rápidamente que nuestra capacidad para comprenderlo, regularlo y utilizarlo responsablemente (4).

La OMS y la alarma dentro del acto médico

La Organización Mundial de la Salud también había señalado que la inteligencia artificial sanitaria exige autonomía, seguridad, transparencia, responsabilidad, equidad y verdadero control humano (5). Sus orientaciones posteriores sobre grandes modelos multimodales advierten además sobre errores, sesgos, automatización, privacidad y deterioro potencial de competencias profesionales (6).

Estas advertencias llegan directamente al núcleo del acto médico. La inteligencia artificial puede analizar datos, revisar evidencia y proponer diagnósticos o tratamientos. Sin embargo, ninguna capacidad computacional convierte al sistema en responsable moral de una decisión clínica.

Entrar en zona de alarma significa reconocer que ninguna ganancia tecnológica justifica perder control clínico, capacidad crítica ni responsabilidad profesional. El riesgo no consiste solamente en que el algoritmo pueda equivocarse. También incluye dependencia cognitiva, automatización del juicio, opacidad y dilución progresiva de responsabilidades (6,7).

Custodiar el acto médico en la era de la inteligencia artificial

Por eso proponemos avanzar desde la simple supervisión humana hacia la custodia del acto médico en la era de la inteligencia artificial. Custodiar significa comprender, verificar, contextualizar y conservar la capacidad profesional para aceptar, modificar o rechazar una recomendación automatizada (7,8).

Las noticias de este 14 de septiembre no justifican tecnofobia ni rechazo al progreso científico. Sí obligan a abandonar cualquier entusiasmo tecnológico acrítico. Si quienes desarrollan estos sistemas reclaman mayor prudencia, la medicina tiene todavía más razones para exigir evidencia, auditoría, límites y responsabilidad.

La carrera entre el poder tecnológico y la sabiduría para utilizarlo ya comenzó. Ya no es el futuro: es el ahora.

Cuanto mayor sea el poder de la inteligencia artificial, mayor deberá ser nuestra custodia del acto médico.

Referencias

1. 1. Núñez Medina TJ. Inteligencia artificial: el reto moral ante una nueva realidad. Instituto EDUCARDIO [Internet]. 2026 sep 12 [citado 2026 sep 14]. Disponible en: https://institutoeducardio.net/inteligencia-artificial-reto-moral-nueva-realidad/
   2. Bracero F. Sam Altman: “Podríamos perder el control del futuro ante la IA”. La Vanguardia [Internet]. 2026 sep 14 [citado 2026 sep 14].
   3. Peirón F. El director ejecutivo de Anthropic pide frenar la carrera de la IA: “Debemos bajar el ritmo antes de perder el control”. La Vanguardia [Internet]. 2026 sep 12 [citado 2026 sep 14].
   4. León XIV. Magnifica Humanitas: sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Ciudad del Vaticano: Santa Sede; 2026.
   5. World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization; 2021.
   6. World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: World Health Organization; 2024.
   7. Núñez Medina TJ. De la supervisión humana a la custodia del acto médico: una lectura clínica de la guía de la OMS. Instituto EDUCARDIO [Internet]. 2026 jul 29 [citado 2026 sep 14].
   8. Núñez Medina TJ. Modelo CUSTODIA-IA: un marco deliberativo para orientar decisiones médicas asistidas por inteligencia artificial. Instituto EDUCARDIO [Internet]. 2026 jul 27 [citado 2026 sep 14].