Resumen
La inteligencia artificial configura una nueva realidad científica, clínica y social. Sus capacidades para gestionar información, analizar estudios, generar código y participar en investigaciones biomédicas ofrecen importantes beneficios, pero también introducen riesgos de error, dependencia, vigilancia, uso malicioso y daño biológico (2–6). Anthropic, empresa desarrolladora del sistema Claude, documentó actividades potencialmente peligrosas detectadas entre diciembre de 2025 y agosto de 2026 (2). Este caso no representa un problema exclusivo de una empresa, sino una advertencia para todo el ecosistema tecnológico. Desde el pensamiento de Gabriel d’Empaire Yanes y María Eugenia F. de d’Empaire, el progreso científico constituye simultáneamente esperanza y amenaza cuando la posibilidad técnica se separa de la deliberación moral (1). El modelo CUSTODIA-IA responde mediante eficacia, seguridad, evidencia, aplicabilidad, autonomía, confidencialidad, justicia, transparencia, responsabilidad, integridad y gobernanza (8). La inteligencia artificial amplía aquello que podemos hacer; la custodia del acto médico determina aquello que debemos hacer.
El reto moral ante una nueva realidad
Durante las últimas décadas, la medicina ha experimentado una transformación científica y tecnológica sin precedentes (1). Nuevos medicamentos, dispositivos, técnicas diagnósticas y procedimientos intervencionistas han modificado la historia natural de numerosas enfermedades (1). Paralelamente, el reconocimiento de dignidad, autonomía y derechos de los pacientes transformó profundamente la relación clínica (1,4,6).
Gabriel d’Empaire Yanes y María Eugenia F. de d’Empaire describen esta convergencia en En busca de una medicina más humana (1). En el capítulo El reto moral ante una nueva realidad, explican que los avances científicos han generado beneficios extraordinarios, pero también nuevos riesgos, amenazas, dudas e incertidumbres (1). La ciencia aparece simultáneamente como esperanza y como posibilidad de daño (1).
Esta nueva realidad exige algo más que conocimientos técnicos (1,4,6). Obliga a deliberar sobre finalidades, límites, consecuencias y responsabilidades (1,4,6). Cada innovación amplía aquello que podemos hacer, pero no responde por sí misma si debemos hacerlo (1). Entre capacidad y acción existe un espacio moral que ninguna tecnología puede ocupar autónomamente (1,4,6).
La inteligencia artificial constituye la manifestación más reciente de este reto (4,6,9). Su particularidad no radica solamente en ejecutar tareas complejas. También puede intervenir en actividades tradicionalmente relacionadas con capacidades cognitivas humanas: interpretar, relacionar información, producir argumentos, formular hipótesis y recomendar cursos de acción (2–4,7–9).
La pregunta central no consiste en determinar si la inteligencia artificial es buena o mala en sí misma. La cuestión fundamental es cómo, para qué, por quién y bajo cuáles límites será utilizada (1,4–6). Allí comienza la custodia del acto médico (7–9).
El encuentro con una medicina más humana
En los conversatorios de Bioética Clínica nos encontramos con la obra de Gabriel d’Empaire Yanes y María Eugenia F. de d’Empaire. Sus capítulos El reto moral ante una nueva realidad, Lo bueno y lo malo y La Bioética. Una respuesta indispensable y un reto impostergable ofrecen fundamentos esenciales para comprender los dilemas introducidos por la inteligencia artificial (1).
Gabriel d’Empaire ha sido nuestro amigo, colega y orientador en bioética. Entre 2013 y 2018 compartimos proyectos dentro de la Sociedad Venezolana de Cardiología, durante una etapa de reflexión sobre responsabilidad profesional, deliberación clínica y humanización de la medicina. Su pensamiento nos permitió comprender que el desarrollo científico no puede separarse de la pregunta moral sobre aquello que debemos hacer.
Esta enseñanza conserva plena vigencia (1). La inteligencia artificial representa una nueva tecnología, pero el problema moral que plantea no es completamente nuevo (1,4,6). Cada avance médico obliga a distinguir entre lo posible, lo eficaz, lo seguro, lo justo y lo moralmente aceptable (1,4–6).
Una medicina más humana no es aquella que rechaza la ciencia o prescinde de la tecnología (1). Es aquella capaz de utilizarla prudentemente, sin permitir que su eficiencia desplace dignidad, autonomía y derechos del enfermo (1,4,6). La humanización depende menos de la cantidad de tecnología utilizada que de la manera moral en la cual se integra al acto médico (1).
Lo bueno y lo malo en la inteligencia artificial
Calificar una tecnología como buena o mala únicamente por sus capacidades resulta insuficiente (1). Un mismo sistema puede apoyar el diagnóstico de una enfermedad, facilitar una investigación o mejorar la organización asistencial (4,7–9). También puede generar información falsa, reproducir sesgos, exponer datos confidenciales o facilitar actividades perjudiciales (2,4,6).
D’Empaire y F. de d’Empaire advierten sobre la creciente tecnificación de la vida humana y el predominio de criterios técnicos sobre valores fundamentales (1). Esta desviación se expresa mediante una premisa peligrosa: considerar que todo cuanto resulta técnicamente posible debe realizarse necesariamente (1).
La posibilidad técnica no constituye una obligación moral (1). Que una inteligencia artificial pueda redactar un informe no significa que deba hacerlo sin supervisión (4,7–9). Que pueda proponer una conducta clínica no la convierte en responsable de la decisión (4,6–9). Que pueda analizar información genética tampoco legitima cualquier finalidad para la cual esa información sea utilizada (3–6).
Lo bueno depende de la capacidad para producir un beneficio real, sustentado por evidencia y compatible con dignidad, autonomía, seguridad y justicia (1,4,6,8). Lo malo no se limita al daño intencional. También comprende errores previsibles, omisiones, imprudencia, opacidad, dependencia cognitiva y utilización de datos sin autorización (4,6–9).
Una respuesta técnicamente correcta puede formar parte de un proceso moralmente incorrecto (1,4,6). Del mismo modo, una finalidad legítima puede resultar perjudicada por información falsa, sesgada o descontextualizada (4,6,9). El análisis ético debe abarcar el proceso completo y no solamente el resultado generado (4–8).
Anthropic como caso de estudio
Una empresa tecnológica estadounidense, Anthropic, desarrolladora del sistema de inteligencia artificial Claude, publicó en septiembre de 2026 un informe sobre actividades potencialmente maliciosas detectadas en su plataforma (2). El documento describe incidentes ocurridos entre diciembre de 2025 y agosto de 2026 en siete ámbitos: operaciones cibernéticas, manipulación informativa, vigilancia, estafas, desarrollo de armas convencionales, investigación biológica de doble uso y extracción ilícita de capacidades del modelo (2).
La empresa aclara que estos incidentes no representan la utilización ordinaria de Claude (2). Fueron seleccionados por su gravedad, novedad o capacidad para revelar amenazas emergentes (2). El informe no permite conocer la frecuencia total del uso malicioso ni demuestra que todas las actividades investigadas alcanzaran resultados materiales (2).
Su importancia consiste en mostrar que actores humanos ya intentan integrar modelos avanzados dentro de procesos potencialmente perjudiciales (2). Claude representa aquí un caso de estudio, no el origen exclusivo del problema. Capacidades semejantes pueden encontrarse en múltiples sistemas comerciales, modelos abiertos y herramientas científicas especializadas (2,4–6).
La ausencia de informes públicos en otras empresas tampoco garantiza mayor seguridad. Puede reflejar menos incidentes, pero también menor capacidad de detección o menor transparencia. La respuesta ética debe abarcar todo el ecosistema de inteligencia artificial, independientemente de quién desarrolle cada plataforma (4,6).
El hallazgo fundamental consiste en que la inteligencia artificial ha dejado de funcionar únicamente como asistente para responder preguntas (2). Ahora puede integrarse en cadenas operativas que incluyen búsqueda, análisis, planificación, programación, redacción, corrección y ejecución (2). En determinadas circunstancias, puede convertirse en infraestructura cognitiva al servicio de una intención humana (2).
El doble uso de la investigación biológica
La investigación biomédica puede producir conocimientos beneficiosos y, simultáneamente, susceptibles de utilización dañina (3,5). El estudio de la adaptación viral, la evasión inmunitaria, las toxinas o la modificación genética puede contribuir al desarrollo de vacunas y tratamientos (2,3,5). Ese mismo conocimiento también puede emplearse para aumentar la peligrosidad de un agente biológico (2,5).
El informe de Anthropic describe investigaciones relacionadas con virus de potencial pandémico, mecanismos de evasión inmunitaria y optimización de moléculas biológicamente activas (2). Algunos usuarios presuntamente ocultaron la finalidad de sus proyectos, fragmentaron las solicitudes o utilizaron intermediarios para evadir controles (2).
Uno de los casos estuvo relacionado con la preparación de una propuesta científica sobre el virus del chikunguña (2). Sus objetivos podían interpretarse como parte de una investigación legítima, orientada a comprender la enfermedad o desarrollar medidas preventivas (2). Sin embargo, también podían facilitar modificaciones capaces de aumentar la peligrosidad del virus (2).
Estos hallazgos deben analizarse con rigor. El informe no demuestra que una inteligencia artificial haya creado autónomamente un patógeno ni producido una amenaza biológica operativa (2). La experimentación continúa requiriendo conocimientos especializados, infraestructura, materiales y participación humana (2,3).
Sin embargo, la ausencia de autonomía no elimina el riesgo (2,5). La inteligencia artificial puede reducir barreras cognitivas, técnicas, económicas y temporales (2). Puede localizar información especializada, relacionar datos dispersos, proponer procedimientos, redactar proyectos, generar código y mantener procesos iterativos durante periodos prolongados (2).
Un usuario con conocimientos parciales puede acceder a capacidades antes reservadas a equipos especializados (2). Un grupo pequeño puede emprender actividades que anteriormente exigían una estructura profesional más amplia (2). El modelo no necesita poseer intención propia para amplificar una intención humana (2,4,6).
Una frontera previamente advertida
El riesgo biológico asociado con la inteligencia artificial ya había sido analizado dentro del proyecto Custodia del Acto Médico (3). En La inteligencia artificial ya puede generar virus completos, examinamos una investigación que utilizó modelos generativos para producir genomas completos de bacteriófagos (3). Algunos originaron virus biológicamente funcionales después de su síntesis y evaluación experimental (3).
Aquel estudio no demostró eficacia clínica ni evaluó pacientes, dosis, vías de administración o resultados terapéuticos (3). Tampoco estableció que los virus generados pudieran utilizarse como tratamientos (3). Sin embargo, confirmó que la inteligencia artificial podía intervenir en la generación de instrucciones genéticas capaces de convertirse en entidades biológicas funcionales (3).
La advertencia no consistía en rechazar esta línea científica (3). Los bacteriófagos podrían ofrecer posibilidades terapéuticas frente a infecciones resistentes (3). El problema radicaba en reconocer que una misma capacidad puede abrir dos direcciones: innovación beneficiosa y utilización perjudicial (3,5).
Este antecedente permite interpretar el informe de Anthropic dentro de una secuencia más amplia (2,3). Primero aparece la demostración de capacidad (3). Después surgen intentos humanos de utilizar capacidades semejantes dentro de proyectos potencialmente peligrosos (2). Entre ambos momentos debe actuar la gobernanza (4–6).
La inteligencia artificial puede generar un genoma o facilitar un proyecto científico (2,3). Corresponde al buen quehacer médico y científico determinar si esa capacidad debe transformarse en una intervención, bajo cuáles límites y quién responderá por sus consecuencias (3–6).
El acto médico también puede tener doble uso
El doble uso no pertenece exclusivamente a laboratorios biológicos o programas militares (5). También puede aparecer en la práctica clínica cotidiana mediante la desviación de información, tecnologías o datos hacia finalidades diferentes de aquellas que justificaron su obtención (4–6). Una herramienta diseñada para analizar pacientes puede utilizarse para vigilarlos, mientras una base de datos destinada a investigación puede permitir identificar personas o comunidades vulnerables (4,6).
Un modelo predictivo creado para distribuir recursos puede convertirse en instrumento de exclusión (4,6). Una plataforma utilizada para redactar historias clínicas puede almacenar información confidencial fuera del entorno sanitario (4,7–9). Un sistema destinado a apoyar decisiones puede desplazar silenciosamente el juicio profesional (7–9).
La incorporación de inteligencia artificial introduce beneficios y riesgos simultáneos (4,6,9). La rapidez puede mejorar la atención, pero también acelerar errores (4,9). La automatización puede reducir cargas administrativas, pero también debilitar la capacidad cognitiva profesional (7–9). El análisis de grandes cantidades de datos puede descubrir patrones valiosos, pero también ampliar vigilancia y discriminación (2,4,6).
La custodia comienza antes de utilizar el sistema (7–9). Comprende la selección de la herramienta, la finalidad del uso, la legitimidad de los datos introducidos y la evaluación de sus riesgos (4,7–9). Continúa durante el análisis clínico y se extiende hasta la decisión, su documentación y sus consecuencias (7–9).
La Bioética: una respuesta indispensable
La bioética surge como respuesta ante conflictos que el conocimiento científico no puede resolver por sí solo (1). La evidencia puede establecer probabilidades, beneficios y riesgos, pero no determina automáticamente qué decisión respeta mejor dignidad, valores y proyecto de vida de una persona (1).
La inteligencia artificial tampoco elimina la necesidad de deliberar (4,6–9). Puede presentar alternativas y estimar resultados previsibles, pero no asume responsabilidad moral (4,6,7). Carece de experiencia vivida, conciencia de vulnerabilidad y obligación personal frente al enfermo (7–9).
La Organización Mundial de la Salud establece que la inteligencia artificial aplicada a salud debe proteger autonomía, bienestar, seguridad, transparencia, responsabilidad, inclusión y sostenibilidad (4). Asimismo, considera la mitigación de biorriesgos como una responsabilidad compartida entre investigadores, instituciones, financiadores, empresas, editores y autoridades públicas (5).
La UNESCO incorpora proporcionalidad, prevención del daño, trazabilidad, supervisión humana y rendición de cuentas como principios fundamentales (6). Sin embargo, la proclamación de principios resulta insuficiente si no se traduce en procedimientos y mecanismos verificables (1,4–6). Cada institución debe transformar esos principios en responsabilidades, políticas y controles concretos (4–6).
La bioética es indispensable porque ofrece un método para examinar hechos, valores y deberes (1). También constituye un reto impostergable porque la velocidad tecnológica supera frecuentemente la capacidad institucional para establecer límites (1,4–6). No deliberar también representa una decisión: significa permitir que la disponibilidad técnica determine por sí misma aquello que se hará (1).
De la supervisión humana a la custodia del acto médico
El concepto de custodia del acto médico se ha desarrollado progresivamente en publicaciones del Instituto EDUCARDIO (7–9). Su fundamento parte de reconocer que la supervisión humana, aunque indispensable, resulta insuficiente frente a sistemas capaces de intervenir en búsquedas, interpretación de estudios, elaboración de diagnósticos y formulación de recomendaciones clínicas (7,8).
Supervisar significa observar, revisar o controlar el funcionamiento de una herramienta (7). Custodiar implica una responsabilidad más profunda: proteger al paciente, preservar la relación clínica, evaluar la evidencia, reconocer los límites del sistema y responder por la decisión adoptada (7–9). La custodia comprende todo el proceso médico, desde la obtención de información hasta la ejecución y seguimiento de la conducta clínica (7).
El modelo CUSTODIA-IA fue propuesto como marco deliberativo para orientar esta responsabilidad (8). No pretende convertir la bioética en una lista mecánica. Busca organizar preguntas indispensables antes, durante y después de utilizar inteligencia artificial dentro del acto médico (8).
Este planteamiento también ha señalado la tensión entre el creciente poder tecnológico y la sabiduría necesaria para utilizarlo (9). Una herramienta puede poseer gran capacidad analítica sin comprender al enfermo, compartir sus valores ni asumir las consecuencias de una decisión (7–9). Por ello, el progreso técnico debe acompañarse de prudencia clínica, evaluación crítica y responsabilidad profesional (7–9).
El informe de Anthropic amplía esta preocupación (2). Ya no se trata solamente de una posibilidad teórica derivada del progreso científico. Existen intentos documentados de incorporar sistemas avanzados dentro de investigaciones y operaciones potencialmente peligrosas (2). Esta realidad confirma la necesidad de pasar de una supervisión ocasional a una verdadera custodia profesional e institucional (2,4–9).
CUSTODIA-IA frente al nuevo reto moral
El proyecto Custodia del Acto Médico en la Era de la Inteligencia Artificial propone diez dimensiones para orientar la utilización responsable de estas tecnologías (8):
-
Eficacia: capacidad real del sistema para cumplir la finalidad declarada (8).
-
Seguridad: identificación de riesgos clínicos, informáticos, biológicos y sociales (8).
-
Evidencia: calidad, actualidad y verificabilidad del conocimiento utilizado (8).
-
Aplicabilidad: correspondencia entre resultado algorítmico, contexto clínico y necesidades del paciente (8).
-
Autonomía: protección de la capacidad decisoria del enfermo y del juicio profesional (8).
-
Confidencialidad: resguardo de datos personales, clínicos, genéticos e institucionales (8).
-
Justicia: prevención de discriminación, exclusión y distribución desigual de riesgos (8).
-
Transparencia: identificación del sistema, sus limitaciones y su participación en el proceso (8).
-
Responsabilidad: determinación de personas e instituciones que responden por las decisiones (8).
-
Integridad y gobernanza: coherencia moral, supervisión institucional y mecanismos efectivos de control (8).
Estas dimensiones convierten principios generales en preguntas concretas (8). ¿Funciona realmente el sistema? ¿Qué evidencia sustenta sus resultados? ¿Qué daño puede producir? ¿Quién revisa la respuesta? ¿El paciente conoce su utilización? ¿Dónde permanecen sus datos? ¿Quién responderá por un error? (8).
El marco tampoco acepta que la inteligencia artificial sustituya la capacidad cognitiva profesional (7–9). Podemos delegar búsquedas, cálculos, transcripciones y determinados procesos analíticos. No debemos delegar el deber de comprender, deliberar, decidir y responder (7–9).
De la posibilidad técnica a la responsabilidad moral
Anthropic informó que suspendió cuentas, reforzó controles y compartió información con autoridades o empresas cuando lo consideró necesario (2). Estas acciones son importantes, pero insuficientes. El bloqueo de una cuenta no elimina el conocimiento adquirido ni impide que el usuario migre hacia otra plataforma (2).
La seguridad tampoco puede depender exclusivamente de filtros automáticos (2,4–6). Los sistemas tienen dificultades para reconocer finalidades ocultas, consultas fragmentadas y contextos científicamente ambiguos (2). La transparencia corporativa representa un avance, pero no sustituye la auditoría independiente, la regulación pública ni la cooperación internacional (4–6).
D’Empaire y F. de d’Empaire sostienen que la responsabilidad tecnológica corresponde a Estados e instituciones, sin excluir la responsabilidad individual de médicos, investigadores y personal sanitario (1). Esta distribución resulta especialmente pertinente para la inteligencia artificial (4–9).
El desarrollador responde por diseño, pruebas, controles y comunicación de limitaciones (4,6). La institución responde por selección, autorización, vigilancia y formación (4–6). El profesional responde por pertinencia, interpretación y decisión clínica (7–9). La autoridad pública responde por regulación, fiscalización y protección del bien común (4–6).
Ninguno puede trasladar completamente su responsabilidad hacia otro (1,4–9). Mucho menos hacia un algoritmo incapaz de responder moral o jurídicamente por sus resultados (4,6–9).
Hacia una medicina tecnológicamente avanzada y profundamente humana
Custodiar no significa impedir la innovación (7–9). La inteligencia artificial puede mejorar diagnósticos, acelerar investigaciones, ampliar el acceso al conocimiento y reducir cargas administrativas (3,4,9). Una prohibición indiscriminada también podría perjudicar a pacientes y limitar avances socialmente valiosos (4–6).
Custodiar significa proteger una capacidad poderosa, orientar su utilización hacia finalidades legítimas y responder por sus consecuencias previsibles (7–9). Significa impedir que la eficiencia sustituya a la prudencia, que la automatización sustituya al juicio y que la posibilidad técnica sustituya a la deliberación moral (1,7–9).
Una medicina más humana no es una medicina con menos tecnología (1). Es una medicina capaz de utilizarla sin perder de vista a la persona (1). La inteligencia artificial debe permanecer subordinada al acto médico y no convertirse en su centro (7–9).
La nueva realidad tecnológica necesita una nueva vigilancia, pero conserva una exigencia antigua: beneficiar al enfermo, evitar el daño, respetar su autonomía y actuar con justicia (1,4,6). La herramienta cambia; la responsabilidad permanece (1,7–9).
Conclusión
La inteligencia artificial representa esperanza y amenaza, capacidad y riesgo, beneficio potencial y posibilidad de daño (1–6). El informe de Anthropic hace visible esta ambivalencia, pero el reto moral supera a una empresa o plataforma particular (2).
La pregunta decisiva no es solamente qué puede hacer la inteligencia artificial. Debemos preguntar qué debe hacerse, para quién, con cuáles datos, bajo qué supervisión y dentro de cuáles límites (1,4–9).
El pensamiento de Gabriel d’Empaire Yanes y María Eugenia F. de d’Empaire conserva plena vigencia ante esta transformación (1). La ciencia y la tecnología producen beneficios extraordinarios, pero deben permanecer subordinadas a dignidad, autonomía y derechos humanos (1,4,6).
La bioética constituye una respuesta indispensable porque la tecnología no puede determinar autónomamente su finalidad moral (1). La custodia del acto médico constituye un reto impostergable porque cada nueva capacidad amplía también nuestras responsabilidades (7–9).
La inteligencia artificial amplía aquello que técnicamente podemos hacer; la custodia del acto médico determina qué debemos hacer, para quién y bajo cuáles límites.
Referencias
-
D’Empaire Yanes G, F. de d’Empaire ME. En busca de una medicina más humana: bioética clínica del día a día. Dr. Igor’s Palacios Society; 2020.
-
Anthropic. Detecting and countering misuse of AI: September 2026. 2026. Disponible en: Anthropic Threat Intelligence Report.
-
Núñez Medina TJ. La inteligencia artificial ya puede generar virus completos: entre la posibilidad tecnológica y la responsabilidad de custodiarla. Instituto EDUCARDIO; 2026. Disponible en: La inteligencia artificial ya puede generar virus completos.
-
World Health Organization. Ethics and governance of artificial intelligence for health. Geneva: WHO; 2021. Disponible en: OMS: ética y gobernanza de la inteligencia artificial para la salud.
-
World Health Organization. Global guidance framework for the responsible use of the life sciences: mitigating biorisks and governing dual-use research. Geneva: WHO; 2022. Disponible en: OMS: marco para la investigación de doble uso.
-
UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO; 2021. Disponible en: UNESCO: Recomendación sobre la ética de la inteligencia artificial.
-
Núñez Medina TJ. De la supervisión humana a la custodia del acto médico: una lectura clínica y bioética de la guía de la OMS sobre inteligencia artificial. Instituto EDUCARDIO; 2026. Disponible en: De la supervisión humana a la custodia del acto médico.
-
Núñez Medina TJ. Modelo CUSTODIA-IA: un marco deliberativo para orientar las decisiones médicas con inteligencia artificial. Instituto EDUCARDIO; 2026. Disponible en: Modelo CUSTODIA-IA.
-
Núñez Medina TJ. Inteligencia artificial en el acto médico: entre el poder tecnológico y la sabiduría para utilizarlo. Instituto EDUCARDIO; 2026. Disponible en: Inteligencia artificial en el acto médico.
