Etiqueta: Inteligencia Artificial

Este año el Top 10 de ECRI tiene mucho que ver con la IA, es el dilema de la tecnología infalible.

Existe la creencia de que a mayor sofisticación de las herramientas, menor es el margen de error. Sin embargo, la realidad que nos presenta ECRI tras 19 años de análisis es opuesta: a medida que la tecnología avanza, surgen vulnerabilidades invisibles y sistémicas. La seguridad del paciente no es una propiedad intrínseca de un dispositivo, sino el resultado de un «sistema total». Este equilibrio depende de la interacción crítica entre las personas, los procesos y el entorno. El informe de Riesgos Tecnológicos para 2026 nos advierte que el peligro no suele residir en un chip defectuoso, sino en la fragilidad de un sistema que confía ciegamente en infraestructuras que no comprende o que no puede controlar. Veamos unos ejemplos del Top 10.

¡Cuando los chatbots «alucinan» consejos médicos! El riesgo número uno para 2026 no es un fallo mecánico, sino una crisis de confianza algorítmica. El uso de Modelos de Lenguaje Extensos (LLM) como ChatGPT, Claude, Copilot o Grok se ha infiltrado en la clínica sin una regulación específica para el entorno sanitario. Estas herramientas no están diseñadas para la medicina; son motores de predicción estadística, no de comprensión clínica. El mayor peligro reside en las «alucinaciones» y en la predisposición de estos modelos a «complacer» al usuario. Ante una duda médica compleja, la IA prefiere ofrecer una respuesta fluida y autoritaria, aunque sea incorrecta o sesgada, antes que admitir su ignorancia. Esta búsqueda de la satisfacción del usuario, en lugar de la precisión clínica, convierte a la IA en un asesor de salud extremadamente poco fiable.

«El apagón electrónico». El colapso sistémico o schock que nadie espera. La dependencia absoluta de los sistemas electrónicos ha creado un flanco de ataque masivo. La «Oscuridad Digital» (una pérdida repentina de acceso a la información por ciberataques, fallos internos o desastres) ya no es una hipótesis de ciencia ficción; es una eventualidad operativa inminente. Y es un riesgo para los pacientes (decisiones de tratamiento a ciegas, sin acceso a historiales o resultados de laboratorio), clínicos (el personal se ve obligado a retomar flujos de trabajo manuales y obsoletos que no han practicado en años, operando bajo una presión cognitiva insoportable) y las organizaciones, con un caos.

El «Caballo de Troya» (dispositivos médicos heredados «Legacy»). Los dispositivos legacy (equipos antiguos que aún funcionan pero cuyo software ya no recibe parches de seguridad) son el «Caballo de Troya» moderno (Riesgo #8). La realidad económica impide a los hospitales renovar todo su parque tecnológico, dejando miles de puertas abiertas a los hackers. Un equipo de rayos X o un monitor de signos vitales comprometido no es solo un equipo fallido; es el puente que permite a un atacante saltar hacia el núcleo de la red hospitalaria. La solución para 2026 no es el reemplazo total (financieramente inviable) sino la segmentación agresiva de redes y la implementación de controles de seguridad compensatorios que aíslen estos puntos vulnerables de los sistemas críticos.

El desafío de los productos falsificados. El panorama geopolítico está alterando la seguridad del paciente. La retirada de apoyos internacionales (como la de EE. UU. de la OMS) y la reducción de personal en agencias de vigilancia sanitaria (Riesgo #3) han dejado un vacío de control. Esta falta de vigilancia externa delega en los equipos de compras la carga de detectar productos subestándar o falsificados.

¿Qué hay de lo mío? ¿Y sobre nuestro terreno? ¿Dice algo el informe? Pues si, en dos puntos, y los he tratado en el Blog previniendo de su importancia. Este año no aparecen los endoscopios ni duodenoscopios, pero lo que hay son cosas muy simples pero que son la base de nuestro trabajo.

7. Instrucciones de limpieza deficientes: Manuales de fabricantes incompletos o imposibles de seguir que facilitan la propagación de infecciones. Son las IFUs y la necesidad de que tengamos toda la información en las centrales, y por supuesto la importancia de la limpieza.

Una IFU no es un lujo o accesorio es OBLIGATORIO.

10. Problemas de calidad del agua en esterilización: El agua impura puede dejar residuos infecciosos o dañar el instrumental quirúrgico. ¿Cuántas veces he hablado del agua en el Blog? ¿Y el circulo de Sinner? ¿Y de la mezcla agua y detergentes?

Hay que controlar la calidad del agua.

La despedida musical de la entrada de hoy.