El Consejo Asesor Científico de las Academia Europeas (EASAC) y la Federación Europea de Academias de Medicina (FEAM) acaban de publicar un informe conjunto sobre el uso de la inteligencia artificial (IA) en la sanidad europea con recomendaciones dirigidas a aprovechar sus beneficios y garantizar, al mismo tiempo, una implantación segura, ética e inclusiva. Este documento pretende contribuir a la aplicación de las iniciativas legislativas europeas en marcha relacionadas con la IA y los datos sanitarios.

“La IA debe ser una herramienta que empodere al profesional sanitario, nunca que lo sustituya o desplace, y su despliegue debe ser proactivo y no reactivo. Todos los países europeos estamos de acuerdo en esto. Lo más difícil ha sido traducirlo en recomendaciones concretas que tuvieran sentido en 29 sistemas sanitarios nacionales muy distintos entre sí con niveles de digitalización, financiación y marcos regulatorios diferentes”, asegura el vicepresidente de la FEAM, el Prof. Luis Martí-Bonmatí, quien ha liderado el grupo de trabajo que ha elaborado este informe y que ha estado formado por 22 científicos europeos de prestigio.

En esta misma línea, David Ríos, miembro de la Real Academia de Ciencias de España, que ha participado en la elaboración del informe y ha trabajado especialmente en el apartado dedicado a la seguridad, subraya que “la medicina está cambiando completamente con la llegada de la IA y era necesario analizar qué riesgos plantea y cómo podemos afrontarlos”. Según el matemático, el informe recoge recomendaciones para mitigar esos riesgos y, entre otras cuestiones, “evitar que los algoritmos puedan ser injustos con determinados grupos de población”.

“El punto más controvertido quizás haya sido encontrar el equilibrio en Europa entre regulación e innovación”, asegura el Prof. Martí-Bonmatí, quien también es académico de número de Radiología y Radiodiagnóstico de la Real Academia Nacional de Medicina de España (RANME). “Todos coincidíamos en que la IA sanitaria de alto riesgo necesita una supervisión humana estricta, pero también sabemos que una regulación excesivamente rígida para su desarrollo e implementación frena la utilización de estas herramientas que aportan un valor clínico real”, reconoce.

Ríos añade que la seguridad tiene que formar parte del diseño de estos sistemas desde el principio: “No hay que elegir necesariamente los modelos más sencillos o fáciles de implementar, sino aquellos que sean más robustos. En un entorno hostil, un modelo necesita haber sido entrenado para enfrentarse a situaciones adversas y ser capaz de mantener su funcionamiento”.

De aquí que los autores del informe hayan apostado por la creación de “entornos controlados de experimentación regulatoria”, los llamados “regulatory sandboxes”. “Serían entornos controlados y seguros, de tiempo limitado, donde los innovadores pueden probar nuevas herramientas de IA bajo supervisión regulatoria, con garantías para los pacientes, mientras los reguladores aprenden cómo aplicar la normativa existente”, explica el Prof. Martí-Bonmatí. Otro punto de fricción, añade, fue “hasta qué punto exigir estándares comunes de interoperabilidad de datos entre países, respetando al mismo tiempo la autonomía de cada Estado miembro sobre su propio sistema de salud”.

Los sistemas de IA ya se utilizan en numerosos ámbitos de la asistencia sanitaria y tienen potencial para aportar importantes beneficios, especialmente en la atención clínica y la salud pública. Sin embargo, si no existen normas claras, también pueden generar problemas como filtraciones o usos indebidos de datos, sesgos en los algoritmos o una pérdida del control humano sobre determinadas decisiones.

Ríos advierte de que “estamos viendo aparecer problemas que antes no existían”. Por ejemplo, los sistemas de diagnóstico mediante imagen “pueden verse alterados por un virus informático que los infecte. Si un sistema ha sido manipulado, puede dejar de ser eficaz y generar diagnósticos erróneos”. Esto abre incluso la puerta, según el académico, a lo que podríamos denominar “terrorismo científico”: ataques dirigidos contra sistemas que pueden tener consecuencias sobre la salud de las personas.

Informe