REGIC celebró el 9 de julio una nueva edición de sus píldoras formativas con la sesión «Inteligencia artificial y salud: riesgos, oportunidades y buenas prácticas», impartida por Atia Cortés, investigadora del Barcelona Supercomputing Center (BSC) y especialista en inteligencia artificial responsable. La jornada reunió a 170 profesionales de la investigación biomédica para reflexionar sobre los desafíos éticos, legales y técnicos que plantea la incorporación de la IA al sistema sanitario.
Durante la sesión, Cortés explicó que la inteligencia artificial ya forma parte de numerosos procesos relacionados con la asistencia sanitaria, la investigación biomédica y la gestión clínica. Sin embargo, subrayó que su incorporación debe realizarse desde un enfoque responsable que garantice la protección de los derechos de las personas, la transparencia de los sistemas y la generación de confianza tanto entre los profesionales como entre los pacientes.
La ponente comenzó repasando los principales retos asociados al uso de datos de salud, desde su recogida y almacenamiento hasta su utilización para entrenar modelos de inteligencia artificial. En este contexto, destacó la importancia de asegurar la calidad de los datos, la interoperabilidad entre sistemas y la protección de la privacidad, especialmente cuando se utilizan infraestructuras de almacenamiento en la nube o grandes repositorios de información clínica.
Uno de los ejes centrales de la presentación fue el concepto de inteligencia artificial confiable (Trustworthy AI), promovido por la Comisión Europea. Según explicó, un sistema de IA debe cumplir tres requisitos fundamentales: ser legal, ético y técnicamente robusto. Para ello, debe incorporar principios como la supervisión humana, la transparencia, la protección de datos, la rendición de cuentas, la no discriminación y el bienestar social.
La sesión puso especial énfasis en la necesidad de trasladar estos principios a la práctica mediante un ciclo de vida responsable de los sistemas de IA. Cortés defendió que aspectos como la ética, la legislación, el impacto social o la relevancia clínica deben integrarse desde las primeras fases de diseño, acompañando todo el proceso de desarrollo, evaluación, despliegue y monitorización de los modelos. Este enfoque permite identificar riesgos de forma temprana y mejorar la seguridad y la confianza en las herramientas desarrolladas.
Otro de los bloques más destacados abordó el problema de los sesgos algorítmicos, una de las principales amenazas para la equidad en la aplicación de la inteligencia artificial. La investigadora mostró diferentes ejemplos de cómo los sesgos históricos presentes en los datos pueden traducirse en modelos que funcionan peor para determinados colectivos, como las mujeres, las personas con determinados tonos de piel o poblaciones infrarrepresentadas en los conjuntos de entrenamiento. Estos sesgos, explicó, pueden perpetuar desigualdades ya existentes e incluso ampliarlas si no se detectan y corrigen durante el desarrollo de los sistemas.
En este sentido, destacó la importancia de construir bases de datos diversas y representativas, así como de evaluar el rendimiento de los algoritmos en diferentes grupos de población y no únicamente mediante métricas globales. También insistió en que los sistemas deben ser monitorizados una vez desplegados, ya que las condiciones del mundo real difieren de los entornos controlados en los que habitualmente se entrenan los modelos.
La sesión también abordó el auge de los modelos generativos y los grandes modelos de lenguaje (LLM), cuyas capacidades están transformando la forma de acceder y procesar la información. Cortés recordó que estas herramientas pueden generar respuestas convincentes incluso cuando contienen errores o información desactualizada, por lo que resulta imprescindible que los profesionales mantengan una actitud crítica, contrasten la información y comprendan las limitaciones de estos sistemas antes de incorporarlos a la práctica clínica o investigadora.
Finalmente, la ponente repasó el nuevo marco regulador europeo sobre inteligencia artificial, que clasifica las aplicaciones según su nivel de riesgo y establece obligaciones específicas para los sistemas utilizados en ámbitos especialmente sensibles como la salud. La regulación, señaló, busca fomentar la innovación sin renunciar a la protección de los derechos fundamentales y a la seguridad de las personas.
La jornada concluyó con un intercambio de preguntas entre los asistentes sobre la aplicación práctica de estas recomendaciones en proyectos de investigación biomédica. El debate puso de manifiesto la creciente necesidad de incorporar perfiles multidisciplinares, reforzar la alfabetización en inteligencia artificial y promover una cultura de desarrollo responsable que permita aprovechar el potencial de estas tecnologías sin comprometer la equidad, la transparencia y la confianza de la sociedad.
La grabación y presentación de la sesión se encuentra, disponible para los asociados, en la intranet.