El Parlamento Europeo se debate esta semana sobre la implantación de la nueva ley de Inteligencia Artificial. Tras un intenso debate este martes, en el que los eurodiputados han ido desgranando sus aportaciones a la normativa, se prevé que la regulación se vote este miércoles con un resultado favorable.
En junio de 2023, el Parlamento Europeo ya adoptó su posición favorable a la creación de esta ley para dar respuesta a los constantes y rápidos avances que se han estado produciendo en este campo. Por ello, la normativa pretende garantizar que la IA “sea fiable, segura y respete los derechos fundamentales de la UE, al tiempo que apoya la innovación”. Con el respaldo del pleno, este martes podría adoptarse la nueva ley, que incluye un enfoque basado en el riesgo (desde bajo hasta inaceptable) y establece obligaciones para los proveedores y para quienes implementan sistemas de IA. Por ejemplo, se prohibirían los sistemas de IA con un nivel inaceptable de riesgo para la seguridad de las personas.
En el caso de la atención sanitaria, por ejemplo, se aplicaría la normativa de IA de alto riesgo, al igual que en infraestructuras críticas, educación, aplicación de la ley, gestión de fronteras o elecciones, que deberán cumplir requisitos estrictos. En el caso de las aplicaciones de IA que representen un riesgo claro para los derechos fundamentales, como los sistemas de categorización biométrica basados en características sensibles, la puntuación social o la IA utilizada para manipular el comportamiento humano, serán prohibidas en Europa.
Se prevé que la regulación se vote este miércoles con un resultado favorable
Los avances que la IA ha propiciado para el campo de la salud son innegables. Por ejemplo, en el ámbito de las enfermedades raras puede llegar a “proporcionar un futuro con más esperanza”, explicaba Juan Carrión, presidente de la Federación Española de Enfermedades Raras (FEDER), en una reciente entrevista para ConSalud.es. En este sentido, Carrión ahondaba en que estas tecnologías pueden “impulsar tanto la investigación como diagnósticos más rápidos al disponer de mayor conocimiento, así como un mejor análisis y medición de resultados en materia de tratamiento, permitiendo a su vez un abordaje más personalizado de la enfermedad”.
No en vano, desde la Organización Mundial de la Salud (OMS) se apunta que esta tecnología tiene el potencial de mejorar la atención médica, ayudar al diagnóstico, investigar síntomas y tratamientos, realizar tareas administrativas o burocráticas para liberar la presión de los facultativos, o incluso para la formación médica. De hecho, la inteligencia artificial generativa puede llegar a usarse para estandarizar conversaciones entre médico y paciente con la historia clínica, o para generar “datos sintéticos imiten patrones y características de datos reales sin representar información real específica para elaborar estudios clínicos”, como se explica desde el Instituto para el Desarrollo e Integración de la Sanidad (Fundación IDIS).
En el caso de nuestro país, ya hay algunos ejemplos de comunidades autónomas en las que se está trabajando por esta implantación. Es el caso, por ejemplo, de la Xunta de Galicia, que cuenta con un Plan Estratégico de Inteligencia Artificial 2030 dotado con más de 330 millones de euros, a través del que se ha creado el Consejo Técnico Asesor en Inteligencia Artificial y Espacio de Datos del Sistema Público de Salud de Galicia.
La puntuación social o la IA utilizada para manipular el comportamiento humano, serán prohibidas en Europa
También la Comunidad de Madrid hace uso de la Big Data e IA para “ponerlas al servicio de los pacientes” a través de, por ejemplo, programas de cribado o en la monitorización de problemas de ansiedad relacionados con la salud mental. Siguiendo esta línea, La Rioja también cuenta con una nueva estrategia para mejorar su sanidad con la IA, con estrategias como el plan ‘Datos que cambian vidas’. El propio Ministerio de Sanidad cuenta con una Estrategia de Salud Digital del SNS. Noemí Cívicos, directora general de Salud Digital y Sistemas de Información para el Sistema Nacional de Salud, ya avanzaba en una entrevista para ConSalud.es que "la IA sin duda será clave en el desarrollo de nuevos servicios digitales en los próximos años”.
No obstante, y como apunta el doctor Jeremy Farrar, científico jefe de la OMS, “necesitamos información y políticas transparentes para gestionar el diseño, el desarrollo y el uso de la IA para lograr mejores resultados sanitarios y superar las desigualdades sanitarias persistentes". Es por ello que iniciativas como la de esta ley son muy importantes. Si bien tenemos claros los beneficios que puede traer el uso de esta tecnología en la salud, también tenemos que tener en cuenta los peligros que presenta.
Desde la OMS se cita, por ejemplo, el hecho de que los datos que utilicemos puedan estar sesgados, lo que “podría plantear riesgos para la salud, la equidad y la inclusividad”. Además, puede ofrecer respuestas “que sean totalmente incorrectas o que contengan errores graves, especialmente las vinculadas con la salud”. El tema del uso de los datos sensibles de usuarios también es otro de los grandes planteamientos en el uso de la tecnología. Por ello, todavía son necesarios reglamentos que regulen el uso de la IA para proteger la salud de la población.