Recientemente, la Organización Mundial de la Salud (OMS) ha establecido nuevas orientaciones enfocadas a la ética y la gobernanza de los grandes modelos multimodales. Esto se trata de un tipo de tecnología de inteligencia artificial generativa (IA) de rápido crecimiento con aplicaciones en la atención sanitaria. En sus recomendaciones, la OMS insta a los gobiernos a establecer normas para el desarrollo de esta tecnología con fines médicos.
El objetivo de esta publicación es arrojar luz sobre los beneficios potenciales, pero también examinar los riesgos que conlleva la adopción sin precedentes de estos grandes modelos multimodales. Reconocer y apreciar estos riesgos brinda la oportunidad, a nivel de los Estados miembros y a escala mundial, de prepararse para afrontarlos y mitigarlos, según la OMS.
En las orientaciones se formulan más de 40 recomendaciones que los gobiernos, las empresas tecnológicas y los proveedores de atención sanitaria deben tener en cuenta para garantizar el uso adecuado de los grandes modelos multimodales (MLM), a fin de promover y proteger la salud de las poblaciones.
"Las tecnologías de IA generativa tienen el potencial de mejorar la atención médica"
Los MLM pueden aceptar uno o varios tipos de datos, como texto, vídeos e imágenes, y generar diversos resultados que no se limitan al tipo de datos introducidos. Los MLM son únicos por su imitación de la comunicación humana y su capacidad para llevar a cabo tareas para las que no han sido explícitamente programados.
Los MLM se han adoptado más rápidamente que cualquier otra aplicación de consumo en la historia, con varias plataformas --como ChatGPT, Bard y Bert-- entrando en la conciencia pública en 2023.
"Las tecnologías de IA generativa tienen el potencial de mejorar la atención médica, pero solo si quienes las desarrollan, regulan y utilizan identifican y tienen plenamente en cuenta los riesgos asociados", ha dicho el doctor Jeremy Farrar, científico jefe de la OMS. "Necesitamos información y políticas transparentes para gestionar el diseño, el desarrollo y el uso de lls MLM para lograr mejores resultados sanitarios y superar las desigualdades sanitarias persistentes", ha expresado.
BENEFICIOS Y RIESGOS POTENCIALES
Las nuevas orientaciones de la OMS describen cinco amplias aplicaciones de los MLM para la salud: diagnóstico y atención clínica, como responder a las consultas escritas de los pacientes; uso guiado por el paciente, por ejemplo, para investigar síntomas y tratamientos; tareas administrativas y de oficina, como documentar y resumir las visitas de los pacientes en las historias clínicas electrónicas; formación médica y de enfermería, por ejemplo, proporcionando a los alumnos encuentros simulados con pacientes, e investigación científica y desarrollo de fármacos, incluida la identificación de nuevos compuestos.
Aunque los MLM están empezando a utilizarse para fines sanitarios específicos, también existen riesgos documentados de que produzcan "declaraciones falsas, inexactas, sesgadas o incompletas, lo que podría perjudicar a las personas que utilicen dicha información para tomar decisiones sanitarias", avisan desde la OMS.
Además, los MLM pueden formarse con datos de mala calidad o sesgados, ya sea por raza, etnia, ascendencia, sexo, identidad de género o edad.
La guía también detalla riesgos más amplios para los sistemas sanitarios, como la accesibilidad y asequibilidad de los MLM de mejor rendimiento. Los MLM también pueden fomentar el "sesgo de automatización" por parte de los profesionales sanitarios y los pacientes, por el que se pasan por alto errores que de otro modo se habrían identificado o se delegan indebidamente decisiones difíciles en un LMM.
"Los gobiernos de todos los países deben liderar cooperativamente los esfuerzos para regular eficazmente el desarrollo
"Los gobiernos de todos los países deben liderar cooperativamente los esfuerzos para regular eficazmente el desarrollo y uso de las tecnologías de IA, como los MLM", ha dicho el doctor Alain Labrique, director de Salud Digital e Innovación de la División de Ciencias de la OMS.
Asimismo, como otras formas de IA, también son vulnerables a riesgos de ciberseguridad que podrían poner en peligro la información de los pacientes o la fiabilidad de estos algoritmos y la prestación de asistencia sanitaria en general.
Para crear MLM seguras y eficaces, la OMS subraya la necesidad de la participación de diversas partes interesadas: gobiernos, empresas tecnológicas, proveedores de atención sanitaria, pacientes y sociedad civil, en todas las etapas de desarrollo y despliegue de tales tecnologías, incluida su supervisión y regulación.