El Ministerio de Derechos Sociales y Agenda 2030 ha publicado su estudio sobre el impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad. Sin duda, la IA nos ofrece todo un nuevo panorama haciendo nuestra vida más fácil o incluso mejor gracias a sus aplicaciones. No obstante, “la conexión entre lo humano y lo computacional no ha impedido que los sistemas de IA repliquen sesgos y prejuicios propios de la condición humana”, como se hace referencia en el documento. Así, los riesgos que comportan no son menores que sus oportunidades.
Es por ello que debemos hacer especial hincapié en cómo estas nuevas tecnologías afectan a las personas con discapacidad. Uno de los grandes ámbitos en los que se puede aplicar la IA es la salud y la asistencia personalizada. Por ejemplo, en cuanto a la salud, existen tecnologías que pueden detectar desde tumores hasta una depresión, pasando por distintos biomarcadores. Además, en un futuro podría incluso usarse para atender a los pacientes mediante la interpretación de información y datos del paciente.
De hecho, el ámbito de la salud se encuentra en constante evolución. Hasta el momento, las principales aplicaciones en la salud se dividen entre sistemas logísticos (para dar citas médicas, reserva de quirófanos, medicación, vacunas, tratamientos de fertilidad); selección del tratamiento (medicación, rehabilitación o terapia); y detección temprana de enfermedades, crisis o alteración de conductas. En cuanto a la asistencia personal, se destacan también los servicios de teleasistencia automatizada para "agilizar las respuestas ante emergencias, situaciones de soledad, asistencia en salud mental, etc".
Uno de los grandes ámbitos en los que se puede aplicar la IA es la salud y la asistencia personalizada
No obstante, y como apunta este informe, si se produce una discriminación de las personas con discapacidad, éstas no podrán aprovechar las tecnologías por muy avanzadas que sean. En este punto entra en juego la accesibilidad para estas personas y la protección de sus datos. Así, debería garantizarse “la privacidad de la información personal relativa a la salud y a la rehabilitación de las personas con discapacidad, en igualdad de condiciones con las demás”.
Dentro del Reglamento general de protección de datos de la UE no vemos normativa específica en materia de discapacidad o respecto de tecnologías basadas en IA, por lo que este es uno de los puntos sobre los que el documento pone el foco, al entrar en juego el uso de datos personales “particularmente sensibles para las personas con discapacidad, como los datos genéticos, los datos biométricos, o los datos relativos a la salud”.
Igualdad en el acceso y privacidad. Estos serían los dos principales escollos de la IA en la vida de las personas con discapacidad. Una IA podría, por ejemplo, detectar una deficiencia o una discapacidad y que ello impidiese a una persona optar a un empleo a través de procesos de selección digitales. Pero, sin duda, además de este tipo de casos, uno de los grandes y graves riesgos de sesgos de IA es el relativo a la salud, “en especial, la salud mental”, se explica.
Los sistemas de decisión que constituyan un riesgo para las condiciones de vida de las personas, nunca deben constituir por sí solos el proceso de toma de decisiones
Hasta el momento ya se han desarrollado aplicaciones de IA que obtienen datos biométricos, preferencias o rastros de información para predecir, por ejemplo, que una persona con esquizofrenia va a tener un brote psicótico. También pueden ir dirigidas a personas autistas para enseñarles a actuar de manera más neurotípica, como hacer contacto visual, mostrar emociones a través de la expresión facial y aprender a leer las emociones en el rostro de otra persona. Dado que para estas funciones se recopilan datos con reconocimiento facial, pulseras de lectura de signos vitales, historia clínica, actividad en redes sociales o ingresos en centros de salud, si bien puede ayudar a la persona, también puede revelar información personal de extrema sensibilidad frente a terceros.
Con este contexto, el ministerio realiza algunas recomendaciones, además de las relativas a la privacidad, de cara a la protección de las personas con discapacidad frente a la IA. Por ejemplo, en el caso de la medicina preventiva, el tratamiento personalizado o la asistencia al diagnóstico médico, se debe asegurar que las variables que caracterizan a las personas con discapacidad se tomen en cuenta, así como la implicación del propio paciente en la toma de decisiones.
Igualmente, “los sistemas de decisión que constituyan un riesgo para las condiciones de vida de las personas, nunca deben constituir por sí solos el proceso de toma de decisiones, sino que deben funcionar exclusivamente como un recurso de apoyo para el personal sanitario”, se explica. Por último, la IA utilizada debe ser capaz de “reconocer su propia posibilidad de fallo para alertar al personal sanitario en caso de que no tenga un ajuste adecuado para el paciente”, se concluye.