En la investigación científica, la Inteligencia Artificial (IA) generativa y los modelos de lenguaje plantean desafíos éticos y amenazan la integridad de la investigación. Azeem Azhar expone en su libro "Exponencial: Orden y caos en una era de aceleración tecnológica" cómo a la sociedad humana le cuesta imaginar o procesar el crecimiento y el cambio exponenciales y se ve sorprendida una y otra vez por este fenómeno. Tanto si se trata de la propagación exponencial de un virus como de la difusión exponencial de una nueva tecnología, como el smartphone, la gente subestima sistemáticamente su impacto. Azhar sostiene que se ha creado una brecha exponencial entre el progreso tecnológico y el ritmo al que evolucionan las instituciones para hacer frente a ese progreso. Es el caso de la publicación científica con la inteligencia artificial generativa (IA) y los modelos de lenguaje de gran tamaño (LLM).
En cuestión de meses, los LLM - modelos de aprendizaje profundo muy grandes que se preentrenan con grandes cantidades de datos- podían aprobar exámenes médicos. En la actualidad están siendo entrenados para analizar conversaciones médicas con actores entrenados como pacientes. Las investigaciones preliminares indican que la IA generativa muestra una mayor precisión diagnóstica que los médicos en algunas enfermedades y una mejor empatía con las conversaciones a través de texto, que sus homólogos humanos.
“La IA generativa socava la educación y no es más que plagio de alta tecnología”
En 2023, Springer Nature se convirtió en la primera editorial científica en crear un libro académico permitiendo a los autores utilizar la IA generativa. Los investigadores han demostrado que a los científicos les resulta difícil distinguir entre un resumen afirma que “la IA generativa socava la educación y no es más que plagio de alta tecnología”, y muchos opinan lo mismo sobre los modelos de IA entrenados para trabajar sin respetar los derechos de autor.
Además de ser un problema en la publicación científica, el plagio también amenaza la integridad de la investigación. Los expertos plantean la duda de cómo pueden los editores de revistas científicas asegurarse de que una investigación es real. Según un artículo de Nature, investigadores han utilizado ChatGPT para crear conjuntos de datos de ensayos clínicos falsos y convincentes para respaldar una hipótesis científica falsa que solo pudo identificarse cuando los datos brutos fueron examinados en detalle por un experto.
LA AMENAZA DE LOS PAPER MILLS
Para abordar amenaza de la integridad científica un grupo de alto perfil de financiadores, editores académicos y organizaciones de investigación publicaron el pasado 19 de enero una declaración deUnited2Act, en la que se comprometen a abordar el desafío colectivo de los Paper mills en las publicaciones académicas.
Los Paper mills, organizaciones potencialmente ilegales que producen manuscritos científicos a petición y producidos por escritores fantasma, son un problema enorme y contribuyen al creciente número de artículos de investigación que son retractados por los editores científicos. Los editores científicos intentan encontrar formas de detectar y prevenir estas prácticas pero la IA generativa acelerará esa carrera, aunque también podría romper el modelo de negocio de las Paper mills.
“Los Paper mills son una amenaza real para la integridad del registro académico. Se necesita un esfuerzo colectivo porque ningún interesado individual puede resolver este problema por sí solo”, apuntan desde United2Act. Una cumbre virtual celebrada en mayo de 2023 involucró a organismos de investigación, editores, investigadores/detectives, universidades e infraestructura editorial de 15 países y dio como resultado una Declaración de Consenso que describe cinco áreas clave de acción.
El cambio tiene que venir de una apuesta por la calidad frente a la cantidad
El nuevo panorama planteado con la irrupción de la IA generativa va a permitir que los académicos deshonestos no necesiten pagar a un Paper mills para generar artículos falsos, ya que los podrán hacer ellos mismos. Esto provocará que los estudios falsos aumenten exponencialmente sin que se estén haciendo esfuerzos para evitarlo.
Para luchar contra esta situación, el cambio tiene que venir de una apuesta por la calidad frente a la cantidad. Actualmente editores científicos se han centrado en la cantidad de artículos, ya que los principales ingresos se han obtenido a través de las tasas por procesamiento de artículos (APC, por sus siglas en inglés): cuantos más artículos se publican, más APC se aseguran los editores. Este cambio pasará por encontrar nuevas formas de financiar el modelo de acceso abierto en la publicación científica y que alejen el foco de las APC. En el entorno académico también habrá que recompensar la calidad y disminuir el vínculo entre publicación y promoción.
Una reevaluación transformadora de lo que se puede confiar en la literatura científica debería significar que se conceda más valor a las revistas y los editores que dan prioridad a la fiabilidad. Seleccionar, revisar, conservar y optimizar el contenido científico de las revistas siempre ha sido una tarea humana y por ello, las revistas científicas cambian de personalidad cuando se produce un cambio de editor. Aunque la IA puede ayudar a examinar grandes cantidades de datos, no puede reemplazar completamente la toma de decisiones humana. Las revistas son más que la investigación que publican y requieren inteligencia humana.