En enero de 2025, la revista Research Ethics publicó un artículo titulado «Se necesita orientación para utilizar la inteligencia artificial para detectar mala conducta en los artículos enviados a revistas científicas«, en el que sus autores plantean la urgente necesidad de establecer pautas claras para el uso de la inteligencia artificial (IA) en la revisión de manuscritos científicos.
La comunidad dedicada a la integridad en la investigación ha comenzado a incorporar herramientas basadas en IA, como Papermill Alarm, con el fin de identificar artículos e imágenes manipulados. Destacadas revistas y editoriales, entre ellas Science y Wiley, ya están implementando estos sistemas para detectar publicaciones fraudulentas. Sin embargo, aunque estas tecnologías han demostrado eficacia, también presentan limitaciones importantes, incluyendo la posibilidad de generar falsos positivos y negativos, lo que podría traducirse en acusaciones infundadas contra autores.
Distinguir entre mala conducta intencional y errores honestos resulta complicado y consume tiempo, y muchas alegaciones no se sostienen tras una investigación rigurosa. Las herramientas de IA, además, solo detectan ciertos tipos específicos de plagio y manipulación de imágenes, dejando fuera formas más sutiles y complejas de mala conducta científica. Por ello, es fundamental que las editoriales reconozcan estos límites, corrijan posibles sesgos y se mantengan actualizadas respecto a los avances tecnológicos.
Otra cuestión que plantea el estudio es la responsabilidad de las editoriales ante la detección de mala conducta mediante IA. Aunque el empleo de estas herramientas puede aumentar la capacidad para identificar irregularidades, también podría implicar una mayor obligación de investigar y reportar estos casos a las instituciones correspondientes. Al momento, no está claro qué protocolos adoptarán las editoriales ni cómo manejarán los hallazgos sospechosos.
Para promover la equidad y la transparencia, el artículo recomienda que las editoriales divulguen claramente sus políticas y procedimientos relacionados con el uso de IA en la detección de mala conducta. Entre las sugerencias destacan revisar manualmente los casos sospechosos, utilizar herramientas confiables, informar a los autores sobre cualquier irregularidad detectada, examinar todos los trabajos sometidos en lugar de una muestra aleatoria, y comunicar abiertamente las políticas aplicadas. Si bien la incorporación de la inteligencia artificial puede fortalecer la integridad en la investigación, también plantea desafíos éticos que deben abordarse con cuidado y responsabilidad.