Los detectores de texto generado por inteligencia artificial están ganando protagonismo en el mundo académico. Con la popularización de modelos como ChatGPT, muchas revistas y comités editoriales están recurriendo a estas herramientas para verificar si los trabajos enviados han sido escritos por humanos o con asistencia automatizada. Sin embargo, un nuevo estudio publicado en PeerJ Computer Science revela que estas tecnologías podrían estar generando nuevas formas de desigualdad.
¿Cuál es el problema con los detectores de texto IA?
El estudio, titulado «The Accuracy-Bias Trade-Offs in AI Text Detection Tools and Their Impact on Fairness in Scholarly Publication«, analiza cómo herramientas populares como GPTZero, ZeroGPT y DetectGPT tienen dificultades para diferenciar entre textos humanos y aquellos generados o editados con IA. Aunque algunas de estas herramientas tienen un buen nivel de acierto en términos técnicos, su rendimiento es desigual dependiendo del autor y del ámbito académico.
Por ejemplo, se detectó que las tasas de falsos positivos aumentan significativamente cuando el autor no es nativo del inglés. Esto significa que investigadores que han escrito sus trabajos de forma honesta y sin asistencia automatizada pueden ser injustamente acusados de usar IA.
No es solo un fallo técnico: es una cuestión de equidad
Uno de los hallazgos más preocupantes del estudio es que las herramientas más precisas también son las que muestran mayor sesgo. En otras palabras, al intentar optimizar la detección de textos generados por IA, estas plataformas sacrifican la equidad, afectando de forma desproporcionada a ciertos perfiles.
Imaginemos a una investigadora de Indonesia que escribe un artículo académico y luego utiliza un modelo de lenguaje como apoyo para pulir el estilo o mejorar la claridad de su redacción. Aunque el contenido sea original y fruto de su investigación, el detector puede marcarlo como «sospechoso» simplemente porque se ha beneficiado de herramientas que la ayudan a superar barreras idiomáticas.
La dificultad de detectar textos híbridos
El estudio también se detiene en los textos híbridos, es decir, aquellos que han sido redactados por humanos pero luego editados con ayuda de IA para mejorar su presentación. Este tipo de contenido es especialmente difícil de clasificar: ni completamente humano ni completamente automatizado, desafía los límites de lo que estas herramientas pueden identificar.
El problema radica en que los detectores no están diseñados para lidiar con matices. Funcionan como semáforos: verde para lo humano, rojo para lo artificial. Pero la escritura científica moderna está llena de grises. Muchos investigadores, especialmente aquellos que no dominan el inglés como lengua materna, utilizan estas herramientas para asegurarse de que su mensaje sea claro, sin que eso reste autenticidad a su trabajo.
Ética y transparencia en el uso de IA en la ciencia
El equipo de investigación sugiere que la solución no está en mejorar las herramientas de detección, sino en cambiar el enfoque. Plantean la necesidad de una transición hacia un uso ético, responsable y transparente de los modelos de lenguaje en la publicación académica.
Esto implica que las revistas y plataformas editoriales deberían dejar de perseguir el uso de IA como si fuera trampa, y empezar a reconocer que puede ser una herramienta de inclusión. Si un investigador utiliza un modelo para expresarse mejor, eso no debería ser penalizado. Lo que importa es la calidad y originalidad del contenido, no la herramienta usada para redactarlo.
Una llamada a la acción en el entorno editorial
El estudio es parte de un esfuerzo más amplio para evaluar cómo la inteligencia artificial está modificando las reglas del juego en la ciencia. Si bien es crucial mantener la integridad académica, también es importante que las normas no terminen excluyendo a quienes ya enfrentan barreras estructurales.
La publicación propone adoptar medidas como:
- Fomentar la declaración voluntaria del uso de IA en la redacción.
- Evitar decisiones automáticas basadas en herramientas de detección.
- Promover políticas editoriales más inclusivas.
En resumen, este estudio no solo revela fallos tecnológicos, sino también una falta de sensibilidad en cómo se aplican estas herramientas dentro del mundo editorial. No se trata de prohibir la tecnología, sino de entender cómo puede servirnos sin generar nuevas injusticias.