OpenAI ha lanzado una herramienta que tiene como objetivo identificar si un texto fue escrito por un humano o generado por una IA, como ChatGPT.
Si bien no es exacto en su identificación, puede predecir las probabilidades de que el texto provenga de una u otra fuente, aunque aún tiene una serie de limitaciones. Te contamos cómo funciona.
Cómo detectar texto generado por ChatGPT y otras IA
Ya hay varias opciones online que tienen como objetivo mostrar si un texto fue escrito por un humano o generado por una IA. Y ahora se suma la nueva propuesta de OpenAI:
El clasificador de texto IA es un modelo GPT ajustado que predice la probabilidad de que una IA haya generado un texto a partir de una variedad de fuentes, como ChatGPT.
Una herramienta que podría ser útil, aunque hay varios detalles a tener en cuenta. Por ejemplo, si bien puede detectar si un contenido fue escrito por una IA o un humano, no significa que el veredicto sea indiscutible. Por eso verás que los resultados se clasifican teniendo en cuenta las probabilidades de que el texto pertenezca a una u otra fuente, pero no ofrece un resultado preciso. Y aún así no es infalible.
[…] nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como «probablemente escrito por IA», mientras que etiqueta incorrectamente el texto escrito por humanos como 9 % escrito por IA
Debido a esto, consideran que no debe usarse como una herramienta principal para resolver este problema, y animan a usarlo junto con otros métodos para tener evaluar la fuente de un texto:
Los resultados pueden ayudar, pero no deben ser la única prueba, al decidir si un documento se generó con IA. El modelo está entrenado en texto escrito por humanos de una variedad de fuentes, que pueden no ser representativos de todos los tipos de texto escrito por humanos.
Por otro lado, para que esta herramienta puede realizar esta tarea es necesario que el texto tenga un mínimo de 1000 caracteres. Y teniendo en cuenta que ha sido entrenado con contenido escritos por adulto en inglés, puede que tenga problemas para calificar texto en otro idioma.
Si quieres probar esta nueva herramienta solo tienes que seguir este enlace.