WWWhat's new

El auge de ChatGPT vinculado a la disminución de la participación pública en plataformas de preguntas y respuestas

Vulnerabilidad en ChatGPT Inserción de memorias falsas mediante inyección de prompts

Un nuevo estudio publicado en PNAS Nexus ha revelado que la adopción masiva de modelos de lenguaje grande (LLMs) como ChatGPT ha provocado una notable disminución en el intercambio público de conocimientos en plataformas como Stack Overflow. Según el estudio, la actividad de los usuarios en este popular sitio de preguntas y respuestas de programación se redujo en un 25% dentro de los seis meses posteriores al lanzamiento de ChatGPT, en comparación con plataformas donde el acceso a ChatGPT está limitado.

Un cambio del conocimiento público al privado

La investigación sugiere que, en lugar de hacer preguntas en foros públicos como Stack Overflow, donde otros usuarios pueden ver y aprender de ellas, la gente está recurriendo a ChatGPT para consultas privadas. Aunque esto parece un avance, plantea un problema significativo: los modelos como ChatGPT se entrenan en datos públicos, y la reducción de estos datos podría limitar su desarrollo en el futuro.

Maria del Rio-Chanona, autora principal del estudio y miembro del Complexity Science Hub, expresó su preocupación sobre lo que esto podría significar para el entrenamiento de futuros modelos de IA. «Si la creación de contenido humano se reduce debido a la IA, será más difícil entrenar nuevos modelos», dijo. Utilizar contenido generado por IA para entrenar futuros sistemas no suele dar buenos resultados, un proceso que se compara con hacer una fotocopia de una fotocopia.

Impacto en todos los niveles de experiencia

El estudio también encontró que la disminución de la actividad en Stack Overflow afectó a usuarios de todos los niveles de experiencia, desde principiantes hasta expertos. Sin embargo, la calidad de las publicaciones no disminuyó significativamente, lo que indica que tanto las contribuciones de baja como de alta calidad están siendo desplazadas por las respuestas generadas por LLMs.

Además, se observó una caída más pronunciada en la actividad de algunos lenguajes de programación populares, como Python y JavaScript, lo que sugiere que los usuarios están utilizando ChatGPT para resolver dudas sobre estos lenguajes en lugar de recurrir a plataformas públicas.

Implicaciones más allá de la tecnología

Este fenómeno va más allá de un simple cambio tecnológico. Según los investigadores, refleja una transferencia de conocimiento de los repositorios públicos a sistemas de IA de propiedad privada, lo que podría profundizar las desigualdades económicas y concentrar el poder del conocimiento en manos de unas pocas empresas. La posibilidad de que los primeros en adoptar IA ganen ventaja competitiva a través de esta concentración de información es una preocupación importante.

En WWWhatsnew.com, seguiremos de cerca cómo esta dinámica afecta el futuro del aprendizaje colaborativo y el acceso a datos públicos, ya que la interacción entre inteligencia artificial y conocimiento humano sigue evolucionando.

Salir de la versión móvil