Investigadores de Google han publicado un estudio que alerta sobre cómo la inteligencia artificial generativa está inundando internet con contenido falso. Este hallazgo resulta especialmente irónico, ya que Google ha sido uno de los mayores promotores de esta tecnología.
El Problema del Contenido Falso
El estudio, aún sin revisión por pares y detectado por 404 Media, muestra que la mayoría de los usuarios de IA generativa están usando esta tecnología para difuminar las líneas entre lo auténtico y lo engañoso. Los investigadores revisaron estudios previos y unos 200 artículos de noticias sobre el mal uso de la IA generativa.
«Manipulación de la apariencia humana y falsificación de pruebas son las tácticas más comunes en los casos reales de mal uso», señalan los investigadores. «La mayoría de estos casos se desplegaron con la intención de influir en la opinión pública, facilitar estafas o actividades fraudulentas, o generar ganancias».
Tecnología Avanzada y Accesible
Uno de los principales problemas es que los sistemas de IA generativa son cada vez más avanzados y accesibles. «Requieren una mínima experiencia técnica», lo que está distorsionando la «comprensión colectiva de la realidad socio-política o del consenso científico».
Omisiones en el Estudio
Es notable que el estudio no mencione los propios errores embarazosos de Google al utilizar esta tecnología. Google, siendo una de las empresas más grandes del mundo, ha tenido errores significativos al implementar IA generativa.
Funcionando Según lo Esperado
Al leer el estudio, se podría concluir que el «mal uso» de la IA generativa es simplemente una muestra de que la tecnología está funcionando como se esperaba. Las personas están utilizando la IA generativa para crear gran cantidad de contenido falso porque es realmente buena en esa tarea, lo que resulta en una inundación de internet con contenido de baja calidad.
Esta situación también pone a prueba la capacidad de las personas para discernir lo real de lo falso. «La producción masiva de contenido sintético de baja calidad, similar a spam, y nefasto, corre el riesgo de aumentar el escepticismo de las personas hacia la información digital en general y sobrecargar a los usuarios con tareas de verificación», escriben los investigadores.
Consecuencias Inesperadas
Debido a la inundación de contenido falso generado por IA, ha habido casos en los que «individuos de alto perfil son capaces de explicar pruebas desfavorables como generadas por IA, trasladando la carga de la prueba de manera costosa e ineficiente».
Futuro Incierto
A medida que empresas como Google continúan integrando IA en cada producto, podemos esperar más situaciones similares. La pregunta que queda es: ¿cómo manejarán tanto los usuarios como las grandes empresas esta creciente ola de desinformación?