Agunos investigadores han comenzado a emplear la serie de libros de Harry Potter para explorar nuevas fronteras en el aprendizaje y desaprendizaje de los modelos de lenguaje en IA.
Uno de los objetivos es entender mejor cómo las máquinas procesan y olvidan información.
Comentan en IEEE los motivos por los cuales han decidido usar los libros de Harry Potter. Son conocidos por su rica narrativa y complejidad lingüística, por lo que ofrecen un terreno fértil para el análisis de IA. La serie, que combina un lenguaje inventivo con situaciones variadas, representa un desafío ideal para probar la capacidad de los sistemas generativos de IA para comprender y generar texto.
El arte de «desaprender»
Inspirándose en hechizos como ‘Obliviate’, que en el mundo mágico de Rowling sirve para borrar recuerdos, los investigadores están desarrollando técnicas para hacer que los modelos de IA «olviden» información selectivamente. Este enfoque es crucial para abordar cuestiones de derechos de autor y contenido sensible en los modelos de lenguaje de gran escala.
Podéis leer más sobre este asunto en esl estudio arxiv.org/abs/2310.02238 Who’s Harry Potter? Approximate Unlearning in LLMs
Analogías mágicas: IA y el mundo de Potter
La investigación establece paralelismos intrigantes entre elementos de la serie y tecnologías de IA. Por ejemplo, el Pensieve, que almacena y reproduce recuerdos, se compara con los sistemas de almacenamiento de datos en IA. También se traza un paralelo entre la poción multijugos, que permite cambiar de identidad, y las tecnologías de deepfake en IA, que manipulan imágenes y videos para crear simulaciones realistas.
Elección estratégica: La universalidad de Harry Potter
La elección de Harry Potter no es casual: su familiaridad global facilita la evaluación del proceso de desaprendizaje por parte de la comunidad científica y el público en general. Casi cualquier persona puede probar si el modelo de IA ‘conoce’ o no los libros, lo que hace más accesible el proceso de validación.
Impacto en el rendimiento de la IA
La exclusión de los libros de Harry Potter de los datos de entrenamiento mostró una disminución en la precisión de los modelos de IA, medida por la métrica de perplejidad. Esto evidencia la importancia de diversificar los datos de entrenamiento para mantener la eficacia de la IA.
La popularidad de la serie entre investigadores más jóvenes, quienes crecieron leyendo estos libros, influye en su elección como corpus para experimentos de IA. Esta conexión generacional añade una dimensión personal a la investigación.
La integración de Harry Potter en la investigación de IA ilustra un enfoque innovador para examinar y mejorar las tecnologías de IA. Estamos hablando de un método que no solo cumple con propósitos prácticos, como la gestión de derechos de autor, sino que también amplía nuestra comprensión de las capacidades de la IA en el procesamiento de conjuntos de datos variados y complicados.