La Inteligencia Artificial (IA) se ha convertido en una parte fundamental de nuestras vidas, pero su complejidad puede ser abrumadora. En este sentido, el equipo de PAIR (People + AI Research) en Google Research está liderando una iniciativa revolucionaria para hacer que la IA sea más accesible y comprensible para todos. Mediante la implementación de avances en Generative AI, herramientas de visualización y educación, transparencia y el desarrollo de software, PAIR está cambiando la forma en que nos relacionamos con la IA y abriendo nuevas oportunidades para la comunidad de investigación tecnológica.
Comentan en su artículo que su misión es construir sistemas de IA teniendo en cuenta a las personas desde el inicio del proceso.
Generative AI: Expandiendo los límites de la creatividad
El campo de la Generative AI ha capturado la atención de la comunidad científica y ha despertado una gran emoción en torno a las posibilidades creativas de la IA. PAIR está inmerso en una serie de investigaciones relacionadas con este tema, desde el uso de modelos de lenguaje para crear agentes generativos hasta el estudio de cómo los artistas adoptan modelos generativos de imágenes.
Los modelos de texto a imagen permiten a las personas ingresar una descripción basada en texto para generar una imagen correspondiente. Por ejemplo, se puede escribir «una casa de jengibre en un bosque con un estilo caricaturesco». En un estudio reciente, titulado «The Prompt Artists» y que será publicado en Creativity and Cognition 2023, PAIR descubrió que los usuarios de estos modelos no solo buscan crear imágenes hermosas, sino también desarrollar estilos únicos e innovadores. Para lograr estos estilos, algunos incluso buscan vocabulario específico del dominio, como consultar blogs de arquitectura, para producir imágenes distintivas de edificios.
PAIR también está investigando soluciones para los desafíos que enfrentan los creadores de instrucciones que trabajan con IA generativa. Estos creadores, esencialmente, programan sin usar un lenguaje de programación convencional. Para abordar este desafío, PAIR ha desarrollado nuevos métodos para extraer estructuras semánticamente significativas de las instrucciones en lenguaje natural. Estas estructuras se han aplicado a editores de instrucciones para proporcionar características similares a las que se encuentran en otros entornos de programación, como resaltado semántico, sugerencias automáticas y vistas de datos estructurados.
Agile Classifiers: Hacia un discurso en línea más seguro y moderado
Un aspecto crucial en la interacción con la IA es la moderación del contenido en línea y la promoción de un discurso seguro. PAIR ha desarrollado los llamados «Agile Classifiers» (clasificadores ágiles) como una solución para abordar este desafío. Estos clasificadores aprovechan las fortalezas semánticas y sintácticas de los LLM para resolver problemas de clasificación relacionados con el discurso tóxico en línea.
Una de las principales ventajas de los clasificadores ágiles es su capacidad para desarrollarse con conjuntos de datos muy pequeños, incluso con tan solo 80 ejemplos. Esto significa que se pueden crear clasificadores de seguridad adaptados a casos de uso específicos en un corto período de tiempo, lo que facilita la rápida adaptación y corrección de sesgos no deseados en los modelos. Estos métodos recientemente ganaron una competencia de SemEval para identificar y explicar el sexismo en línea, demostrando su utilidad en la mejora de la moderación del contenido.
Los clasificadores ágiles también han permitido el desarrollo de nuevos métodos de explicabilidad para identificar el papel de los datos de entrenamiento en el comportamiento y los posibles errores de los modelos. Al combinar estos métodos de atribución de datos de entrenamiento con los clasificadores ágiles, se ha logrado identificar ejemplos mal etiquetados en los conjuntos de datos de entrenamiento. Esto permite reducir el ruido en los datos de entrenamiento y mejorar significativamente la precisión de los modelos generados.
Herramientas de visualización y educación
Para hacer que el campo de la IA sea más accesible y comprensible, PAIR se dedica a diseñar y publicar ensayos en línea altamente visuales e interactivos llamados «AI Explorables». Estos explorables brindan una manera práctica y accesible de aprender sobre conceptos clave en el aprendizaje automático.
Uno de los últimos explorables publicados, titulado «De Modelos Incorrectos con Confianza a Ensambles Humildes», aborda el problema de la confianza de los modelos. En él, se explora por qué los modelos a veces pueden tener una gran confianza en sus predicciones y, sin embargo, estar completamente equivocados. El explorador utiliza ejemplos interactivos para demostrar cómo se pueden construir modelos con una confianza más adecuada en sus predicciones utilizando una técnica llamada «ensembling», que consiste en promediar las salidas de múltiples modelos.
PAIR también ha desarrollado métodos de visualización de vanguardia para identificar el papel de los datos de entrenamiento en el comportamiento y los errores de los modelos. Estas herramientas permiten identificar problemas de comportamiento en los modelos y brindan una mayor comprensión para mejorar la generación de resultados.
Transparencia y la iniciativa de Data Cards
La transparencia en el campo de la IA es un tema crítico, y PAIR ha trabajado en el desarrollo de herramientas para abordar este desafío. En colaboración con el equipo de Tecnología, IA, Sociedad y Cultura (TASC), PAIR ha presentado las «Data Cards» en la conferencia ACM FAccT’22 y ha lanzado el «Data Cards Playbook» como un recurso abierto.
El «Data Cards Playbook» es una guía completa que ofrece herramientas participativas y marcos de trabajo para ayudar a los equipos y organizaciones a establecer prácticas de transparencia. El playbook se basa en la experiencia de más de 20 equipos en Google y proporciona recursos como marcos escalables, orientación basada en evidencia y talleres interdisciplinarios para abordar los desafíos de la transparencia en los equipos. También incluye un laboratorio interactivo que permite generar «Data Cards» interactivas a partir de texto en formato markdown.
Herramientas de software
El equipo de PAIR en Google Research se dedica a desarrollar diversas herramientas de software que mejoran la comprensión y el acceso a los modelos de IA. Entre ellas se encuentra «Know Your Data», una herramienta que permite a los investigadores probar el rendimiento de un modelo en diferentes escenarios a través de la exploración cualitativa interactiva de conjuntos de datos. Esta herramienta ayuda a identificar y corregir los sesgos no deseados en los datos de entrenamiento.
Recientemente, PAIR lanzó la versión 0.5 de la «Learning Interpretability Tool» (LIT), una plataforma de código abierto para la visualización y comprensión de los modelos de IA. La nueva versión de LIT proporciona soporte para datos de imágenes y tablas, nuevos intérpretes para atribución de características tabulares, una visualización llamada «Dive» para la exploración de datos facetas y mejoras de rendimiento que permiten escalar LIT hasta 100,000 entradas de conjuntos de datos.
PAIR también ha contribuido al desarrollo de «MakerSuite», una herramienta para prototipar rápidamente nuevos modelos de IA utilizando programación basada en instrucciones. Esta herramienta simplifica el proceso de prototipado de modelos de IA, permitiendo que personas con diferentes niveles de experiencia puedan crear prototipos en minutos en lugar de meses.
Hacia un futuro más inclusivo de la IA
El trabajo realizado por el equipo de PAIR en Google Research es fundamental para transformar la forma en que interactuamos con la IA. Su enfoque en hacer que la IA sea más accesible, comprensible y transparente es crucial para que esta tecnología se convierta en una herramienta útil y beneficiosa para todos.
A medida que avanza el campo de la IA, PAIR continúa desarrollando nuevas herramientas, investigaciones y materiales educativos para abrir nuevas posibilidades y cambiar la forma en que las personas piensan sobre lo que pueden lograr con la IA. Su compromiso con la transparencia, la educación y la accesibilidad se refleja en cada uno de sus proyectos.
En última instancia, el objetivo de PAIR es construir un futuro en el que la IA sea una herramienta que todos puedan utilizar y comprender, abriendo puertas a la creatividad, la innovación y la igualdad de oportunidades.