OpenAI, la empresa que se encuentra detrás del famoso ChatGPT, quiere seguir involucrando al público para alinear el comportamiento de sus futuros modelos de IA con los valores de la humanidad, según afirman en su comunicado de hoy, para lo que se encuentran formando un equipo de «Alineación colectiva» formado por investigadores e ingenieros.
Este equipo estará encargado de implementar un sistema que permita la recopilación y «codificación» de la información pública sobre el comportamiento de los modelos en sus productos y servicios, además de trabajar con asesores externos y equipos de subvenciones para llevar a cabo los prototipos.
Buscando una participación transparente y diversa
A este respecto, anuncian también que se encuentran contratando a ingenieros de investigación excepcionales de diversos orígenes técnicos, invitando a los interesados a unirse al equipo, facilitándoles un formulario de acceso al respecto.
La constante búsqueda de métodos democráticos para guiar a la IA
OpenAI hace además un repaso de las iniciativas que han llevado a cabo desde el lanzamiento, el pasado mes de mayo, del programa de subvenciones Aportes Democráticos a la IA, y de todo lo aprendido con el tiempo con la creación de diferentes equipos para el desarrollo, construcción y prueba de ideas en los que emplear «métodos democráticos» para decidir las reglas de gobernanza de los sistemas de IA.
Y añaden que:
En todo momento, los equipos abordaron desafíos como reclutar participantes diversos a través de la brecha digital, producir un resultado coherente que represente diversos puntos de vista y diseñar procesos con suficiente transparencia para que el público confíe.
Buscando ganarse la confianza del público
Lo anunciado hoy no deja de ser una extensión de lo realizado el pasado año para ofrecer al público garantías de que sus productos y servicios sean confiables y transparentes en su funcionamiento a medida de que crece el uso de los servicios basados en IA, teniendo también en consideración el constante cambio de valores que se produce en la sociedad a lo largo del tiempo.
Desde OpenAI y dada las experiencias recabadas meses atrás, ponen sus esperanzas en el que la capacidad del público se convierta en un elemento clave para guiar a los modelos de IA por el buen camino.
Más información: OpenAI