OpenAI anunció que la próxima actualización de ChatGPT permitirá a los usuarios personalizarlo y combatir el sesgo en la inteligencia artificial.
El objetivo de OpenAI, la compañía detrás de este chatbot es diversificar los puntos de vista presentados en el contenido generado por la herramienta, para mitigar diferentes sesgos, incluyendo los de carácter político.
ChatGPT quiere asegurar el pluralismo de puntos de vista en sus conversaciones
Según la publicación de blog de la compañía que notificó esta actualización, ChatGPT permitirá generar salidas del sistema con las que otras personas, incluyendo ellos mismos, pueden estar totalmente en desacuerdo.
Actualmente, la funcionalidad existente de ChatGPT permite la creación automática de respuestas similares a las humanas a solicitudes de usuarios muy variadas. La plataforma se lanzó oficialmente en noviembre pasado, pero el interés público en este producto fue tan grande que las escuelas y universidades comenzaron a prohibir su uso en actividades académicas.
Algunos medios han señalado que ciertas respuestas generadas por chatbots basados en tecnología de OpenAI «pueden ser peligrosas». En este sentido, la compañía está trabajando en estrecha colaboración con Microsoft en la integración de su tecnología en el navegador de Internet Edge. Microsoft ha señalado que los comentarios de los usuarios son un componente crucial para mejorar los algoritmos generativos y se está trabajando mucho para garantizar que no haya posibilidad de «provocar» que la IA genere respuestas no deseadas.
ChatGPT funciona gracias a su entrenamiento con grandes conjuntos de datos de contenido creado por humanos, pero sólo después de que los moderadores humanos revisen estos conjuntos de datos de acuerdo con las pautas dadas sobre cómo responder en diferentes situaciones, especialmente cuando estos escenarios son complicados.
En su versión existente, ChatGPT tiene ciertos resguardos codificados contra el contenido para adultos y el discurso violento o de odio. En estas situaciones, la plataforma de IA debe proporcionar respuestas similares a «No puedo responder eso».
Si el tema se considera controvertido, ChatGPT intenta evitar sesgos al describir los puntos de vista de las personas y los movimientos, pero no asume una posición muy específica.
Sobre el cambio presentado, OpenAI explica que “llevar la personalización al extremo correría el riesgo de permitir usos maliciosos de nuestra tecnología e IA aduladoras que amplifican sin pensar las creencias existentes de las personas”.
Frente a aquel riesgo, la compañía asegura que siempre habrá límites en el comportamiento del sistema. El desafío que deben enfrentar es definir cuáles son esos límites. Si ChatGPT intenta tomar todas estas decisiones por cuenta propia, o si llegara a ser planteado como un sistema de IA único y monolítico, la empresa aseguraría que caería en una falta a su compromiso de «evitar la concentración indebida de poder», establecido en su carta de principios.