OpenAI ha lanzado una nueva iniciativa en pro de «desarrollar una IA segura y avanzada».
Si bien cuenta con equipos de investigación e ingeniería propios para evaluar sus sistemas de IA, ahora recurre a la comunidad para que ayuden a detectar vulnerabilidades y fallos de seguridad que podrían ser críticos para el correcto funcionamiento. Y para ello, ha abierto un programa de recompensas.
OpenAI abre un programa de recompesas para detectar vulnerabilidades en sus sistemas de IA
Ya hemos visto que muchas empresas tecnológicas recurren a los famosos programas de recompensas, con el fin de que expertos de la comunidad puedan detectar errores o vulnerabilidades graves en sus sistemas y productos.
Una dinámica que ahora está implementando Open AI para que aquellos interesados busquen estas vulnerabilidades en sus sistemas, por ejemplo, en ChatGPT:
[…] invitamos a la comunidad global de investigadores de seguridad, piratas informáticos éticos y entusiastas de la tecnología para que nos ayuden a identificar y abordar las vulnerabilidades en nuestros sistemas.
Para esto, OpenAI cuenta con la colaboración de Bugcrowd, una empresa de ciberseguridad que implementa esta dinámica de trabajo para la identificación de vulnerabilidades importantes. Así que todo se gestionará mediante esta empresa. Y por supuesto, a cambio se recompensará con dinero a los usuarios que reporten fallos críticos.
Cómo participar del programa de recompensa de OpenAI
Esta dinámica que se establece mediante el programa de recompensas no solo se aplica a ChatGPT, sino que también a la API de OpenAI, plugins, y a otros servicios relacionados.
Y por supuesto, cuando se habla se vulnerabilidades no se refiere a cosas extrañas que pudierasint encontrar en tu interacción con ChatGPT, como lo que sucede con el prompt ChatGPT Diablo. Se refiere a problemas reales o potenciales vulnerabilidades que podrían afectar a los sistemas de OpenAI.
Las recompensas que OpenAI dé a los usuarios que contribuyan reportando estos fallos dependerá de una serie de factores, por ejemplo, el impacto del error, la prioridad de la vulnerabilidad o lo crítico de la situación. Y según lo han expresado, los incentivos van desde 200 a 20000 dólares.
En este enlace encontrarás una larga lista de requisitos y detalles a tener en cuenta si quieres participar de este programa de recompensas. Es importante que lo leas con atención, ya que OpenAI es muy específico sobre lo que está permitido en este programa.
Recordemos que OpenAI ha tenido varios sobresaltos con ChatGPT por exponer información, como los datos personales de un grupo reducido de suscriptores o el historial de chats que se cruzaron entre los usuarios. Y sin olvidar mencionar el bloqueo que ChatGPT está recibiendo en algunos países.