OpenAI compartió una serie de medidas y políticas que se están implementando en sus sistemas de IA para evitar un mal uso durante las próximas elecciones.
Con el avance de la IA, el abanico de posibilidades que brinda y sus resultados cada vez más realidades, los deepfake se han vuelto un verdadero dolor de cabeza. Un peligro que se potencia en época de elecciones.
Medidas para evitar el mal uso de la IA en época electoral
El uso de la IA para generar desinformación es uno de las grandes problemáticas que han planteado las organizaciones, y que se ha tratado en diferentes cumbres y debates. Un problema que está muy lejos de tener solución, aunque ya se están implementando medidas que buscan contrarestar esta tendencia.
Por ejemplo, OpenAI ha compartido una serie de medidas y políticas que se están aplicando en sus sistemas de IA para abordar este problema, teniendo en cuenta que se acercan las elecciones presidenciales de Estados Unidos.
Tenemos un esfuerzo multifuncional dedicado al trabajo electoral, reuniendo la experiencia de nuestros sistemas de seguridad, inteligencia de amenazas, equipos legales, de ingeniería y de políticas para investigar y abordar rápidamente posibles abusos.
Por ejemplo, mencionan que impedirán que se creen aplicaciones para campañas políticas o para engañar a los usuarios sobre las elecciones, así como chatbots que se usen con el fin de hacer creer a los usuarios que se tratan de candidatos políticas o instituciones gubernamentales.
Identificar si una imagen fue generada por DALL-E
Por otro lado, también implementarán una nueva dinámica para que los usuarios puedan verificar si determinada imagen fue generada por DALL-E. Y para ello, implementará las credenciales digitales bajo el protocolo C2PA (Coalición para la Procedencia y Autenticidad del Contenido).
Tal como te explicamos en un artículo anterior, el protocolo C2PA tiene como objetivo identificar la procedencia de la imagen. Una dinámica que busca combatir la desinformación, ya que permitirá identificar fácilmente cuando una imagen fue generada por IA.
Y por supuesto, también han tenido en cuenta la dinámica de ChatGPT para combatir la desinformación electoral:
ChatGPT se está integrando cada vez más con fuentes de información existentes; por ejemplo, los usuarios comenzarán a tener acceso a informes de noticias en tiempo real a nivel mundial, incluidas atribuciones y enlaces. La transparencia en torno al origen de la información y el equilibrio en las fuentes de noticias pueden ayudar a los votantes a evaluar mejor la información y decidir por sí mismos en qué pueden confiar.
Imagen de Unsplash