En un mundo cada vez más influido por la inteligencia artificial (IA), surgieron esfuerzos para abordar el desafío de identificar y etiquetar el contenido generado por estas tecnologías.
Tanto la Casa Blanca como la Unión Europea han mostrado interés en esta problemática, siendo esta última la primera en requerir que algunas plataformas tecnológicas etiqueten su contenido sintético con marcas que adviertan su origen. Sin embargo, las herramientas de detección disponibles hasta ahora no son infalibles y pueden presentar errores, como lo demostró recientemente el cierre de la herramienta de detección de IA de OpenAI.
El protocolo C2PA
En este contexto, ha surgido el protocolo de Internet de código abierto conocido como C2PA (Coalición para la Procedencia y Autenticidad del Contenido). C2PA se basa en la criptografía para codificar detalles sobre los orígenes de un contenido, proporcionando información de «procedencia». La idea es que este protocolo funcione como una «etiqueta de información nutricional», pero en lugar de describir los ingredientes de un alimento, indique de dónde proviene el contenido y quién lo creó.
C2PA es un proyecto desarrollado por la Fundación de Desarrollo Conjunto sin fines de lucro, y fue iniciado por importantes empresas tecnológicas como Adobe, Arm, Intel, Microsoft y Truepic. La coalición ha crecido rápidamente, contando ahora con la participación de más de 1.500 empresas a través de la Iniciativa de Autenticidad de Contenido (CAI), entre las que se encuentran compañías tan variadas como Nikon, la BBC y Sony.
En los últimos meses, C2PA ha ganado impulso a medida que la detección y regulación de la IA han cobrado relevancia. Shutterstock, una de las principales plataformas de medios, ha anunciado su adhesión al protocolo y su intención de etiquetar todo su contenido generado por IA. Esto significa que las imágenes creadas por el generador de imágenes de IA alimentado por DALL-E de la plataforma estarán debidamente etiquetadas.
Funcionamiento de C2PA
C2PA, según lo que resalta el MIT en una reciente publicación, busca ser un protocolo de Internet universal que permita a los creadores de contenido optar por etiquetar su material visual y de audio con información sobre su procedencia. Su diseño es adaptable y funcional en todo Internet, y el código base es de libre acceso para cualquiera interesado en utilizarlo.
C2PA se asegura mediante el uso de la criptografía, que protege la información contra la manipulación y registra de dónde proviene el contenido. La información de procedencia se codifica utilizando un conjunto de hashes que se enlazan criptográficamente a cada píxel, asegurando así su autenticidad.
En comparación con otras técnicas como las marcas de agua y los sistemas de detección de IA, C2PA ofrece ventajas críticas. Mientras que los sistemas de detección de IA pueden ser evadidos por contenido generado por IA cada vez más sofisticado, C2PA proporciona un enfoque más estandarizado y difícil de eludir. Además, este protocolo puede funcionar de manera complementaria con otras herramientas de detección.
Desafíos y limitaciones
Aunque la información de procedencia puede ser útil en la lucha contra la desinformación, C2PA no es legalmente vinculante, lo que puede generar lagunas en su aplicación. Además, su efectividad depende de que los creadores de contenido opten por participar, lo que no aborda el problema de los malos actores que utilizan contenido generado por IA. También existe la incertidumbre sobre cómo los metadatos proporcionados afectarán la fluidez de los medios en el público, ya que no garantizan la veracidad del contenido.
El éxito de C2PA radica en su adopción generalizada en todo el ecosistema de Internet, especialmente en las plataformas de redes sociales. Si estas no implementan el protocolo, la información de procedencia no será visible para los usuarios, lo que limita su efectividad. Por ahora, las principales plataformas de redes sociales no han adoptado C2PA, aunque algunos, como Twitter, se habían sumado en un principio pero posteriormente abandonaron el proyecto.