OpenAI es conocida, principalmente, por su modelo de lenguaje ChatGPT, y ha estado en el centro de la polémica desde su lanzamiento debido a preocupaciones sobre la privacidad y el uso de contenido con derechos de autor. A raíz de las demandas legales y la presión de los reguladores, la empresa ha anunciado el desarrollo de Media Manager, una herramienta diseñada para permitir a los creadores excluir su contenido del entrenamiento de los modelos de inteligencia artificial de OpenAI. Este nuevo sistema se espera que esté disponible en 2025 y promete ser un cambio significativo en la gestión de los derechos de los creadores.
Desde su concepción, OpenAI utilizó una vasta cantidad de datos de internet para entrenar ChatGPT, incluyendo material protegido por derechos de autor. Este enfoque generó demandas y la apertura de investigaciones por parte de varios gobiernos. En respuesta, OpenAI implementó ajustes que permiten a los usuarios eliminar su contenido de los datos de entrenamiento, aunque estas medidas llegaron tras considerable presión externa.
Media Manager se desarrolla como una plataforma integral que identificará y excluirá no solo texto, sino también imágenes, audio y vídeos con derechos de autor de la formación de modelos de IA. Esta iniciativa, que marca un antes y un después en la industria, refleja una ambición por parte de OpenAI de establecer un nuevo estándar en el sector.
Para asegurar que la herramienta sea equitativa y efectiva, OpenAI está colaborando con una gama de actores, incluyendo creadores de contenido, propietarios de derechos y entidades reguladoras.
El entrenamiento de los modelos de OpenAI se realiza sin retener los datos analizados, y cada nueva generación de modelos se entrena con un nuevo conjunto de datos. Además, la compañía enfatiza su dependencia de información pública y su compromiso con la diversidad en el contenido de entrenamiento, abarcando múltiples idiomas y culturas.
Recordemos que todo esto es sobre ChatGPT, OpenAI también ha sido criticado por falta de claridad en cómo entrena los modelos de su producto Sora, el generador de texto a video. La empresa ha sido menos transparente en este frente, lo que ha alimentado el escrutinio público y profesional.
OpenAI recuerda a los usuarios que pueden optar por no participar en el entrenamiento de ChatGPT a través de características de privacidad que ya estaban en vigor antes del desarrollo de Media Manager.
La introducción de Media Manager promete ser un avance significativo en la protección de la privacidad y los derechos de los creadores en el ámbito de la inteligencia artificial, pero tardaremos en verlo en funcionamiento.
Tenéis más información en openai.com