Midjourney, una popular plataforma generadora de imágenes por inteligencia artificial, ha decidido suspender sus pruebas gratuitas luego de una serie de escándalos relacionados con algunas de sus creaciones. Entre ellas, se incluyen aquellas viralizadas durante los últimos días con el falso arresto de Donald Trump y las imágenes virales del Papa Francisco con un abrigo estilo Balenciaga.
Según David Holz, CEO y fundador de la plataforma, la medida se tomó debido a la “demanda extraordinaria” y al “abuso” por parte de los usuarios.
Escándalo de imágenes virales lleva a Midjourney a revisar sus normas de contenido y suspender su servicio gratuito
Antes de la suspensión, Midjourney permitía a cualquier persona que se registrara a través de Discord generar hasta 25 imágenes gratuitas. Solo después de agotado este cupo, cobraba suscripciones que oscilan entre los $10 y $60 dólares al mes. La plataforma se había ganado la lealtad de más de 13 millones de miembros en solo un año desde su lanzamiento en 2022.
A mediados de marzo de este año, Midjourney lanzó la versión 5 de su servicio, que mejoró significativamente la calidad de las imágenes que representan a las personas. Sin embargo, poco después se hicieron virales las imágenes generadas de Donald Trump y el Papa Francisco, lo que dejó en evidencia la capacidad de la plataforma para fabricar noticias falsas bastante convincentes. Holz dijo que estaban revisando las pautas de moderación del sitio, especialmente las que tienen que ver con la generación de contenido que incluya a personas reales. “Las imágenes se vuelven más y más realistas y las herramientas, más y más poderosas”, dijo en una audiencia en vivo con unas dos mil personas que se celebró hoy en Discord, según informó el Washington Post.
Las normas de contenido de Midjourney son más permisivas que las de DALL-E, la generadora de imágenes de OpenAI, pero más restrictivas que las de Stable Diffusion, de la compañía Stability AI. Los usuarios deben tener al menos 13 años de edad para usar Midjourney. Las normas de uso prohíben el contenido para adultos y el gore, así como las indicaciones de texto que son “inherentemente irrespetuosas, agresivas o abusivas”. Sin embargo, las normas de contenido no son muy restrictivas. El periodista Eliot Higgins, responsable de las imágenes de Trump, fue expulsado de la plataforma luego de que el material se hiciera viral, pero la compañía no explicitó el motivo.
Midjourney fue demandada en enero pasado por un colectivo de artistas, que asegura que los desarrolladores entrenaron el modelo de IA con imágenes y obras publicadas en Internet sin el consentimiento de los creadores originales. La compañía todavía no ha respondido al reclamo ante los tribunales.
Dall-E, por el contrario, prohíbe la creación de imágenes que incluyan a políticos, protestas u otro contenido que pueda emplearse para hacer campaña. También aquellas que pretendan hacer referencia a “grandes conspiraciones o eventos relacionados con importantes eventos geopolíticos en curso”.
Aunque los deepfakes pueden ser utilizados con fines más amigables y prácticos, casos como este muestran que la IA necesita de ciertos resguardos que garanticen espacios seguros.