Una vez más nos encontramos con problemas a la hora de representar personas de diferentes razas con IA, ahora con la herramienta de Meta.
El generador de imágenes de Meta AI ha mostrado tener dificultades para crear representaciones precisas cuando se le pide generar imágenes de personas de diferentes razas juntas. A pesar de recibir instrucciones claras, el sistema tiende a generar imágenes de personas de la misma raza, ignorando la especificidad de la solicitud.
Esto que veis arriba son los resultados que publican en The Verge como ejemplo de la situación.
Este problema se evidencia en situaciones como la creación de imágenes de «un hombre asiático y su amiga caucásica» o «un hombre asiático y su esposa blanca«, donde el resultado suele ser la representación de parejas de la misma raza. Incluso en solicitudes más generales de grupos diversos, la IA ha tendido a mostrar una falta de diversidad, optando en su mayoría por caras blancas.
Además de la cuestión de la raza, se han observado sesgos en cuanto a la edad y la inclusión de elementos culturales específicos sin que se soliciten. Por ejemplo, hombres asiáticos son representados como más viejos de lo que son, mientras que las mujeres asiáticas aparecen más jóvenes. Esto no solo es inexacto, sino que también puede reforzar estereotipos dañinos.
Midjourney lo hace mejor
Si probamos el mismo prompt en Midjourney, el resultado sí es correcto:
Frente a esta situación, es esencial reconocer la importancia de contar con datos de entrenamiento diversos e inclusivos. Esto puede ayudar a mitigar los sesgos y asegurar que la IA pueda comprender y representar adecuadamente la diversidad del mundo real.
Cómo lo hace DALL-E
Si se lo pedimos a ChatGPT para que lo haga con DALL-E, el resultado también es correcto, aunque en modo dibujo, pero correcto.
El hecho de que Midjourney y DALL-E consigan hacerlo bien significa que sí es posible hacerlo, por lo que está claro que el problema, en este caso, es de Meta.
Estos desafíos no solo son técnicos, sino profundamente éticos. Trabajar hacia una IA más inclusiva y representativa no es solo una cuestión de mejorar algoritmos, sino de reflexionar sobre el tipo de futuro tecnológico que queremos construir. Mucha gente tendrá que ponerse manos a la obra desde hoy mismo.