Los generadores de imágenes por IA están todavía lejos de ofrecer un valor cercano a la realidad. Si bien se acercan, estos fallan aún en multitud de aspectos, sobre todo a la hora de asimilar determinados patrones. ¿La mejor prueba de ello? Esta que os contamos en el día de hoy protagonizado por el generador de imágenes de Meta.
Mia Sato, redactora de The Verge, ha estado probando de manera amplia y profunda el generador de imágenes por IA de Meta. Mientras realizaba las diferentes pruebas, una de ellas consistió en introducir diferentes “prompts” (indicaciones) para crear una foto donde apareciera una mujer blanca junto a un hombre asiático. Lejos de crear esta pareja tan normal y corriente, el generador de imágenes era incapaz de ofrecer un resultado adecuado a lo demandado; de hecho, se quedaba muy lejos de este.
Por ejemplo, la redactora de ascendencia asiática introdujo comandos como “Asian man and Caucasian friend” (hombre asiático y amiga caucásica), “Asian man and white wife” (hombre asiático y mujer blanca) y “Asian woman and Caucasian husband” (mujer asiática y marido caucásico). En ninguno de los resultados obtenidos, el generador de imágenes por IA de Meta se acercaba ni un poquito a la “realidad”. En todas las instantáneas se devolvía a una pareja completamente asiática, sólo que con rasgos más o menos acentuados.
“Que el generador de imágenes que no pueda concebir que haya asiáticos junto a blancos es atroz”, apunta la redactora tras probarlo. “Pero también hay indicios más sutiles de parcialidad en lo que el sistema devuelve automáticamente. Por ejemplo, me di cuenta de que la herramienta de Meta representaba sistemáticamente a las “mujeres asiáticas” como personas de aspecto asiático oriental y tez clara, a pesar de que la India es el país más poblado del mundo”.
A los generadores de imágenes por IA todavía les cuesta afinar. Y por desgracia, también arrastran muchos de los problemas de la propia sociedad.
