Las compañías detrás de las inteligencias artificiales saben que, a veces, sus creaciones pueden generar resultados bastante sesgados y estereotipados. Por ello, empresas como OpenAI han ido perfeccionando sus modelos con el tiempo, sobre todo con el fin de evitar las críticas de los usuarios. Pero, ¿qué ocurre cuando te pasas de frenada y provocas que tu IA presente resultados demasiado “bienquedas”?
Eso es justo lo que le ha ocurrido a Google, que ha admitido esta semana que la pifió después de que se acusara al generador de imágenes de su IA generativa Gemini de ir demasiado lejos en su intento de promover la diversidad, al convertir sistemáticamente a personajes históricos blancos en no blancos.
Los esfuerzos de Gemini por diversificar sus resultados provocaron la indignación de muchos usuarios, que calificaron las imágenes de Gemini de históricamente inexactas. La IA cometió muchos deslices con los propios padres fundadores de EEUU, haciendo que algunos de ellos fuesen negros (todo fueron muy blanquitos), y cambiando también el tono de piel a los Papas que han existido a lo lago de la historia (todos más blancos que un vampiro asustado). Otras pifias de la IA consistieron en cambiar la raza o el sexo a vikingos, nazis e incluso a famosos jugadores de hockey canadienses.
Las cosas empeoraron cuando algunos usuarios dijeron que pidieron a Gemini que creara una persona blanca en la historia, y la IA fue incapaz de hacerlo, pero pudo producir una imagen de una persona negra aparentemente sin problemas. La polémica se avivó aún más cuando un exempleado de Google afirmó en Twitter que es “vergonzosamente difícil conseguir que Google Gemini reconozca que existen personas blancas”.
“Estamos trabajando para mejorar este tipo de representaciones de inmediato”, dijo en un comunicado Jack Krawczyk, director senior de gestión de productos de Google para Gemini Experiences. “La generación de imágenes por IA de Gemini genera un amplio abanico de personas. Y eso es bueno en general, porque lo utiliza gente de todo el mundo. Pero aquí está fallando”.
Y no es la primera vez que a Gemini (antes Bard) se le va la olla. En las primeras semanas de vida de Bard, la IA cometía muchos errores al preguntarle sobre datos científicos, y la situación llegó hasta el punto de que hizo que se desplomara el valor de las acciones de Alphabet, empresa matriz de Google, haciendo perder miles de millones a la compañía.
