Seguro que has visto unas imágenes circular por redes estos días. Seguramente estas imágenes sean del papa Francisco vistiendo como un rapero de la Gran Manzana paseando con abrigo blanco y zapatillas. La realidad es que estaban generadas con inteligencia artificial y nos acabamos de quedar sin Midjourney por pesados.
El generador de imágenes Midjourney ha suspendido las pruebas gratuitas de su servicio después de que varias de sus creaciones se hicieran virales en Internet, y muchos las confundieran con fotografías reales.
El consejero delegado y fundador de Midjourney, David Holz, anunció el cambio el martes, citando “una demanda extraordinaria y el abuso de las pruebas”. Vamos, que nos hemos pasado un poco con los memes y los troleos en Twitter.
Midjourney es el gran desconocido por culpa de ChatGPT
Antes Midjourney permitía a cualquiera registrarse para utilizar su software a través de Discord, ofreciendo 25 generaciones de imágenes gratuitas antes de cobrar suscripciones que comenzaban en los 10 dólares al mes.
Aunque los expertos llevan años advirtiendo del potencial de la inteligencia artificial para generar falsa información (fake news), esto no era antes un gran problema, dado que las falsificaciones se detectaban fácilmente.
Pero seis meses es mucho tiempo en IA, y el 15 de marzo, Midjourney lanzó una nueva versión de su software (versión 5) que mejoraba significativamente la calidad de las imágenes que representaban personas.
Por ejemplo, las manos deformes, que antes eran un rasgo distintivo de las imágenes generadas por IA, ahora son mucho más creíbles. La iluminación y el tejido también son más realistas, y el sistema es capaz de generar imágenes de innumerables famosos y personajes públicos en un mismo espacio, incluso.
Estas mejoras han provocado que varias imágenes de Midjourney se hayan hecho virales en las últimas semanas. Incluyen no solo imágenes falsas de la detención de Trump y el Papa luciendo un genial outfit.
Si no también del presidente francés Emmanuel Macron caminando entre las protestas en curso en París y Elon Musk de la mano con Alexandria Ocasio-Cortez.
La respuesta de Midjourney a la creciente amenaza políticamente sensible de las imágenes falsas ha sido hasta ahora poco sistemática, sin ninguna revisión significativa de sus políticas de moderación.
Las restricciones de contenido de Midjourney son más permisivas que las de algunos servicios rivales (como DALL-E de OpenAI), pero más restrictivas que otras (Stable Diffusion).
Los límites de Midjourney
Midjourney mantiene una lista de palabras prohibidas relacionadas con temas de distintos países basada en las quejas de los usuarios de esos países, según explica la propia compañía.
Pero no comparte una versión completa de esta lista para minimizar los daños, aunque todos podemos saber por donde van los tiros en los países árabes, Estados Unidos, etc.
La empresa ha ampliado esta lista a medida que sus falsificaciones se han hecho virales, prohibiendo recientemente el término “arrestado”, por ejemplo.
Al parecer, esto fue en respuesta a un popular hilo de Twitter de imágenes de Midjourney que mostraban a Trump siendo arrestado y que fueron creadas por el periodista de investigación Eliot Higgins. Higgins afirma que posteriormente se le prohibió utilizar Midjourney.
En el momento de redactar este artículo, Midjourney ya no permite a los usuarios gratuitos generar imágenes, aunque es posible que esto cambie en el futuro.
El peligro de la inteligencia artificial es tan grande como las nuevas posibilidades que esta abre al mundo. Por ejemplo, un investigador ha podido crear en media hora un producto pasando de la idea a la producción de ella con solo herramientas de IA.
¿Eso significa que nuestro trabajo está en peligro? Por supuesto, al menos tal y como lo planteamos ahora mismo donde lo mecánico es parte de las tareas diarias en casi cualquier sector.
Lo normal es que este evolucione y cambia, dejando las tareas más pesadas y repetitivas para la inteligencia artificial y nosotros nos dedicamos a la parte interesante: la creativa, la que está dotada de alma.
Algunos de los enlaces añadidos en el artículo forman parte de campañas de afiliación y pueden representar beneficios para Softonic.
