La generación de imágenes a través de inteligencia artificial es un campo tan atractivo como peligroso. Nombres como DALL-E, Stable Diffusion o Midjourney han conseguido poner al alcance de todos la posibilidad de crear imágenes desde cero: lo único que necesitas es pedirlo por escrito al modelo en cuestión.
“Genera una foto donde aparezca un perro con gafas coloreadas”. Acto seguido, cualquiera de los modelos mencionados anteriormente lo creará en cuestión de segundos. Aunque el uso de estas herramientas puede resultar muy entretenido, a muchos usuarios les preocupa que también pueda servir para crear falsificaciones (deepfakes) o contenido para adultos (NSWF). Esto es algo especialmente fácil con Midjourney, al cuál se puede acceder a través de su servidor de Discord.
¿Cuáles son los límites?
La pregunta es simple: ¿puede una herramienta como Midjourney generar contenido de índole sexual? Para empezar, la propia Midjourney se compromete a garantizar que su contenido sea accesible para un amplio abanico de usuarios. Esto es algo que podemos ver en las directrices comunitarias, que garantiza que las imágenes generadas son apropiadas para los menores de 13 años.
En consecuencia, Midjourney prohibe de forma tajante el contenido pornográfico (desnudez, órganos sécales, fetiches y demás) y también lo visualmente perturbador. Así que no, no podrás crear imágenes sangrientas ni violentas. Por si fuera poco, Midjourney tampoco permite nada que sea racista, homofóbicos u ofensivo con cualquier colectivo. Gracias a estas medidas, la herramienta no es capaz de generar por sí misma este tipo de contenidos, lo que ha ayudado a crear una comunidad segura.
¿Cómo evita Midjourney el contenido polémico?
Para hacer efectivas sus políticas, Midjourney tiene una serie de limitaciones que impiden a los usuarios hacer cosas “extrañas” con el bot. Una de las primeras pasa por la moderación del lenguaje: Midjourney no admite palabras ofensivas o términos que den pie a contenido pornográfico, por ejemplo. De hecho, no se pueden poner siquiera emojis como el melocotón o el pepino, por ejemplo.
Bueno, ¿y qué ocurre si pongo alguna palabra “prohibida”? En este caso, Midjourney mostrará una advertencia y te especificará cuál es la palabra que ha censurado. Tampoco intentes pasarte de listo, ya que si no respetas sus normas, Midjourney te expulsará del servidor de forma permanente.
A pesar de todas las limitaciones y medidas impuestas, lo cierto es que aún es posible generar contenido NSFW (ya sea sin querer o sorteando las prohibiciones de forma deliberada). Por suerte, los usuarios pueden denunciar el contenido inapropiado a través de dos métodos:
- Reaccionar a la imagen con el emoji de “X“.
- Hacer clic derecho en la imagen y seleccionar la opción de Denunciar mensaje.
Algunos de los enlaces añadidos en el artículo forman parte de campañas de afiliación y pueden representar beneficios para Softonic.
