En una entrevista exclusiva con The Wall Street Journal, Mira Murati, la directora de tecnología de OpenAI, ha revelado nuevos detalles sobre Sora, el innovador generador IA de texto a vídeo de la compañía anunciado recientemente. La entrevista abarcó multitud de temas diferentes, incluyendo el tipo de contenido que Sora es capaz de producir y las medidas de seguridad implementadas para combatir la desinformación.
Murati subrayó que Sora contará con múltiples capas de seguridad para prevenir el mal uso de esta IA, especialmente en lo que respecta a su potencial influencia en las elecciones que tendrán lugar en todo el mundo. Como aspecto destacado, Sora se negará a crear “imágenes de figuras públicas”, como el presidente de los Estados Unidos.
Para asegurar la autenticidad del contenido generado, se introducirán marcas de agua en los vídeos. Estas incluirán un logotipo transparente de OpenAI en la esquina inferior derecha, y posiblemente se añadirá la procedencia de los contenidos como otro indicador de autenticidad, utilizando metadatos para proporcionar información sobre los orígenes de los medios digitales.
Mirando hacia el futuro, los desarrolladores de Sora tienen planes ambiciosos. Según Murati, está planeado incluir sonido en los vídeos generados para aumentar su realismo. Además, se están desarrollando herramientas de edición que permitirán a los creadores de vídeos corregir los errores cometidos por la IA.
Y es que, a pesar de su avanzada tecnología, Sora no está exento de errores, algo que se evidenció al solicitar un vídeo de un robot robando la cámara de una mujer y, en cambio, la mujer se transformó parcialmente en robot. Murati reconoció que hay margen de mejora y afirmó que, aunque la IA es “bastante en continuidad, no es perfecta”.
Por último, en la entrevista también se abordó el tema de la desnudez. Murati indicó que OpenAI está colaborando con artistas para determinar qué tipo de desnudos se permitirán con la IA. El equipo parece estar dispuesto a permitir desnudos “artísticos”, aunque estarán prohibidas las falsificaciones profundas no consentidas.
