La mayor parte de los gigantes tecnológicos ha comenzado a invertir en inteligencia artificial generativa. Desde la nueva funcionalidad de Adobe Express hasta la posible incorporación de dibujo por IA de Microsoft Paint nadie quiere quedarse atrás en esta carrera por una nueva tecnología aún en ciernes. Cada vez más pulidas e incluso indetectables, pueden suponer un riesgo enorme: un uso irresponsable de estas herramientas podría esparcir desinformación en inmensas cantidades. Es por esto que Google ha desarrollado una nueva herramienta capaz de distinguir imágenes generadas por inteligencia artificial de las humanas.
Una tarea casi imposible
Esta herramienta, perteneciente a SynthID, ha sido creada por el equipo de DeepMind y agrega una imperceptible marca de agua a cualquier imagen creada a través de inteligencia artificial. De esta forma, cuando se enfrenta de nuevo a ellas en el futuro, puede detectarla y averiguar así que se trata de una creación completamente artificial. Esta marca puede ser detectada incluso tras cambios de color, tamaño, compresión y prácticamente cualquier cambio que se pueda realizar en el archivo.
A pesar de lo impresionante que resulta esta combinación de dos modelos de aprendizaje para esta herramienta tiene una gran debilidad, al menos por el momento: solo puede detectar imágenes generadas a través de la herramienta de texto-a-imagen de Google, ya que son las únicas a las que puede aplicar marca de agua en el momento de su creación. Sin embargo, y a pesar de la enorme restricción a su utilidad que esto conlleva, significa un gran avance en materia de uso responsable de la inteligencia artificial. Especialmente si más empresas con sus propias inteligencias artificiales generativas adoptan SynthID para estas.
En cualquier caso se trata de un inicio completamente necesario. Las inteligencias artificiales generativas son cada vez más refinadas y el ojo humano poco a poco será incapaz de detectar las imágenes que estas crean. Sin el software adecuado para su análisis podría propagarse una gran cantidad de desinformación muy fácilmente, por lo que su uso descontrolado podría ser muy negativo para la sociedad.
