Si bien estamos viviendo toda una revolución en el desarrollo de las inteligencias artificiales, capaces de ayudarnos en todo tipo de funciones, estas también traen consigo diversos problemas. Además de dilemas morales o conflictos laborales por la destrucción de puestos de trabajo, el cada vez mayor uso de las IA está disparando la propagación de desinformación.
.png){kind=icon}
En el caso de los chatbots (IA textuales) como ChatGPT o el nuevo Bing, ya hemos hablado en más de una ocasión sobre lo mucho que les gusta inventarse información y mentir descaradamente. Y, como podrás imaginar, ya ha habido casos en los que esta información falsa proporcionada por una IA ha ocasionado diversos problemas de carácter legal.
Yéndonos a las IA generadoras de imágenes, el problema es similar. Hace unos meses, se viralizaron por Internet unas supuestas fotografías de Donald Trump detenido por la policía que resultaron ser falsas (aunque premonitorias, teniendo en cuenta los últimos sucesos del expresidente estadounidense), y que se habían creado utilizando la IA Midjourney.
Con el fin de mitigar la propagación de imágenes creadas por inteligencia artificial, incluyendo los famosos “deepfakes”, Google ha anunciado esta semana SynthID, una nueva herramienta que incrustaría una especie de marca de agua digital directamente en la imagen. A pesar de que los seres humanos no seríamos capaces de verla, sí podría detectarla un programa entrenado para ello.
Gracias a esta herramienta, Google pretende crear un sistema en el que la mayoría de las imágenes creadas por IA puedan identificarse fácilmente mediante marcas de agua incrustadas, según explicó Pushmeet Kohli, vicepresidente de investigación de Google DeepMind. El directivo también advierte que esta nueva herramienta no es totalmente infalible. Aún.
La peculiaridad de SynthID es que, a diferencia de otros sistemas de marcas de agua como el que incluye DALL-E, funciona incluso después de que la imagen se haya modificado en gran medida. Por ello, si alguien modifica una imagen creada con IA que tenga una marca de agua de SynthID, esta permanecerá incluso volteándola o aplicándole un filtro de color.
De momento, SynthID está disponible solo para algunos clientes de pago de Google, y solo funciona si las imágenes se crean utilizando “Imagen”, la herramienta de generación de imágenes de Google. SynthID está aún en fase experimental, por lo que su uso no es obligatorio para sus clientes.
Algunos de los enlaces añadidos en el artículo forman parte de campañas de afiliación y pueden representar beneficios para Softonic.
