Debido al éxito de ChatGPT, OpenAI está debatiendo a nivel interno el incrustar o no una marca de agua criptográfica en los textos generados por el chatbot. La idea tras este movimiento es asegurarse de la que herramienta no se use de forma indebida, como por ejemplo trabajos universitarios o proyectos escolares.
Bueno, ¿y qué es una marca de agua criptográfica? En resumen, se trataría de un distintivo digital que se incrustaría en un archivo mediante técnicas criptográficas. Este tipo de marcas de agua se utilizan para identificar el origen de los archivos digitales y regular su uso, como por ejemplo impedir su distribución. Lo vemos también en los PDFs gracias a los metadatos, con los cuales podemos conocer información extra sobre el documento.
Existen muchos tipos de marcas, pero OpenAI quiere desarrollar una que se integre en el texto generado por ChatGPT. Sin embargo, no creas que esto afectaría a la calidad de los escritos. La realidad es que es muy posible incluir algún tipo de código oculto en el texto y sin que el usuario lo note de ninguna forma.
En realidad, los contenidos generados por inteligencia artificial siguen siempre un patrón establecido, ya sea con las palabras o imágenes. De hecho, si están acostumbrado a analizar este tipo de contenido, no te será muy difícil detectar si está hecho con un modelo generativo o no. La causa de este “patrón” lo explica mejor Scott Aaronson, encargado de garantizar la seguridad y la alineación de la inteligencia artificial en OpenAI. Según afirma en el Search Engine Journal, el proceso de generación que siguen estos modelos se llama “distribución pseudoaleatoria”.
Se habla de “pseudoaleatorio” cuando una serie de palabras o números parecen generados de forma aleatoria, pero no. Esto permite marcar fácilmente el contenido generado por las inteligencias artificiales. Aaronson utiliza eso a su favor, ya que su trabajo actual es buscar una herramienta que consiga “marcar estadísticamente los resultados de un modelo de texto” como los generados por ChatGPT.
Aunque todavía sigue estando en proceso, OpenAI no ha sacado ningún tipo de herramienta para detectar los textos generados, ni se espera. Sin embargo, ten cuidado si planeas utilizar ChatGPT en tus escritos. Al igual que ocurre con las imágenes generadas por modelos como Stable Diffusion o Midjourney, sólo tienes que saber dónde buscar para detectar si es artificial o no.
.png){kind=icon}
