Publicidad

Noticias

馃 驴Veremos Marcas de Agua en Textos Generador por ChatGPT?

馃 驴Veremos Marcas de Agua en Textos Generador por ChatGPT?
Mar铆a L贸pez

Mar铆a L贸pez

Debido al 茅xito de ChatGPT, OpenAI est谩 debatiendo a nivel interno el incrustar o no una marca de agua criptogr谩fica en los textos generados por el chatbot. La idea tras este movimiento es asegurarse de la que herramienta no se use de forma indebida, como por ejemplo trabajos universitarios o proyectos escolares.

Bueno, 驴y qu茅 es una marca de agua criptogr谩fica? En resumen, se tratar铆a de un distintivo digital que se incrustar铆a en un archivo mediante t茅cnicas criptogr谩ficas. Este tipo de marcas de agua se utilizan para identificar el origen de los archivos digitales y regular su uso, como por ejemplo impedir su distribuci贸n. Lo vemos tambi茅n en los PDFs gracias a los metadatos, con los cuales podemos conocer informaci贸n extra sobre el documento.

Existen muchos tipos de marcas, pero OpenAI quiere desarrollar una que se integre en el texto generado por ChatGPT. Sin embargo, no creas que esto afectar铆a a la calidad de los escritos. La realidad es que es muy posible incluir alg煤n tipo de c贸digo oculto en el texto y sin que el usuario lo note de ninguna forma.

En realidad, los contenidos generados por inteligencia artificial siguen siempre un patr贸n establecido, ya sea con las palabras o im谩genes. De hecho, si est谩n acostumbrado a analizar este tipo de contenido, no te ser谩 muy dif铆cil detectar si est谩 hecho con un modelo generativo o no. La causa de este “patr贸n” lo explica mejor Scott Aaronson, encargado de garantizar la seguridad y la alineaci贸n de la inteligencia artificial en OpenAI. Seg煤n afirma en el Search Engine Journal, el proceso de generaci贸n que siguen estos modelos se llama “distribuci贸n pseudoaleatoria”.

Se habla de “pseudoaleatorio” cuando una serie de palabras o n煤meros parecen generados de forma aleatoria, pero no. Esto permite marcar f谩cilmente el contenido generado por las inteligencias artificiales. Aaronson utiliza eso a su favor, ya que su trabajo actual es buscar una herramienta que consiga “marcar estad铆sticamente los resultados de un modelo de texto” como los generados por ChatGPT.

Aunque todav铆a sigue estando en proceso, OpenAI no ha sacado ning煤n tipo de herramienta para detectar los textos generados, ni se espera. Sin embargo, ten cuidado si planeas utilizar ChatGPT en tus escritos. Al igual que ocurre con las im谩genes generadas por modelos como Stable Diffusion o Midjourney, s贸lo tienes que saber d贸nde buscar para detectar si es artificial o no.

Mar铆a L贸pez

Mar铆a L贸pez

Artista de vocaci贸n y amante de la tecnolog铆a. Me ha gustado cacharrear con todo tipo de gadgets desde que tengo uso de raz贸n.

Tambi茅n te puede interesar

  1. Mozilla.ai: la nueva startup de Mozilla para crear un ecosistema IA seguro y fiable

    Mozilla.ai: la nueva startup de Mozilla para crear un ecosistema IA seguro y fiable

    Leer m谩s
  2. Antes de Tinder: las primeras citas por ordenador que se dieron a finales de los 50

    Antes de Tinder: las primeras citas por ordenador que se dieron a finales de los 50

    Leer m谩s
  3. GTA V: c贸mo localizar 5 veh铆culos muy raros

    GTA V: c贸mo localizar 5 veh铆culos muy raros

    Leer m谩s
  4. 驴Algo m谩s que para aprender idiomas? Duolingo estar铆a trabajando en una app de m煤sica

    驴Algo m谩s que para aprender idiomas? Duolingo estar铆a trabajando en una app de m煤sica

    Leer m谩s
  5. Un truco que lo cambia todo: c贸mo borrar texto hacia adelante en el Mac o el iPad

    Un truco que lo cambia todo: c贸mo borrar texto hacia adelante en el Mac o el iPad

    Leer m谩s
  6. Mac OS X vs Windows Vista: este es el divertido v铆deo en el que Steve Jobs compar贸 Apple con Microsoft

    Mac OS X vs Windows Vista: este es el divertido v铆deo en el que Steve Jobs compar贸 Apple con Microsoft

    Leer m谩s