En pleno auge de ChatGPT, el chatbot creado por OpenAI que no deja de crecer a un ritmo vertiginoso con nuevos usos, ha comenzado una polémica relacionada con su uso. El problema viene de que muchos estudiantes están utilizando esta tecnología para hacer trabajos, copiar en exámenes o facilitar sus tareas. Esto está provocando la desesperación entre los profesores, puesto que no hay forma real de discernir entre el contenido real y el copiado de ChatGPT.
Pero OpenAI no está dispuesto a que la fama de su aplicación descienda por culpa de este fenómeno, así que ha puesto tierra de por medio. Según ha anunciado la compañía, ha creado una herramienta con la cual poder discernir si un texto está creado por Inteligencia Artificial o es original. Esto funcionará sobre todo en textos de ChatGPT, pero también será aplicable en otros chatbots.
Sam Altman, el CEO de OpenAI, cree que esta herramienta puede ser un gran avance para los profesores. En lugar de dar un paso al lado o no comprometerse con la problemática, ha decidido ayudar al profesorado y lanzar esta nueva aplicación.
Según explican, el sistema aún está en pañales, pero irá mejorando a lo largo de los meses. Actualmente, en el idioma nativo de la app (inglés), la nueva herramienta identifica el 26% del total de textos generados por IA. Y, de momento, se equivoca en un 9% de las ocasiones cuando se trata de un texto original humano.
Para ponerla a prueba, solo debes ir a este enlace, pegar el texto que quieres comprobar y presionar en el botón “Submit”. Como decimos, solo está disponible en inglés, pero prevé pasarse al resto de idiomas (incluido el castellano) en un futuro próximo.
Como la herramienta todavía no es infalible, los resultados que aparecen son “muy improbable”, “poco probable”, “poco claro” o “posible” a la hora de relatar si el texto se ha generado por IA. Además, necesita un mínimo de 1.000 palabras para ponerse en funcionamiento, por lo que si se trata de textos cortos todavía no es posible ponerla a prueba.
¿Cómo funciona el detector de textos de OpenAI?
Para poner a funcionar este detector de textos, OpenAI ha utilizado los mismos procesos con los que llevan a cabo cualquier actualización de Inteligencia Artificial. Básicamente, han llevado a cabo un entrenamiento manual primerizo y después han seguido probando más y más textos para que la herramienta “se entrene”.
Las fuentes de los textos generados han sido tres distintas: Wikipedia, WebText y InstructGPT. Así, tiene varias vías con las que poder analizar los textos. Como decimos, todavía es pronto para tener grandes resultados, pero todo en la IA avanza a pasos muy veloces, así que seguro que pronto se podrá utilizar con seguridad.
Hemos probado el detector y…
Para ver si funciona correctamente o, como parece, todavía le queda mucho para que tire adelante, hemos probado esta tecnología. Hemos utilizado tres textos para ver si los detecta como originales o no. Estos textos son los siguientes:
- Un texto generado en ChatGPT sobre la historia de Apple
Los resultados han sido bastante esclarecedores. Sobre el artículo de Softonic, ha dicho lo siguiente:
Es decir, que es muy poco probable que haya sido generado por Inteligencia Artificial. Ok, lo ha hecho bien en esta primera prueba (aunque no se haya esmerado mucho en su respuesta).
Sobre el artículo de Wikipedia de Isaac Newton, se ha repetido la misma respuesta:
Perfecto. Al menos detecta cuándo un artículo no ha sido generado por IA. ¿Pero qué ocurre cuando sí lo ha sido?
En esta ocasión, sí detecta que se ha generado con IA, aunque solo lo aclara como “posible”.
De este modo, aunque todavía es una herramienta muy primigenia, está claro que funciona. Así que es cuestión de tiempo que se optimice y consiga mejores resultados.
