Que ChatGPT es el chatbot más popular de Internet es algo que sabemos todos. Aunque el nuevo Bing rivaliza un poco con él, lo cierto es que ambos funcionan muy bien debido a que usan el mismo modelo generativo, GPT (aunque el de Bing es GPT-4, el más avanzado).
Sin embargo, OpenAI no quiere dormirse en los laureles y quiere seguir haciendo de su ChatGPT la referencia a seguir de los chatbots actuales. Para ello, OpenAI ha lanzado un anuncio bastante jugoso: aquellos que descubran errores o vulnerabilidades en sus servicios de IA recibirán una gran recompensa monetaria.
Además, no estamos ante cantidades pequeñas precisamente. De momento, las recompensas van desde los 200 dólares (por “hallazgos de baja gravedad”) hasta los 20.000 dólares (por “descubrimientos excepcionales”). Todos los informes y reportes al respecto se pueden enviar a través de la plataforma de ciberseguridad Bugcrowd, una web especializada en “bug bounty”.
Sin embargo, no todo vale aquí. OpenAI excluye en sus recompensas a todo aquel que se dedique a hackear ChatGPT o a hacer jailbreak. De hecho, la propia página de Bugcrowd lo deja bien claro: el jailbreak queda fuera.
En este caso, el jailbreak de ChatGPT implica introducir una serie de parámetros que hace que el sistema eluda sus propios filtros de seguridad. Las consecuencias de esto conllevarían a tener una especie de versión “malvada” de ChatGPT que hace que genere discursos de odio o que se utilice para fines dañinos.
OpenAI explica que tales problemas de seguridad no encajan dentro de su programa de recompensas, ya que no se trata de algo que se pueda corregir directamente. Aunque este tipo de jailbreaks muestran la vulnerabilidades del sistema, lo cierto es que para OpenAI es más importante solucionar fallos de seguridad tradicionales.
Algunos de los enlaces añadidos en el artículo forman parte de campañas de afiliación y pueden representar beneficios para Softonic.
