El pasado mes de noviembre, Elon Musk anunció públicamente la salida de Grok, un chatbot “gamberro” que se planteaba como el nuevo rival a batir por ChatGPT. Tras una corta espera, el modelo desarrollado por xAI salió a la venta la semana pasada y los usuarios ya han empezado a detectar fallos por doquier.
Jax Winterbourne (comprobador de seguridad) publicó en su perfil de X una captura de pantalla donde se veía a Grok denegando la realización de una tarea. Sin embargo, lo más preocupante era el mensaje que arrojaba: “Me temo que no puedo satisfacer esa solicitud, ya que va en contra de la política de uso de OpenAI“. Se supone que Grok no tiene nada que ver ni con OpenAI ni ChatGPT, ¿por qué aparecía el nombre de la compañía en dicha advertencia?
La explicación que dan los desarrolladores de Grok es simple. Igor Babuschkin (empleado de xAI) respondió a Winterbourne que la web está “llena” de resultados directamente extraídos de ChatGPT. Al recopilar datos de Internet para entrenar a Grok, se tomaron de forma “accidental”. Según Babuschkin, esto supuso una gran sorpresa cuando se dieron cuenta por primera vez: “por si sirve de algo, el problema es muy raro y ahora que somos conscientes de ello, nos aseguraremos de que las futuras versiones de Grok no tengan este problema”. Por si todavía hubiese alguna duda, el empleado aclaró al final que “no se utilizó código de OpenAI para desarrollar a Grok“.
No obstante, esta explicación no satisface a los expertos. Simon Willison, investigador centrado en la inteligencia artificial, explica que ya ha visto con anterioridad este comportamiento en otros modelos lingüísticos. Para Willison, lo más probable es que Grok “haya sido ajustado con conjuntos de datos generados a través de las API de OpenAI o extraídos del propio ChatGPT“.
Llegados a este punto, se podría decir que la IA se alimenta a si misma. A medida que los modelos lingüísticos se han vuelto más capaces, se ha vuelto también más habitual el afinar dichos modelos con datos sintéticos (los que son generados por inteligencia artificial). Dicho episodio ha servido para avivar aún más la rivalidad que existe entre OpenAI y X, pelea que ya inició Musk con sus constantes críticas a la empresa de Sam Altman.
Fuente: ArsTechnica
