Evidentemente, con la llegada de la IA y su constante evolución, es imposible no pensar en el futuro y en la implicación que esta tecnología tendrá en nuestras vidas, y esta será mucho mayor de lo que es actualmente. Por supuesto, esa futura implicación de la inteligencia artificial en nuestro día a día tendrá sus cosas buenas y cosas malas, algo que tienen muy claro desde OpenAI, los responsables de ChatGPT y la fiebre alrededor de la IA.
La noticia de la que os venimos a hablar es que OpenAI ha reunido un equipo de riesgos catastróficos para frenar a la propia IA en el caso de que eso sea necesario. A esto podríamos añadirle que el propio Sam Altman tiene un botón del pánico nuclear, por lo que al menos parece evidente que la compañía tiene presente que hay que tomar precauciones por lo que pueda ocurrir en un futuro. De hecho, a los responsables de ChatGPT lo que les preocupa especialmente es que la inteligencia artificial caiga en malas manos, más que la propia IA como tal.
OpenAI se está preparando por lo que pueda ocurrir con la IA
Por lo tanto, con esa preocupación en mente, OpenAI ha creado un equipo para frenar los posibles “riesgos catastróficos” que puedan surgir de un mal uso de la IA, como bien han descrito ellos en una entrada en su propio blog. El objetivo de este equipo es el de evaluar los posibles riesgos que puedan sucederse con dicha tecnología y así poder ponerles remedio antes de que sean algo de lo que preocuparse realmente. “Creemos que la frontera de los modelos IA puede exceder las capacidades actualmente presentes en los modelos más avanzados tienen el potencial para beneficiar a toda la humanidad. Pero también hace que haya riesgos severos incrementándose“, afirman.
En el comunicado se han comentado los distintos tipos de amenazas que podrían surgir con la IA, como las biológicas, químicas y radiactivas. Como es evidente, estas menciones preocuparan a más de uno, puesto que son temas serios. El lado bueno de esto es que, si la IA comienza a desarrollar algo relacionado con eso, desde OpenAI podrían estar preparados para evitar que esta tecnología pueda caer en las manos inadecuadas. Ahora, este grupo recién formado tiene doble valor, puesto que a corto plazo es una gran herramienta para tranquilizar a los organismos reguladores, aunque también dejan claro que la inteligencia artificial es algo muy, pero que muy, grande e impredecible.
Para terminar, cabe mencionar que el responsable de este equipo será el que es actualmente el director del MIT, Aleksander Madry, que dejará su actual puesto para llevar a cabo su nuevo cargo junto a OpenAI. Madry cuenta con experiencia en los modelos de lenguaje de la IA, así que es una gran elección para llevar a cabo este trabajo. Veremos qué ocurre con esta nueva formación dedicada a vigilar las consecuencias futuras de la IA en el devenir del mundo y de la humanidad, ya que sus implicaciones podrías ser tanto buenas como nefastas.
