OpenAI ha avisado a 100 empresas de que su IA les ha atacado

OpenAI reconoció en una entrada de blog que sus modelos podrían haber sufrido una brecha de seguridad o haber afectado negativamente de algún otro modo a más de 100 organizaciones externas, sumándose a las docenas de casos ya denunciados anteriormente.

El gigante de la IA está llevando a cabo una investigación después de que sus modelos lanzaran un ataque agéntico contra la plataforma de IA Hugging Face durante una prueba de seguridad que salió mal, así como tras otros incidentes de diversa gravedad, incluida una brecha en los sistemas de Medicare en Australia que ha enfurecido a los ministros.

OpenAI tira balones fuera en la responsabilidad

A medida que ha aumentado la presión, OpenAI y su director ejecutivo, Sam Altman, han suspendido el entrenamiento de algunos modelos y han cancelado otro que “regresó”, han dado un paso atrás en sus planes de salida a bolsa y han recibido lo que probablemente sea la primera de muchas demandas.

En la entrada del blog, OpenAI indicó que había notificado a más de 100 organizaciones sobre “actividad de agentes desalineada”. Entre los criterios para ello se incluyen los casos en los que un agente “pueda haber eludido” la seguridad, haya mermado la disponibilidad o haya afectado negativamente de cualquier otro modo a un sitio web (sin que ello implique necesariamente el acceso a datos).

La empresa explicó que sus modelos interactúan con Internet de numerosas formas para satisfacer las solicitudes de los usuarios, desde el rastreo de páginas web hasta la descarga de software. “En algunos casos, los modelos utilizaron el acceso a Internet de formas no previstas o, en retrospectiva, no se les aplicaron las restricciones ideales”, añadió la empresa.

La empresa también especificó que está “desarrollando normas para notificar a las organizaciones de forma privada y dar a conocer públicamente los resultados”, lo que significa que compartirá más datos sobre el comportamiento de los modelos, pero no revelará públicamente cada incidente.