ChatGPT es una inteligencia artificial muy popular, sí, pero no toda la fama que tiene es positiva. Hace unas semanas, nos hacíamos eco de que Italia había bloqueado la IA de OpenAI tras mostrar su preocupación acerca de la procedencia de los datos utilizados para entrenarla. Una preocupación que comparte Canadá, que investiga a la compañía de software y podría dar pie a una futura prohibición en el país.
Ahora, las propias empresas de tecnología tienen también “la mosca detrás de la oreja” respecto al imparable desarrollo de las IA y a la recopilación de datos por compañías como OpenAI. Según sabemos gracias a Bloomberg, Samsung ha prohibido el uso de ChatGPT y otras inteligencias artificiales generativas en todos sus dispositivos y redes internas.
Y no es para menos. La prohibición por parte de la compañía coreana se produce pocas semanas después de descubrir que algunos de sus empleados “filtraron código fuente interno subiéndolo a ChatGPT”. Si bien muchos informáticos utilizan este tipo de IA para mejorar sus códigos, al subir información de un carácter tan sensible a un servidor externo puede exponer a las compañías y provocar daños irreversibles.
Pero el problema ya no está solo en la posible filtración del código fuente de una compañía (algo ya de por sí serio), sino en la recopilación de todo tipo de datos privados o sensibles procedente de gente común. Las herramientas generativas de texto, conocidas normalmente como “chatbots”, se utilizan también para funciones básicas del día a día, como escribir emails o hacer trabajos académicos; acciones que podrían permitir a OpenAI y otras empresas acceder a este tipo de datos.
Y no son simple sospechas. En su apartado de preguntas frecuentes, OpenAI afirma que revisa las conversaciones que los usuarios mantienen con ChatGPT para mejorar sus sistemas y asegurarse de que cumple sus políticas y requisitos de seguridad. De la misma forma, aconseja también a sus usuarios que “no compartan información sensible en sus conversaciones” y señala específicamente que cualquier conversación puede utilizarse también para entrenar futuras versiones de ChatGPT.
Como puede resultar obvio, a Samsung no le hace mucha gracia que sus empleados utilicen la IA y puedan compartir información de carácter confidencial, por lo que ha comenzado a tomar medidas: “La sede central está revisando las medidas de seguridad para crear un entorno seguro para utilizar de forma segura la IA generativa con el fin de mejorar la productividad y la eficiencia de los empleados”, dice la compañía en una nota interna compartida por Bloomberg. “Sin embargo, hasta que estas medidas estén preparadas, estamos restringiendo temporalmente el uso de IA generativa”.
Samsung no solo ha procedido a prohibir el uso de inteligencias artificiales generativas en todos los dispositivos electrónicos de la compañía, sino que también ha solicitado expresamente a sus empleados que no compartan con ninguna IA información de carácter empresarial cuando hagan uso de sus dispositivos personales.
“Le pedimos que se adhiera diligentemente a nuestras directrices de seguridad y el no hacerlo puede resultar en una violación o puesta en peligro de la información de la empresa que resulta en una acción disciplinaria hasta e incluyendo la terminación del empleo”, podía leerse en la nota interna, cuya autenticidad fue confirmada por la propia Samsung.
De esta forma, Samsung se sumaría a otras empresas e instituciones que han prohibido el uso de ChatGPT y otras IA generativas por diversas razones. Multitud de bancos, como JPMorgan, Deutsche Bank, Wells Fargo, Bank of America, Goldman Sachs o Citigroup han prohibido el uso de las IA por seguridad. Además, varias escuelas de Nueva York han prohibido su uso para evitar que los estudiantes hagan trampas, así como por estar expuestos a desinformación.
Algunos de los enlaces añadidos en el artículo forman parte de campañas de afiliación y pueden representar beneficios para Softonic.
