Anthropic revela hoy cinco bloqueos de Claude por riesgo biológico

Anthropic, la compañía de inteligencia artificial que desarrolla Claude, dijo hoy que en 2026 detectó y frenó cinco intentos de usar su modelo en investigaciones que podían allanar el camino hacia armas biológicas. Según explicó la empresa, las personas implicadas intentaron saltarse las protecciones del sistema o disfrazar el objetivo real de sus preguntas.

ChatGPT Descargar

La empresa no dijo que hubiera confirmado una intención maliciosa. También señaló que algunos de los usuarios parecían ser científicos en activo, un dato que deja ver uno de los nudos más difíciles de este terreno: la investigación biológica peligrosa puede parecerse muchísimo al trabajo legítimo en medicina, salud pública o desarrollo de vacunas.

Entre los ejemplos que citó Anthropic hay consultas sobre gripe aviar, ortopoxvirus, venenos y toxinas. También aparece una propuesta de subvención para experimentos de ganancia de función con chikunguña, orientados a volver el virus más transmisible o más peligroso. La compañía insistió en que ese mismo conocimiento también puede usarse con fines legítimos, por ejemplo para estudiar patógenos o acelerar contramedidas médicas.

En su informe, Anthropic encuadra estos episodios como casos de “doble uso”. Es una categoría especialmente incómoda, porque las mismas técnicas y los mismos datos pueden servir para investigación defensiva o para fines dañinos. La meta, según la empresa, es frenar consultas peligrosas sin bloquear trabajo legítimo. Y esa frontera, a veces, no está nada clara.

Tras detectar la actividad, Anthropic canceló las cuentas implicadas y endureció sus barreras internas. Además, relegó parte del trabajo biológico más sensible a modelos menos potentes y usó lo aprendido para reforzar la protección de sistemas más avanzados, entre ellos Claude Fable 5.

La compañía añadió otro detalle: algunos usuarios parecían estar en países o regiones donde el acceso a sus servicios no está permitido. Puso como ejemplo jurisdicciones incluidas en sus listas de territorios no autorizados o prohibidos, como Rusia, China e Irán, aunque no identificó instituciones concretas ni vinculó en público los incidentes con un país determinado.

Claude Descargar

El aviso aparece mientras, desde hace meses, directivos tecnológicos y expertos en bioseguridad vienen advirtiendo en público que los modelos avanzados podrían rebajar el nivel de conocimientos necesario para diseñar patógenos o facilitar ataques biológicos por parte de estados, grupos extremistas o individuos. Su consejero delegado, Dario Amodei, ha defendido en varias ocasiones que esta tecnología podría ampliar el número de actores capaces de causar daños biológicos a gran escala. Aun así, los especialistas en bioseguridad recuerdan que pasar del diseño teórico a un arma funcional sigue siendo extraordinariamente difícil. Hacen falta infraestructura, materiales, conocimientos prácticos y capacidad de despliegue.

Todo esto vuelve a encender la discusión regulatoria. En mayo de 2025, la Casa Blanca publicó una orden ejecutiva sobre bioseguridad e investigación de doble uso, pero el marco sigue fragmentado y, según expertos del sector, avanza más despacio que las capacidades de los sistemas más recientes. Para una industria que intenta probar que puede autorregularse, los casos que ha contado Anthropic dejan ver las dos caras del problema: las salvaguardas tienen valor, pero también tienen un límite. Funcionan, sí, aunque ya hay usuarios resueltos a ponerlas a prueba.