Anthropic, la empresa detrás del chatbot Claude, informó que durante 2026 detectó y bloqueó cinco intentos de utilizar sus modelos de inteligencia artificial en investigaciones que podrían contribuir al desarrollo de armas biológicas.
La compañía explicó que en algunos casos no fue posible determinar con certeza si las solicitudes tenían una finalidad legítima o maliciosa. Sin embargo, decidió intervenir cuando identificó un riesgo potencial de que sus modelos pudieran facilitar el desarrollo de patógenos peligrosos.
¿Qué detectó Anthropic?
Los casos forman parte de un nuevo informe sobre usos indebidos de sus modelos de IA. Entre las situaciones identificadas aparecen solicitudes relacionadas con virus, toxinas y otros procesos de investigación biológica que podrían tener un uso legítimo, pero también podrían ser utilizados con fines peligrosos.
Uno de los casos involucró a un investigador de un instituto militar que utilizó Claude para solicitar apoyo relacionado con el virus chikungunya.
Aunque este tipo de investigación puede estar relacionada con vacunas y tratamientos, Anthropic consideró que algunas de las solicitudes podían contribuir a desarrollar versiones más peligrosas del virus y decidió bloquearlas.
También hubo solicitudes sobre gripe aviar y toxinas
El informe menciona otros intentos que despertaron alertas por el posible uso indebido de la inteligencia artificial.
Entre ellos se encuentran:
- Solicitudes para investigar cómo aumentar la capacidad de contagio de la gripe aviar.
- Investigaciones relacionadas con hacer que el virus de la viruela fuera más resistente al sistema inmunológico.
- Peticiones para reunir información sobre toxinas de animales venenosos.
- Consultas relacionadas con investigaciones biológicas que podrían tener aplicaciones tanto médicas como militares.
Anthropic señala que este tipo de situaciones demuestra la dificultad de distinguir entre una investigación científica legítima y una actividad que podría representar un riesgo.
La IA también fue utilizada para otros fines peligrosos
El informe de Anthropic no se limita a las armas biológicas. La empresa también documentó usos indebidos de sus modelos relacionados con ciberseguridad, armas convencionales y operaciones de influencia.
Uno de los casos descritos ocurrió en Yemen, donde un grupo identificado por la compañía como terrorista habría intentado utilizar Claude para obtener asistencia relacionada con el desarrollo de armas, entre ellas un cohete guiado que utilizaría un chip de teléfono móvil como sistema de control.
La compañía también señaló que algunos de estos accesos se realizaron mediante cuentas falsas o intermediarios en países donde Anthropic no ofrece oficialmente sus servicios.
¿Por qué preocupa el uso dual de la inteligencia artificial?
El caso pone de manifiesto uno de los principales desafíos de la inteligencia artificial: una misma herramienta puede utilizarse para fines beneficiosos o peligrosos.
Un modelo capaz de ayudar a investigadores a analizar información biológica también puede proporcionar conocimientos que, en determinadas circunstancias, podrían ser aprovechados para desarrollar agentes patógenos.
Por ello, Anthropic sostiene que las evaluaciones de seguridad son necesarias, aunque reconoce que demostrar que un modelo posee determinada capacidad no significa que esa capacidad vaya a utilizarse necesariamente para fabricar un arma en el mundo real.
Anthropic asegura que sus sistemas pueden detectar estos usos
La empresa afirmó que ha desarrollado mecanismos para identificar solicitudes que puedan representar un riesgo y bloquear el acceso cuando considera que existe una posibilidad significativa de uso indebido.
El reporte llega en un momento de creciente preocupación dentro de la industria tecnológica por los riesgos de la inteligencia artificial. Esta misma semana, el investigador Jacob Coxon anunció su salida de Anthropic y cuestionó la velocidad con la que las compañías están desarrollando sistemas cada vez más avanzados.
Las advertencias sobre el uso de IA para actividades peligrosas se suman así al debate sobre la necesidad de establecer mayores controles para los modelos capaces de realizar tareas cada vez más complejas y autónomas.
