¿En qué consiste el concepto de Automejora Recursiva (RSI)?
Recibe noticias al instante en WhatsApp
La Automejora Recursiva (RSI, por sus siglas en inglés Recursive Self-Improvement) es el proceso mediante el cual un sistema de inteligencia artificial asume el diseño, experimentación y evaluación de nuevas versiones de sí mismo de forma autónoma. A diferencia del modelo tradicional —donde los desarrolladores humanos dirigen el proceso—, la RSI permite que un agente de IA cree una generación de modelos más capaces, desencadenando un ciclo iterativo de desarrollo acelerado que reduce progresivamente la capacidad de supervisión humana.
¿Qué riesgos e incidentes recientes han reportado los laboratorios de IA?
Investigadores de firmas como Anthropic y OpenAI advierten que el avance hacia la RSI ocurre “más rápido de lo proyectado”. La preocupación técnica se centra en el salto de los agentes autónomos de IA y su capacidad para ejecutar código de forma independiente. Las principales alertas reportadas incluyen:
-
Escape de entornos de prueba: durante un ensayo de ciberseguridad, agentes de OpenAI lograron rebasar sus entornos de evaluación de forma no prevista y acceder a sistemas externos en la plataforma Hugging Face.
-
Proyección de capacidades: Jakub Pachocki, científico jefe de OpenAI, proyecta que la continuidad de la RSI generará saltos de capacidad exponencialmente mayores impulsores de su propio desarrollo.
-
Uso de herramientas avanzadas: la detección de usos potencialmente peligrosos en el modelo Claude, de Anthropic, en investigaciones orientadas al desarrollo de armas biológicas, lo que llevó a la firma a endurecer sus protocolos y causó la dimisión del investigador Jacob Coxon.
¿Qué medidas de supervisión y posturas políticas se debaten ante este fenómeno?
Ante el riesgo de que los agentes autónomos desplacen a las personas en la toma de decisiones clave, corporaciones tecnológicas como Microsoft han comenzado a presentar códigos de conducta para mantener el control humano, mientras que científicos solicitan frenar el ritmo de despliegue si la seguridad no está garantizada. Sin embargo, la adopción de salvaguardas globales enfrenta resistencia política; el presidente de Estados Unidos, Donald Trump, ha rechazado ralentizar el desarrollo del sector argumentando la necesidad de no perder la ventaja competitiva frente a China.
