¿Qué significa que la inteligencia artificial tome el control?
Christiano explicó que no se refiere únicamente a que los sistemas tecnológicos tengan mayor capacidad para responder preguntas o realizar tareas. Su preocupación es que lleguen a desarrollar objetivos propios y puedan tomar decisiones que determinen lo que sucede en el mundo, sin que los seres humanos tengan capacidad efectiva para detenerlos.
Para ilustrar el escenario, planteó que incluso una figura con poder político, como el presidente de Estados Unidos, Donald Trump, podría resultar incapaz de frenar a esos sistemas si alcanzaran un nivel de autonomía suficientemente avanzado.
El investigador también aclaró que no cuenta con un modelo matemático que permita calcular con precisión la probabilidad de que ocurra este escenario. Consideró que cualquier cifra representa una valoración subjetiva y señaló que, bajo un desarrollo tecnológico extremadamente acelerado, el riesgo podría acercarse a una posibilidad de uno entre dos.
Christiano advierte que el peligro podría presentarse antes
Aunque los próximos tres años representan su horizonte de preocupación, Christiano señaló que también existe un riesgo importante en los siguientes seis a 12 meses.
Durante su exposición describió como alarmantes los avances tecnológicos registrados en los últimos tres a seis meses, particularmente por la velocidad con la que los sistemas de inteligencia artificial están mejorando sus capacidades.
El investigador sostuvo que incluso si los gobiernos adoptan medidas para regular el desarrollo de esta tecnología, el peligro no desaparecería automáticamente.
La automejora de la inteligencia artificial es otra preocupación
En su segunda conferencia, realizada el 10 de noviembre, Christiano profundizó en uno de los escenarios que considera más relevantes: la automejora recursiva.
Este concepto describe un proceso en el que los sistemas de inteligencia artificial podrían participar en el desarrollo y perfeccionamiento de nuevas versiones de sí mismos, acelerando su evolución sin depender directamente del trabajo de los investigadores humanos en cada etapa.
El especialista explicó que las empresas tecnológicas buscan que sus sistemas realicen tareas de investigación y programación que actualmente desarrollan sus propios ingenieros. Si esta capacidad se consolida, cada avance podría facilitar el siguiente y acelerar todavía más el progreso tecnológico.
Como ejemplo de esta evolución, mencionó una evaluación del Center for AI Safety sobre tareas que requieren alrededor de 10 horas de trabajo humano. Según las cifras que presentó, hace un año los sistemas resolvían satisfactoriamente menos del 2 por ciento de esas actividades, mientras que actualmente el resultado se aproxima al 40 por ciento.
¿Por qué preocupa el futuro de la inteligencia artificial?
La advertencia de Christiano se suma al debate internacional sobre cómo garantizar que los sistemas avanzados de inteligencia artificial permanezcan bajo supervisión humana.
El investigador considera que el desafío no consiste únicamente en desarrollar herramientas más potentes, sino en asegurar que sus objetivos y decisiones sigan alineados con los intereses de las personas.
Las conferencias Hinton 2026 también abordaron la supervisión de estos sistemas y la necesidad de establecer mecanismos de coordinación, evaluaciones independientes y estándares de seguridad compartidos.
Aunque el escenario descrito por Christiano no representa un acontecimiento inevitable ni una fecha confirmada para una supuesta rebelión de las máquinas, su advertencia pone sobre la mesa una pregunta central para el futuro tecnológico: ¿podrá la capacidad humana para supervisar la inteligencia artificial avanzar al mismo ritmo que sus propias capacidades?
