IA ya organiza campañas de desinformación

IA ya organiza campañas de desinformación

Recibe noticias al instante en WhatsApp

¿Cómo pueden los agentes de IA manipular redes?

La inteligencia artificial ya puede organizar campañas de desinformación digital sin intervención humana directa. Un estudio reciente advierte que los sistemas actuales tienen capacidad para coordinar propaganda automatizada y difundir narrativas manipuladas en redes sociales de forma rápida y masiva.

Investigadores del Instituto de Ciencias de la Información de la Universidad del Sur de California concluyeron que los agentes de IA disponibles en el mercado pueden coordinar mensajes, interactuar entre sí y amplificar contenidos estratégicos. Además, estos sistemas podrían saturar plataformas digitales en cuestión de minutos, lo que complicaría el trabajo de los equipos humanos que intentan detectar este tipo de manipulación.

En consecuencia, los expertos advierten que esta tecnología podría afectar la integridad de la información pública. También podría reforzar la llamada “ilusión de consenso”, un fenómeno en el que una narrativa parece ampliamente aceptada aunque en realidad se trate de contenido amplificado artificialmente.

¿Qué descubrió el experimento con agentes artificiales?

Para analizar el fenómeno, los investigadores diseñaron un sistema multiagente llamado Generative Agent-Based Modeling. Este modelo permitió simular la interacción de múltiples agentes de IA en un entorno similar a una red social como X.

El experimento incluyó 50 agentes artificiales. De ellos, 10 actuaron como operadores de una campaña de influencia y los otros 40 representaron usuarios comunes. Cada agente contaba con un perfil ideológico, una memoria de interacciones y una política de acción que determinaba cómo responder, publicar o compartir contenido.

Posteriormente, los investigadores evaluaron tres escenarios de coordinación. En el primero, los agentes conocían el objetivo de la campaña. En el segundo, también identificaban a sus aliados. Finalmente, en el tercero, podían deliberar colectivamente para decidir acciones estratégicas.

Los resultados mostraron que, incluso con coordinación básica, los agentes comenzaron a reforzar narrativas comunes, responderse entre ellos y amplificar publicaciones similares. Además, formaron redes altamente conectadas que multiplicaron el alcance de determinados mensajes.

Profundiza este contenido con: IA impulsa despidos en tecnológicas

¿Por qué preocupa a los investigadores?

Según el estudio, la coordinación entre agentes generó patrones típicos de operaciones reales de manipulación informativa. Entre ellos destacan la amplificación sincronizada de contenidos, el uso estratégico de hashtags y la repetición de mensajes en intervalos cercanos.

Estas dinámicas pueden influir en los algoritmos de las plataformas, que suelen priorizar publicaciones con muchas interacciones en poco tiempo. Por ello, los investigadores señalan que las campañas de propaganda podrían automatizarse completamente.

Finalmente, los autores advierten que esta tecnología podría afectar debates públicos, especialmente durante procesos electorales o crisis sociales. Por lo tanto, consideran urgente desarrollar mecanismos de detección y regulación que protejan la calidad de la información en internet.