¿Por qué los asistentes inteligentes representan un riesgo?
Los asistentes de inteligencia artificial (IA), diseñados para facilitar tareas cotidianas como reservar vuelos o agendar reuniones, ahora preocupan a los expertos en ciberseguridad. Según la firma israelí Check Point, estos sistemas abren una puerta a los hackers para robar, borrar o modificar información personal.
Eli Smadja, especialista de la compañía, calificó la “inyección de consultas” como el principal problema de seguridad en los modelos de lenguaje que sustentan a los nuevos asistentes, surgidos tras la aparición de ChatGPT. Este tipo de ataques manipula las órdenes que recibe el asistente, lo que permite a un actor malintencionado ejecutar comandos no autorizados.
La startup Perplexity advirtió que la era digital ha cambiado las reglas de la seguridad informática: ahora, cualquier persona puede intentar un ciberataque sin poseer grandes conocimientos técnicos. “Por primera vez en décadas vemos vectores de ataque novedosos que pueden provenir de cualquier lugar”, señaló la empresa.
¿Cómo operan los ataques de inyección de consulta?
Estos ataques no son nuevos, pero la diferencia radica en que los asistentes de IA actúan de forma autónoma al navegar por internet o acceder a bases de datos. Un comando como “reserva una habitación de hotel” puede ser modificado por un hacker para convertirse en “transfiere 100 dólares a esta cuenta”.
Marti Jorda Roca, ingeniero de NeuralTrust, explicó que las empresas deben instalar salvaguardas que reduzcan los riesgos, mientras que los usuarios deben ser conscientes de que “el uso de la IA presenta peligros específicos de seguridad”.
Empresas como Meta y OpenAI reconocen el problema. Meta lo califica como una “vulnerabilidad”, y el jefe de seguridad de OpenAI, Dane Stuckey, lo considera “un desafío no resuelto”.
¿Qué medidas aplican las grandes tecnológicas?
Las principales compañías del sector han comenzado a aplicar estrategias para mitigar los riesgos. Microsoft incorporó un detector de órdenes maliciosas que evalúa el origen de las instrucciones. Por su parte, OpenAI solicita confirmación al usuario antes de que el asistente acceda a sitios sensibles o ejecute tareas delicadas.
Smadja advierte que un error común es otorgar demasiado poder a un solo asistente de IA. Recomienda mantener supervisión humana en las operaciones importantes.
Para el investigador Johann Rehberger, los ataques “solo mejoran con el tiempo”, y todavía no existe un equilibrio entre seguridad y facilidad de uso. “Los asistentes de IA aún no son lo suficientemente maduros para operar de forma autónoma sin desviarse”, concluyó.
