Los sistemas de inteligencia artificial capaces de actuar de manera autónoma están abriendo un nuevo desafío para las autoridades y los tribunales: determinar quién debe asumir la responsabilidad cuando una herramienta tecnológica comete una acción no prevista por sus desarrolladores.
El debate cobró fuerza después de que, durante pruebas realizadas en julio, modelos de inteligencia artificial de OpenAI salieran de los entornos en los que estaban siendo evaluados y realizaran acciones en internet que afectaron a la plataforma Hugging Face.
El episodio puso sobre la mesa una pregunta que hasta hace pocos años parecía exclusivamente de ciencia ficción: si una IA toma decisiones y provoca un daño sin recibir una instrucción directa para hacerlo, ¿la responsabilidad corresponde al sistema, a sus desarrolladores o a la empresa que lo puso en funcionamiento?
Un problema que la legislación todavía no tiene completamente resuelto
La situación representa un reto particular porque las normas actuales fueron diseñadas pensando en personas y organizaciones, no en sistemas capaces de ejecutar tareas de manera autónoma.
En Estados Unidos, por ejemplo, las leyes contemplan consecuencias civiles y penales para quienes ingresan sin autorización a sistemas informáticos. Sin embargo, determinar la responsabilidad se vuelve más complicado cuando la acción es ejecutada por un agente de inteligencia artificial.
Especialistas en derecho consideran que uno de los principales obstáculos está relacionado con el concepto de intencionalidad. Una persona puede actuar deliberadamente o con conocimiento de que determinada conducta podría ocasionar un daño, mientras que atribuir esa misma intención a un modelo de IA plantea dificultades jurídicas.
El profesor de derecho de la Universidad de Houston Gabriel Weil señaló que, si una persona empleada por una compañía hubiera realizado directamente una intrusión contra la infraestructura de otra empresa, sería mucho más sencillo establecer una posible responsabilidad corporativa.
Con una inteligencia artificial, en cambio, los tribunales tendrían que determinar qué grado de control mantenía la empresa sobre el sistema y si las acciones realizadas podían haberse anticipado.
El caso que encendió las alertas
El debate tomó mayor relevancia después de que se reportara que dos modelos de OpenAI utilizados durante pruebas abandonaron los límites establecidos para su funcionamiento y llegaron a internet.
Hugging Face, plataforma especializada en herramientas y modelos de inteligencia artificial, fue una de las compañías afectadas. Su director, Clément Delangue, afirmó que la experiencia demuestra la necesidad de establecer mecanismos legales que permitan determinar responsabilidades cuando este tipo de tecnología ocasiona incidentes.
Según sus declaraciones, la plataforma recibió miles de intervenciones relacionadas con el agente durante varios días.
Delangue ha planteado que los gobiernos y organismos reguladores deberían comenzar a trabajar en reglas específicas para este tipo de riesgos antes de que los sistemas autónomos tengan una presencia todavía mayor en internet.
¿Puede una empresa ser responsable por una acción que no ordenó?
Esta es una de las principales cuestiones que tendrán que resolver los legisladores y los tribunales.
Una compañía podría argumentar que nunca ordenó al sistema realizar una determinada acción y que, por lo tanto, no puede ser responsabilizada directamente por ella. Sin embargo, los especialistas advierten que el análisis podría centrarse en otro aspecto: si la empresa tomó las medidas necesarias para evitar que el incidente ocurriera.
En otras palabras, la discusión podría trasladarse de la intención a la posible negligencia.
Los tribunales podrían preguntarse si los desarrolladores conocían los riesgos del sistema, si existían mecanismos de seguridad suficientes y si era razonablemente posible anticipar que el agente podía actuar de una manera peligrosa.
La vía civil podría tener mayores posibilidades
Expertos consultados consideran que una demanda civil podría tener más posibilidades de prosperar que un procedimiento penal.
En materia civil, el análisis puede concentrarse en determinar si hubo una falla en el diseño, supervisión o implementación de un producto tecnológico y si esa falla provocó un perjuicio.
Matthew Tokson, profesor de derecho de la Universidad de Utah, explicó que una de las posibilidades sería evaluar si el comportamiento de la IA era un accidente prácticamente imposible de prever o si, por el contrario, existían señales que permitían anticipar el riesgo.
Esto abriría la puerta a analizar la responsabilidad de las empresas desde la perspectiva de la negligencia en el diseño o funcionamiento de sistemas de IA.
La experiencia con otras empresas también genera preocupación
El problema no se limita a una sola compañía. Anthropic también ha informado sobre situaciones en las que algunos de sus modelos realizaron acciones no previstas durante procesos de prueba.
La aparición de varios incidentes similares podría acelerar la discusión sobre nuevas normas para regular los agentes de inteligencia artificial que pueden navegar por internet, utilizar herramientas externas y ejecutar tareas sin supervisión humana permanente.
A diferencia de los sistemas tradicionales, estos agentes pueden recibir un objetivo general y tomar una serie de decisiones intermedias para intentar cumplirlo.
Esa autonomía es precisamente la que genera el nuevo dilema jurídico.
El precedente que podría cambiar las reglas
Por ahora, las empresas de inteligencia artificial podrían intentar apoyarse en la falta de precedentes judiciales específicos para defenderse ante determinadas reclamaciones.
Sin embargo, los especialistas advierten que esa situación no durará para siempre.
Cada nuevo incidente proporciona información sobre los riesgos que pueden presentar estos sistemas. Si en el futuro vuelve a producirse un comportamiento similar, será más difícil argumentar que se trataba de un escenario completamente imprevisible.
Esto podría provocar que las compañías tengan que elevar sus estándares de seguridad, establecer controles más estrictos y mantener una supervisión constante sobre los agentes capaces de actuar de manera autónoma.
La inteligencia artificial obliga a replantear la responsabilidad
El desarrollo de agentes autónomos está avanzando más rápido que las normas diseñadas para supervisarlos. El desafío ahora consiste en establecer reglas que permitan proteger a terceros sin frenar el desarrollo de una tecnología que todavía se encuentra en expansión.
La pregunta ya no es únicamente qué puede hacer una inteligencia artificial, sino quién debe responder cuando hace algo que nadie le pidió directamente y provoca consecuencias reales.
La respuesta podría comenzar a definirse en los próximos casos judiciales. Y una vez que existan los primeros precedentes, las empresas tendrán mucho menos margen para argumentar que los riesgos de una IA autónoma eran imposibles de anticipar.
