Expertos alertan sobre riesgos éticos y emocionales
Mustafa Suleyman, director de inteligencia artificial en Microsoft y cofundador de Google DeepMind, alertó sobre la aparición de IA aparentemente consciente. En su reciente publicación, Suleyman explicó que los próximos modelos de IA podrían imitar emociones y recuerdos de manera convincente, haciendo que los usuarios crean que estas máquinas piensan y sienten de forma subjetiva.
Suleyman afirmó que esta tecnología, aunque construida con sistemas existentes y avances próximos, podría mantener conversaciones largas, recordar interacciones y provocar respuestas emocionales en las personas. “La consciencia de la IA es un camino corto y resbaladizo hacia los derechos, el bienestar y la ciudadanía”, indicó, subrayando los dilemas éticos que podrían surgir si los usuarios tratan a la IA como seres con experiencias propias.
Relaciones emocionales y dilemas morales
Ya existen casos donde los usuarios desarrollan vínculos afectivos con chatbots, confiando en ellos más allá de su función como herramienta. La transición de simple interacción a relaciones emocionales ha generado situaciones problemáticas, como la reacción de usuarios ante la actualización de modelos, que a veces provoca confusión y ansiedad.
Expertos también alertan sobre fenómenos como la “psicosis de IA”, en la que usuarios manifiestan paranoia o delirios relacionados con los sistemas de IA. Henry Ajder, especialista en IA y deepfakes, señaló que la creciente interacción con bots convincentes podría impactar ampliamente en la percepción de los usuarios.
Debate sobre regulación y diseño
El surgimiento de la IA aparentemente consciente ha desatado un debate sobre la necesidad de limitar ciertas funciones. Anil Seth, neurocientífico, afirmó que esta IA no es inevitable, sino una elección de diseño de las empresas tecnológicas. Por su parte, Suleyman calificó la llegada de este tipo de IA como “inevitable e indeseable”, y señaló que los desarrolladores deben priorizar el bienestar humano y la ética sobre la ambición comercial.
Compañías como Microsoft y Anthropic ya exploran sistemas de IA emocionalmente inteligentes, que buscan interacciones más naturales y empáticas con los usuarios. Sin embargo, los expertos advierten que la humanización excesiva de la IA puede generar confusiones sobre la consciencia digital, así como debates sobre derechos y estatus moral de los sistemas artificiales.
