El fin de semana pasado, Taylor Swift se convirtió en víctima de deepfakes sexuales generados por inteligencia artificial, los cuales se difundieron ampliamente en la red social de Elon Musk. Ante esta situación, la red social X, anteriormente conocida como Twitter, ha optado por bloquear las búsquedas relacionadas con la cantante estadounidense debido a la viralización de imágenes de carácter sexual.
Las imágenes en cuestión fueron creadas con la ayuda de Designer, una herramienta de inteligencia artificial desarrollada por Microsoft. Aunque la empresa no ha confirmado explícitamente que las imágenes se generaron en su plataforma, ha tomado medidas para restringir el uso de palabras explícitas en la descripción, limitando así la capacidad de la herramienta para crear contenido de este tipo.
Investigación de 404 Media
Tras una investigación, 404 Media reveló que la inteligencia artificial utilizando Designer produjo las deepfakes de Taylor Swift. Estas imágenes se propagaron inicialmente en un foro de 4chan y un canal de Telegram, donde circulaban contenidos explícitos generados artificialmente.
La respuesta de Microsoft ante esta situación fue que estaban “tomando las medidas adecuadas” para evitar que estas acciones se repitieran. La firma de Redmond ha decidido restringir la herramienta Designer para prevenir la creación de contenido similar en el futuro.
X limitó las búsquedas relacionadas
En respuesta a la viralización a través de X, la plataforma ha decidido limitar temporalmente ciertas búsquedas relacionadas con Taylor Swift, con el objetivo de frenar la propagación de las deepfakes de la cantante. Sin embargo, no se ha especificado cuándo se levantará esta restricción en el buscador de la plataforma.
Adicionalmente, X ha eliminado las imágenes de IA que utilizaban el rostro de Taylor Swift. Asimismo, el de otros personajes públicos que también se vieron afectados en la red social de Elon Musk. A pesar de las medidas tomadas por Microsoft y X, en el canal de Telegram donde se originaron las imágenes, continúan circulando deepfakes explícitos de famosos generados con inteligencia artificial.
Recibe las mejores noticias diariamente en tu celular. Sólo sigue el canal en WhatsApp:
