TikTok, la popular plataforma de videos cortos, ha anunciado planes para implementar una tecnología que permitirá etiquetar imágenes y videos generados por inteligencia artificial (IA). Esta iniciativa busca abordar preocupaciones sobre la posible desinformación y manipulación de contenidos, especialmente en el contexto de las próximas elecciones estadounidenses.
Credenciales de Contenido: Una Marca de Agua Digital
La nueva tecnología, conocida como “credenciales de contenido”, consiste en una marca de agua digital que proporciona información sobre cómo se crearon y editaron las imágenes y videos. TikTok adoptará esta medida para ayudar a los usuarios a identificar el contenido generado por IA de manera más transparente.
Colaboración con Adobe y OpenAI
Las credenciales de contenido fueron desarrolladas inicialmente por Adobe, pero están abiertas a otras empresas. Empresas como OpenAI, conocida por su modelo de lenguaje ChatGPT, ya han adoptado esta tecnología. TikTok se une a la lista de plataformas que implementarán estas credenciales, incluidas YouTube (propiedad de Google) y Meta Platforms (dueña de Instagram y Facebook).
Combatiendo la Desinformación
El anuncio de TikTok se produce en medio de crecientes preocupaciones sobre el uso de contenido generado por IA para difundir desinformación y manipular opiniones, especialmente durante eventos políticos importantes como las elecciones estadounidenses. La plataforma se ha comprometido a combatir este problema y ya forma parte de un grupo de empresas tecnológicas que han acordado tomar medidas al respecto.
Funcionamiento del Sistema
Para que el sistema de credenciales de contenido funcione, tanto el fabricante de la herramienta de IA como la plataforma que distribuye el contenido deben adoptar el estándar del sector. Por ejemplo, si una imagen generada por la herramienta Dalle de OpenAI se sube a TikTok, automáticamente se etiquetará como generada por IA.
Compromiso con la Transparencia y Seguridad
Adam Presser, jefe de operaciones y confianza y seguridad de TikTok, enfatizó que la plataforma también cuenta con políticas que prohíben la difusión de contenido generado por IA no etiquetado. Cualquier contenido que viole estas políticas será eliminado para garantizar la integridad y seguridad de la comunidad de TikTok.
La implementación de etiquetas para contenido generado por IA marca un paso importante hacia una mayor transparencia y responsabilidad en las plataformas digitales, especialmente en un momento en el que la desinformación es una preocupación creciente.
