La plataforma de redes sociales X de Elon Musk ha bloqueado algunas búsquedas de Taylor Swift debido a que han circulado en línea imágenes pornográficas deepfake de la cantante.
Los intentos de buscar su nombre sin comillas en el sitio el lunes dieron como resultado un mensaje de error y un mensaje para que los usuarios volvieran a intentar su búsqueda, que agregaba: «No te preocupes, no es tu culpa».
Sin embargo, poner comillas alrededor de su nombre permitió que aparecieran publicaciones que mencionaran su nombre.
Imágenes falsas sexualmente explícitas y abusivas de Swift comenzaron a circular ampliamente la semana pasada en X, convirtiéndola en la víctima más famosa de un flagelo que las plataformas tecnológicas y los grupos anti-abuso han luchado por solucionar.
«Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema», dijo Joe Benarroch, jefe de operaciones comerciales de X, en un comunicado.
A diferencia de las imágenes manipuladas más convencionales que han preocupado a las celebridades en el pasado, las imágenes de Swift parecen haber sido creadas utilizando un generador de imágenes de inteligencia artificial que puede crear instantáneamente nuevas imágenes a partir de un mensaje escrito.
Después de que las imágenes comenzaron a difundirse en línea, la devota base de fans de “Swifties” de la cantante se movilizó rápidamente, lanzando una contraofensiva contra X y un hashtag #ProtectTaylorSwift para inundarlo con imágenes más positivas de la estrella del pop. Algunos dijeron que estaban denunciando cuentas que compartían los deepfakes.
El grupo de detección de deepfake Reality Defender dijo que rastreó una avalancha de material pornográfico no consensuado que representa a Swift, particularmente en X, antes conocido como Twitter. Algunas imágenes también llegaron a Facebook, propiedad de Meta, y a otras plataformas de redes sociales.
Las imágenes de Swift surgieron por primera vez de una campaña en curso que comenzó el año pasado en plataformas marginales para producir imágenes sexualmente explícitas de mujeres famosas generadas por IA, dijo Ben Decker, fundador del grupo de inteligencia sobre amenazas Memetica. Una de las imágenes de Swift que se volvió viral la semana pasada apareció en línea el 6 de enero, dijo.
La mayoría de los generadores comerciales de imágenes de IA tienen salvaguardias para evitar el abuso, pero los comentaristas en foros de mensajes anónimos discutieron tácticas sobre cómo eludir la moderación, especialmente en la herramienta de conversión de texto a imagen de Microsoft Designer, dijo Decker.
Microsoft dijo en un comunicado el lunes que «continuará investigando estas imágenes y ha fortalecido nuestros sistemas de seguridad existentes para evitar aún más que nuestros servicios sean utilizados indebidamente para ayudar a generar imágenes como estas».
Decker dijo que «es parte de una relación de confrontación de larga data entre trolls y plataformas».
“Mientras existan las plataformas, los trolls intentarán perturbarlas”, dijo. “Y mientras existan los trolls, las plataformas se verán perturbadas. Entonces la pregunta realmente es: ¿cuántas veces más va a suceder esto antes de que haya algún cambio serio?
La decisión de X de reducir las búsquedas de Swift es probablemente una medida provisional.
«Cuando no estás seguro de dónde está todo y no puedes garantizar que todo haya sido retirado, lo más simple que puedes hacer es limitar la capacidad de la gente para buscarlo», dijo.
Los investigadores han dicho que la cantidad de deepfakes explícitos ha aumentado en los últimos años, a medida que la tecnología utilizada para producir tales imágenes se ha vuelto más accesible y fácil de usar.
En 2019, un informe publicado por la firma de inteligencia artificial DeepTrace Labs mostró que estas imágenes estaban abrumadoramente utilizadas como arma contra las mujeres. La mayoría de las víctimas, dijo, eran actores de Hollywood y cantantes de K-pop surcoreanos.
En la Unión Europea, distintas leyes nuevas incluyen disposiciones para los deepfakes. La Ley de Servicios Digitales, que entró en vigor el año pasado, exige que las plataformas en línea tomen medidas para frenar el riesgo de difundir contenido que viole “derechos fundamentales” como la privacidad, como imágenes “no consensuales” o pornografía deepfake. La Ley de Inteligencia Artificial del bloque de 27 naciones, que aún espera la aprobación final, requerirá que las empresas que crean deepfakes con sistemas de inteligencia artificial también informen a los usuarios que el contenido es artificial o está manipulado.