La plataforma de redes sociales X, anteriormente conocida como Twitter, ha tomado medidas para limitar la difusión de imágenes explícitas deepfake de Taylor Swift después de que se volvieron virales la semana pasada.
En medio de las protestas de los fanáticos de Swift en las redes sociales, los legisladores y el sindicato de actores SAG-AFTRA, X hizo que el nombre de la ganadora del Grammy no fuera visible en su plataforma durante el fin de semana. A partir del lunes por la tarde, al buscar el nombre de Swift sin comillas se genera una página de error que dice: “Algo salió mal. Intenta recargar.»
«Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema», dijo Joe Benarroch, jefe de operaciones comerciales de X, en un comunicado compartido con La Prensa Asociada.
La semana pasada, circularon en X varias imágenes explícitas generadas por IA del cantante de “Bejeweled” y “Cruel Summer”. Las imágenes manipuladas eran pornográficas y hacían referencia al romance de alto perfil del hombre de 34 años con el ala cerrada de los Kansas City Chiefs, Travis Kelce.
Horas después de que aparecieran las imágenes el jueves, el equipo de seguridad de X usuarios recordados de su “política de tolerancia cero” al compartir “imágenes de desnudos no consensuales (NCN)”. La declaración, que no menciona explícitamente a Swift, también decía que los usuarios que publicaron las imágenes serían responsables.
«Estamos monitoreando de cerca la situación para garantizar que cualquier otra infracción se aborde de inmediato y que el contenido se elimine», agregó la cuenta de seguridad de X. «Estamos comprometidos a mantener un entorno seguro y respetuoso para todos los usuarios».
La nueva acción de búsqueda restringida de X no está exenta de errores. A partir del lunes por la tarde, buscar el nombre completo de Swift entre comillas o agregar palabras adicionales al final de la frase de búsqueda «Taylor Swift» evoca publicaciones, respuestas e imágenes como de costumbre, incluidas falsificaciones gráficas de Swift.
El director ejecutivo de Tesla, Elon Musk, que se hizo cargo oficialmente de Twitter en octubre de 2022, hizo cortes al equipo de moderación de la plataforma, que tenía la tarea de hacer cumplir las reglas contra el contenido dañino.
Un representante de X no respondió de inmediato el lunes a la solicitud de comentarios del Times.
Swift aún no se ha referido públicamente a las imágenes explícitas, pero la controversia reavivó las conversaciones sobre la inteligencia artificial y la necesidad de una mayor supervisión, especialmente porque la creación de imágenes de IA continúa afectando abrumadoramente a mujeres y niños.
«La difusión de imágenes explícitas de Taylor Swift generadas por IA es atroz y, lamentablemente, les está sucediendo a las mujeres en todas partes, todos los días», dijo el representante de Nueva York Joe Morelle. dicho en un tweet del jueves.
“Es explotación sexual”, añadió, antes de promocionar su propuesta de Ley para prevenir la falsificación profunda de imágenes íntimas, una factura eso haría ilegal compartir pornografía deepfake sin el consentimiento de las personas retratadas.
La noticia de las imágenes de Swift AI hizo sonar las campanas, ya que el director ejecutivo de Microsoft, Satya Nadella, y la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, por separado. abordó la controversia el viernes.
“Esto es muy alarmante. Por eso, haremos todo lo que podamos para abordar este problema”, afirmó Jean-Pierre durante una rueda de prensa, según informó Reuters. «Entonces, si bien las empresas de redes sociales toman sus propias decisiones independientes sobre la gestión de contenidos, creemos que tienen un papel importante que desempeñar en hacer cumplir sus propias reglas para evitar la difusión de información errónea y de imágenes íntimas y no consensuadas de personas reales».
SAG-AFTRA, que estableció términos relacionados con la inteligencia artificial en su contrato de 2023, calificó las imágenes de IA de Swift como «perturbadoras, dañinas y profundamente preocupantes».
«El desarrollo y la difusión de imágenes falsas, especialmente aquellas de naturaleza lasciva, sin el consentimiento de alguien debe ser ilegal», dijo el sindicato. dijo en un comunicado del viernes. «Como sociedad, tenemos en nuestro poder controlar estas tecnologías, pero debemos actuar ahora antes de que sea demasiado tarde».