X bloquea las búsquedas de Taylor Swift después de que imágenes explícitas de IA de ella se vuelven virales, informa un bbc.
El jefe de operaciones comerciales de X, Joe Benarroch, dijo a la BBC que se trataba de una «medida transitoria» para priorizar la seguridad. Cuando alguien busca Taylor Swift en el sitio web, aparece un mensaje:
Algo salió mal. Intenta recargar.
El precursor de todo esto es que a principios de la semana pasada aparecieron en las redes sociales fotografías falsas del cantante y desde entonces han sido vistas decenas de millones de veces. El caso causó tal revuelo que los políticos estadounidenses exigen nuevas leyes para penalizar la creación de las llamadas imágenes deepfake, es decir, imágenes y vídeos manipulados por inteligencia artificial.
Las publicaciones y cuentas que contenían imágenes deepfake fueron denunciadas por los fanáticos de la cantante, quienes comenzaron a llenar la plataforma con imágenes y videos reales con el texto «protege a Taylor Swift».
El caso levantó mucho polvo
X emitió un comunicado el viernes diciendo que la publicación de desnudos «no consensuales» está «estrictamente prohibida».
Tenemos una política de tolerancia cero para dicho contenido. Nuestro equipo eliminará activamente todas las imágenes identificadas y tomará las medidas adecuadas contra las cuentas responsables de publicarlas.
dice el anuncio.
El asunto llamó la atención de la Casa Blanca, que el viernes calificó de “alarmante” la difusión de fotografías generadas por IA:
Sabemos que la aplicación laxa de la ley afecta desproporcionadamente a las mujeres y, lamentablemente, a las niñas, que son los principales objetivos.
dijo la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, en una rueda de prensa.
Añadió que se debería promulgar legislación para abordar el uso abusivo de la tecnología de inteligencia artificial en las redes sociales, y que las plataformas deberían tomar medidas para prohibir dicho contenido en sus propios sitios web. Los políticos estadounidenses también están presionando para que se adopten nuevas leyes que criminalicen la creación de imágenes profundamente falsificadas.
Los deepfakes utilizan inteligencia artificial para crear un vídeo de alguien manipulando su rostro o cuerpo. Gracias a la llegada de la IA, la creación de imágenes falsas ha aumentado un 550 por ciento desde 2019, según un estudio de 2023.
Aunque se han tomado medidas a nivel estatal para abordar el problema, no existen leyes federales contra el intercambio o la creación de imágenes deepfake en los Estados Unidos. En 2023, como parte de la Ley de Seguridad en Línea, se volvió ilegal compartir pornografía ultrafalsa en el Reino Unido.
Aún no se sabe si X ha utilizado esta herramienta antes, o exactamente cuándo comenzó a bloquear las búsquedas del nombre de Swift.
Debido a lo delicado del tema, no consideramos ético colocar anuncios en este artículo.
Información detallada del Grupo Indamedia en su declaración de seguridad de marca encontrar.