Si bien la inteligencia artificial (IA) ha influido en muchos campos, los “bots generadores de voz” están resultando útiles en otro rincón inesperado de Internet: los movimientos extremistas. Según los expertos, estas organizaciones pueden aumentar su alcance e influencia recreando las voces y discursos de sus líderes clave a través de inteligencia artificial.
Según el periódico británico The Guardian, Lucas Weber, un alto analista de inteligencia asociado con Tech Against Terrorism, una organización que monitorea las actividades terroristas en línea, ha hecho revelaciones inteligentes al respecto.
El uso de tecnología de voz y traducción basada en inteligencia artificial por parte de grupos terroristas y extremistas marca un cambio significativo en las tácticas de propaganda digital, dijo Lucas Weber.
Dice que en el pasado estos grupos dependían de la traducción automática simple, que se limitaba a transmitir con precisión el lenguaje, el estilo y las emociones, pero ahora, con la ayuda de herramientas avanzadas de inteligencia artificial generativa, estos grupos están produciendo traducciones que pueden mantener el tono, la emoción y la intensidad ideológica en todos los idiomas.
Según el análisis, el uso de software de clonación de voz basado en inteligencia artificial ha crecido rápidamente en los círculos neonazis de extrema derecha, donde las versiones en inglés de los discursos de Adolf Hitler han sido escuchadas cientos de millones de veces en X, Instagram, TikTok y otras plataformas.
Según un informe de investigación publicado en noviembre pasado por la Red Global sobre Extremismo y Tecnología, los servicios de clonación de voz en particular que crean contenido extremista utilizan el software «Eleven Labs», que alimenta el habla alemana segura de la era nazi y luego la transforma en una voz similar a la de Hitler en inglés.
Los grupos aceleracionistas neonazis, que aspiran a destruir el orden social mediante el terrorismo contra los gobiernos occidentales, utilizan estas tecnologías para difundir sus mensajes violentos de forma moderna. En este contexto, a finales de noviembre, el libro «Sage», escrito por James Mason, considerado la base ideológica de muchas organizaciones extremistas, fue convertido en un audiolibro con la ayuda de la inteligencia artificial.
El influencer neonazi, creador del mismo audiolibro activo en X y Telegram, afirmó haber adaptado los escritos y las cartas antiguas de James Mason a una voz moderna con la ayuda de herramientas de inteligencia artificial. Según él, escuchar textos de la era anterior a Internet con la voz actual influye profundamente en su teoría.
Durante su apogeo en la década de 1920, la organización Base también fundó un club de lectura basado en el libro Sage, que inspiró a algunos miembros a imaginar una hipotética guerra contra el gobierno de Estados Unidos. Ese mismo año, una investigación antiterrorista del FBI a nivel nacional llevó a que más de una docena de miembros de la organización fueran acusados de terrorismo.
Aunque el creador del audiolibro ha producido contenido de IA antes, la historia de Sage lo hace particularmente peligroso, ya que ha fomentado la violencia y ha sido una lectura obligatoria para muchos grupos terroristas neonazis, según el analista del Counter Extremism Project, Joshua Fisher Birch.
Según Lucas Weber, otras redes de medios también están haciendo que su publicidad sea más efectiva mediante el uso de inteligencia artificial para convertir el contenido ideológico oficial en formato de texto a voz, transformando la propaganda escrita en contenido multimedia sólido.
#tecnología #inteligencia #artificial #convierte #nueva #arma #las #organizaciones #extremistas #advierten #los #expertos