La proliferación de contenido falso generado por IA plantea preocupaciones sobre la desinformación
Escándalos políticos falsos generados por IA
En los días previos a las elecciones nacionales en Eslovaquia el mes pasado, un clip de audio comenzó a circular en las redes sociales, aparentemente comprometiendo al líder del Partido Progresista del país, Michal Šimečka. En el clip, se describía un plan para manipular la votación, incluyendo el soborno de miembros de la población romaní marginada del país. Sin embargo, este y otro escándalo político que surgió en el Reino Unido fueron rápidamente desacreditados como contenido falso generado por IA.
La creciente amenaza de contenido falso generado por IA
Los avances en inteligencia artificial han facilitado la generación de audio creíble, lo que ha llevado a la proliferación de contenido falso en la web. Desde actores extranjeros hasta fanáticos de la música, cualquiera puede copiar la voz de alguien y crear contenido engañoso. Esto ha generado discordia, confusión e ira entre los usuarios de plataformas como Facebook y Twitter, donde este tipo de contenido falso sigue circulando.
Tom Hanks y las noticias falsas en TikTok
Incluso celebridades como Tom Hanks han sido víctimas de la falsificación de su voz. El actor advirtió a sus seguidores en las redes sociales sobre el uso indebido de su voz para promover planes dentales falsos. Además, durante el verano, las cuentas de TikTok utilizaron narradores de inteligencia artificial para difundir noticias falsas que erróneamente vinculaban al expresidente Barack Obama con la muerte de su chef personal.
Un proyecto de ley para combatir la falsificación de voces generadas por IA
En respuesta a esta creciente amenaza, un grupo bipartidista de senadores presentó un proyecto de ley llamado Ley de No Falsificaciones. Esta ley penalizaría a las personas que produzcan o distribuyan réplicas generadas por IA de alguien sin su consentimiento. El objetivo es frenar la propagación de contenido falso y proteger a los individuos y a la sociedad de las consecuencias negativas que esto puede tener.
Una crisis de audio
Si bien se ha hablado mucho sobre la proliferación de fotos y videos falsos generados por IA, lo que está emergiendo ahora es una crisis de audio. Expertos advierten que esto tiene graves implicaciones, como violencia, robo de elecciones y fraude. La desinformación generada por IA puede tener consecuencias reales en el mundo, afectando a individuos, sociedades y democracias en general.
«Esto no es hipotético», advierte Hany Farid, profesor de ciencia forense digital en la Universidad de California en Berkeley. «Estamos hablando de violencia, estamos hablando de robo de elecciones, estamos hablando de fraude… [esto tiene] consecuencias en el mundo real para los individuos, las sociedades y las democracias».
La tecnología de clonación de voz amenaza la autenticidad del audio
La proliferación de herramientas de clonación de voz pone en riesgo la veracidad del audio
La tecnología de clonación de voz ha avanzado rápidamente en los últimos años, permitiendo que casi cualquier persona pueda crear una sofisticada campaña de audio desde la comodidad de su hogar. Estas herramientas online baratas y de fácil acceso han hecho que sea difícil para el público en general detectar campañas de audio falsas. A diferencia de las imágenes y los videos, que a menudo tienen imperfecciones notables, como manos deformes y palabras distorsionadas, el audio generado por IA puede ser engañosamente realista.
Según Jack Brewster, investigador de NewsGuard, «Obama todavía parece un poco falso cuando los malos actores usan su cara, pero el audio de su voz es bastante convincente, y creo que esa es la gran diferencia aquí». Esto plantea un desafío para las empresas de redes sociales, ya que los verificadores de datos humanos a menudo tienen dificultades para detectar falsificaciones de audio. Además, pocas empresas de software cuentan con barreras de seguridad efectivas para prevenir el uso ilícito de esta tecnología.
Anteriormente, el software de clonación de voz generaba voces robóticas y poco realistas. Sin embargo, con el avance de la potencia informática y el refinamiento del software, ahora es posible analizar millones de voces, detectar patrones en unidades elementales del habla (fonemas) y replicarlos en cuestión de segundos. Empresas como Eleven Labs ofrecen herramientas en línea que permiten a cualquier persona cargar unos segundos de la voz de alguien, escribir el texto que desean que se diga y crear rápidamente una voz deepfaked por una suscripción mensual de cinco dólares.
El audio generado por IA se convierte en una herramienta de desinformación
Durante años, los expertos han advertido sobre el peligro de los videos «deepfake» impulsados por inteligencia artificial, que pueden hacer que figuras políticas parezcan haber dicho o hecho cosas dañinas. Sin embargo, recientemente se ha observado un aumento en el uso de audio generado por IA para difundir desinformación. Un ejemplo destacado ocurrió en Eslovaquia, donde se difundió un audio falso de figuras políticas.
En Facebook, se compartió un segmento de audio que parecía mostrar a dos personas hablando sobre una imagen fija de sus respectivos rostros. Tanto Šimečka como el periodista negaron que el audio fuera auténtico, y una revisión de hechos de la agencia de noticias Agence France-Presse determinó que probablemente fue generado total o parcialmente por herramientas de inteligencia artificial. Aunque Facebook colocó una etiqueta de advertencia sobre el video antes de las elecciones, señalando que había sido desacreditado, la compañía decidió no eliminarlo, argumentando que no violaba sus políticas sobre medios manipulados.
La proliferación de herramientas de clonación de voz y el uso de audio generado por IA plantean serias preocupaciones sobre la autenticidad y la confianza en el contenido digital. A medida que esta tecnología continúa avanzando, es crucial que las empresas de redes sociales y los desarrolladores de software implementen medidas efectivas para detectar y prevenir el uso indebido de audio clonado.
Investigación encuentra audio falso en redes sociales antes de las elecciones
Una investigación realizada por Reiniciar, una organización sin fines de lucro con sede en Londres que estudia el impacto de las redes sociales en la democracia, ha descubierto varios ejemplos de audio falso en Facebook, Instagram, Telegram y TikTok en los días previos a las elecciones. Uno de estos ejemplos es un anuncio del partido de extrema derecha Republika, en el que una voz similar a la de Šimečka afirma que solía creer en 70 géneros y en hombres embarazados, pero que ahora apoya a Republika. Al final del anuncio se aclara que las voces son ficticias.
Video sin verificar acumula miles de visitas en Facebook
Un video sin verificar, que aparece en Facebook como un anuncio del líder del partido de la República, ha acumulado entre 50.000 y 60.000 visitas en los tres días previos a las elecciones, según la biblioteca de anuncios de Facebook.
Partido populista prorruso gana en las elecciones parlamentarias
En las elecciones parlamentarias, el partido populista prorruso del país ha superado al partido progresista de Šimečka en la mayoría de los escaños. Como resultado, Eslovaquia ha suspendido la ayuda militar a Ucrania.
El impacto de las falsificaciones de voz generadas por IA en las elecciones
Aunque no está claro qué efecto tuvieron las falsificaciones de voz generadas por IA en el resultado de las elecciones, Rolf Fredheim, científico de datos y experto en desinformación rusa que participó en la investigación, señala que su propagación en Eslovaquia indica que es probable que esta técnica se utilice más en futuras elecciones en Europa y otros lugares.
Clip de audio falso de líder laborista del Reino Unido sin verificar
Un clip de audio supuestamente falso del líder laborista del Reino Unido, Keir Starmer, que podría convertirse en el próximo primer ministro, permanece sin verificar y sin etiqueta de advertencia en una plataforma.
Preocupaciones sobre el uso de contenido generado por IA en anuncios políticos
Las preocupaciones sobre el uso de contenido generado por IA en anuncios políticos no se limitan a Europa. Legisladores estadounidenses han expresado serias preocupaciones sobre esta práctica y han propuesto leyes que exigen un descargo de responsabilidad en los anuncios políticos que utilizan imágenes o videos generados por IA.
Comisario de la Unión Europea presiona a Meta para evitar deepfakes
El comisario de la Unión Europea, Thierry Breton, ha enviado una carta al director ejecutivo de Meta, Mark Zuckerberg, instándolo a tomar medidas para evitar la proliferación de deepfakes. Mientras tanto, países como Polonia, Países Bajos y Lituania se preparan para sus próximas elecciones.
La advertencia de las celebridades sobre los deepfakes de IA
Las teorías de conspiración generadas por audio de IA también se están difundiendo ampliamente en las plataformas de redes sociales.
Las redes sociales y la proliferación de información errónea generada por IA
En septiembre, NewsGuard descubrió que 17 cuentas en TikTok estaban utilizando software de conversión de texto a voz con inteligencia artificial para crear videos que promovían información falsa. Estos videos habían obtenido más de 336 millones de visitas y 14,5 millones de me gusta.
Informes falsos y desinformación
En los últimos meses, estas cuentas han utilizado narradores de inteligencia artificial para difundir informes de noticias falsas. Algunas de las afirmaciones incluyen que Obama estaba relacionado con la muerte de su chef personal, que Oprah Winfrey es una «comerciante sexual» y que el actor Jamie Foxx quedó paralizado y ciego debido a la vacuna contra el coronavirus. TikTok solo eliminó estos videos después de enterarse de su existencia.
La respuesta de TikTok
Ariane de Selliers, portavoz de TikTok, declaró que la empresa requiere que los creadores etiqueten el contenido generado por IA y fue la primera plataforma en desarrollar herramientas para ayudar a los creadores a hacerlo. Reconocen el potencial de la IA para mejorar la creatividad.
El desafío de los deepfakes de voz
Los deepfakes de voz presentan un desafío único, ya que no son tan fáciles de detectar como los videos o imágenes generados por IA. Estos últimos a menudo muestran anomalías evidentes, como personas con ocho dedos. Sin embargo, las empresas que crean herramientas de conversión de texto a voz con IA tienen software para identificar si una muestra de voz está generada por IA, aunque estos sistemas no son ampliamente utilizados por el público.
El aumento de la falsificación de voces de IA en idiomas extranjeros
El software de voz ha mejorado en la replicación de idiomas extranjeros debido a un mayor número de conjuntos de datos con audio en idiomas distintos al inglés. Esto ha llevado a un aumento en las campañas de falsificación de voces de IA en países que pueden estar experimentando guerra o inestabilidad. Por ejemplo, en Sudán, se difundieron supuestas grabaciones de voz filtradas del ex líder del país, Omar al-Bashir, causando confusión entre los ciudadanos debido a la creencia de que Bashir está gravemente enfermo.
La falta de verificadores de datos en países con redes sociales dominantes
En países donde las plataformas de redes sociales pueden sustituir a Internet, no existe una red sólida de verificadores de datos que operen para garantizar que las personas sepan que un clip de sonido viral es falso. Esto hace que los deepfakes en idiomas extranjeros sean particularmente dañinos.
El impacto en la música y los fanáticos
Recientemente, los fanáticos de Harry Styles se han sentido confundidos debido a la aparición de supuestos fragmentos «filtrados» de canciones de Styles y One Direction en el canal de mensajería Discord. Estas canciones se vendieron a fanáticos ansiosos por cientos de dólares cada una. Sin embargo, varios «súper fans» analizaron rápidamente la música y argumentaron que las canciones eran audio generado por IA.
En resumen, la proliferación de información errónea generada por IA en las redes sociales plantea desafíos significativos. Las plataformas deben tomar medidas para combatir esta desinformación y garantizar que los usuarios puedan distinguir entre contenido real y falso.
Investigación revela filtración de canciones de Harry Styles generadas por IA
¿Son reales o falsificaciones?
404 Medios llevó a cabo una investigación exhaustiva sobre la filtración de canciones de Harry Styles, exintegrante de One Direction, y descubrió que algunas muestras parecían legítimas, mientras que otras eran consideradas «incompletas». Ante esta situación, los representantes de Styles no han respondido a las solicitudes de comentarios para confirmar si el audio filtrado es real o una falsificación generada por inteligencia artificial (IA).
Esta filtración ha generado gran revuelo entre los seguidores del cantante, quienes esperan ansiosos su próximo lanzamiento musical. Sin embargo, la incertidumbre sobre la autenticidad de estas canciones ha dejado a muchos con dudas y expectativas encontradas.
Responsabilidad de las empresas de redes sociales
En medio de esta controversia, el profesor Farid de la Universidad de California en Berkeley ha señalado que la responsabilidad final recae en las empresas de redes sociales. Según él, estas plataformas son las encargadas de la distribución y amplificación del contenido, por lo que deben asumir un rol más activo en la detección y eliminación de información falsa.
Aunque diariamente se suben millones de publicaciones a estas redes sociales, la desinformación más inteligente proviene de un puñado de perfiles con un gran número de seguidores. Sorprendentemente, las empresas no tienen incentivos para eliminar estos perfiles, ya que representan un gran volumen de usuarios y generan beneficios económicos.
El dilema de las empresas de redes sociales
Ante las críticas, las empresas de redes sociales se defienden argumentando que están tomando medidas para combatir la desinformación, pero reconocen que aún queda mucho por hacer. El profesor Farid sostiene que estas compañías podrían cerrar el grifo de la desinformación si así lo desearan, pero esto afectaría sus intereses comerciales.
En conclusión, la filtración de canciones de Harry Styles generadas por IA ha generado un debate sobre la autenticidad del contenido y la responsabilidad de las empresas de redes sociales en la difusión de información falsa. Mientras tanto, los seguidores del cantante esperan ansiosos por una respuesta oficial que aclare esta situación y les brinde certeza sobre el futuro musical de su ídolo.