Cómo la inteligencia artificial podría influir en las elecciones
La empresa de tecnología Metro anunció el miércoles (8 de noviembre) que implementará etiquetas para los anuncios políticos que hayan sido alterados digitalmente utilizando inteligencia artificial u otra tecnología, con el objetivo de evitar la posibilidad de engaño.
Esta medida se produce un día después de que Microsoft también anunciara una serie de acciones para proteger las elecciones, como ofrecer herramientas para marcar con agua el contenido generado por IA y establecer un «Equipo de éxito de campaña» para asesorar a las campañas políticas en temas relacionados con la IA y la ciberseguridad.
El próximo año será crucial en términos de elecciones, ya que países como Estados Unidos, India, Reino Unido, México, Indonesia y Taiwán se dirigen a las urnas. Aunque existe preocupación por el impacto que los deepfakes y la desinformación puedan tener en las elecciones, los expertos señalan que hasta ahora hay evidencia limitada de sus efectos en los resultados electorales. Aunque se aplauden las medidas tomadas por las empresas tecnológicas para proteger la integridad electoral, se considera que se necesitan cambios más profundos en los sistemas políticos para abordar el problema de la desinformación.
El papel de la IA en las elecciones anteriores
Las empresas tecnológicas han sido objeto de críticas por su papel en elecciones pasadas. Un informe de Avaaz publicado en 2021 reveló que Meta permitió la difusión de información errónea en su plataforma al cambiar sus algoritmos solo un mes antes de las elecciones presidenciales de Estados Unidos en 2020. Además, Meta ha sido criticada por promover contenido que cuestiona la validez de las elecciones en Brasil en 2022 y por amplificar contenido que podría haber contribuido a violaciones de derechos humanos contra el grupo étnico rohingya en Myanmar.
En los últimos años, el desarrollo de la inteligencia artificial ha avanzado rápidamente. La IA generativa, que permite a los usuarios generar texto, audio y video, se hizo conocida con el lanzamiento de ChatGPT de OpenAI en noviembre de 2022.
La IA generativa ya ha sido utilizada en varios anuncios políticos en Estados Unidos, aunque en cada caso se dejó claro que se utilizaba IA. Por ejemplo, en abril, el Partido Republicano publicó un anuncio generado por IA que mostraba lo que podría suceder si el presidente Joe Biden fuera reelegido. En junio, la cuenta de campaña de Ron DeSantis, gobernador republicano de Florida y candidato presidencial, publicó un video que incluía imágenes generadas por IA del expresidente Donald Trump abrazando al Dr. Anthony Fauci.
Según una encuesta publicada en noviembre, el 58% de los adultos estadounidenses está preocupado de que la IA pueda aumentar la difusión de información falsa durante las elecciones presidenciales de 2024.
Sin embargo, estudios han demostrado consistentemente que la desinformación no ha tenido un impacto medible en los resultados de elecciones anteriores en Estados Unidos. Andreas Jungherr, profesor de ciencias políticas en la Universidad de Bamberg en Alemania, señala que académicos de otras disciplinas, como los estudios de medios y la psicología, tienden a dar más credibilidad a los efectos de la desinformación en las elecciones.
En resumen, la implementación de etiquetas para anuncios políticos alterados digitalmente es un paso importante para evitar la desinformación en las elecciones. Aunque la IA ha sido utilizada en anuncios políticos, se espera que los cambios más fundamentales en los sistemas políticos sean necesarios para abordar el problema de la desinformación de manera más efectiva.
Leer más: La regulación federal de la IA se acerca
La influencia de la IA en las elecciones y la desinformación
Un estudio reciente ha encontrado una relación significativa entre la exposición a la campaña de influencia extranjera rusa en 2016 y cambios en actitudes, polarización y comportamiento electoral. Aunque a menudo se sobreestiman los efectos de la desinformación, es importante reconocer el potencial perjudicial de la inteligencia artificial (IA) en las elecciones y la política en general.
Elizabeth Seger, investigadora del Centro para la Gobernanza de la IA en el Reino Unido, advierte que en el futuro podrían utilizarse objetivos altamente personalizados habilitados por IA junto con agentes de IA extremadamente persuasivos para llevar a cabo campañas de persuasión masiva. Además, la existencia de deepfakes, videos falsos generados por IA, podría erosionar la confianza en fuentes de información clave.
Ejemplos de esto ya se han visto en el pasado. En 2019, un video falso del presidente de Gabón fue utilizado para justificar un intento de golpe de estado. Del mismo modo, un video sospechoso de un ministro del gabinete de Malasia participando en un acto sexual fue neutralizado por reclamos de que había sido alterado por IA.
Protección electoral y medidas tomadas
Hasta ahora, los gobiernos han tomado medidas limitadas para mitigar el impacto de la IA en las elecciones. En los Estados Unidos, se ha introducido una factura en el Congreso que requeriría que los anuncios políticos que utilicen imágenes o videos generados por IA incluyan un descargo de responsabilidad. Sin embargo, aún no se han tomado medidas concretas al respecto.
Las empresas tecnológicas también están comenzando a tomar medidas para abordar este problema. La Casa Blanca ha asegurado compromisos voluntarios de siete empresas líderes en IA, incluidas Meta y Microsoft, para garantizar que los sistemas de IA sean seguros y confiables. Estos compromisos incluyen el desarrollo e implementación de técnicas de procedencia o marcas de agua para contenido generado por IA. Ocho empresas más se han sumado a estos compromisos en septiembre.
Alphabet, la empresa matriz de Google y YouTube, también ha anunciado que requerirá divulgaciones visibles en anuncios políticos que contengan contenido generado sintéticamente no auténtico.
Abordando la desinformación
Según Arvind Narayanan y Sayash Kapoor, profesores e investigadores de la Universidad de Princeton, una IA más capaz no empeorará el problema de la desinformación, ya que el contenido engañoso ya es relativamente fácil de producir. En cambio, sugieren que la mejor manera de abordar este problema es moderar el contenido en las redes sociales y otras plataformas digitales.
A medida que avanzamos hacia futuras elecciones, es crucial que se tomen medidas más sólidas para proteger la integridad de los procesos electorales y garantizar la confianza en la información que se comparte. La regulación y la colaboración entre gobiernos, empresas tecnológicas y expertos en IA serán fundamentales para abordar este desafío en constante evolución.
Las marcas de agua y la procedencia no son suficientes para evitar el mal uso de la IA generativa en la política
Los esfuerzos de los desarrolladores de inteligencia artificial (IA) para proteger la integridad de las elecciones mediante el uso de marcas de agua y la identificación de la procedencia de los modelos de IA pueden ser ineficaces, según expertos en el tema. A pesar de estos intentos, los actores maliciosos pueden acceder fácilmente a modelos de IA que se han publicado abiertamente, como el Llama 2 de Meta, lo que plantea dudas sobre la eficacia de estas medidas de seguridad.
El objetivo de estas empresas al implementar estas medidas es evitar una cobertura negativa y proteger la integridad de las elecciones. Sin embargo, algunos expertos no están convencidos de que estas herramientas logren cambiar el panorama político. «No estoy necesariamente seguro de que esperen que estas herramientas cambien las elecciones», afirma Jungherr, experto en IA.
Desafíos en la divulgación de anuncios políticos generados por IA
La divulgación de anuncios políticos generados por IA también enfrenta desafíos similares. Sacha Altay, investigador del Laboratorio de Democracia Digital de la Universidad de Zurich, considera positivo que los anuncios políticos revelen cuando utilizan IA generativa. Sin embargo, plantea la preocupación de que los actores maliciosos que buscan abusar de esta tecnología no revelen su uso, lo que dificulta su regulación y control.
En última instancia, Altay sostiene que el problema radica en cómo los políticos utilizan el ecosistema de la información para obtener poder y seguidores, incluso si eso implica difundir información errónea. «No creo que haya una solución rápida para este problema», concluye Altay.