Gatra Priyandita describe estrategias para que los países de la ASEAN adopten responsablemente el uso de inteligencia artificial en el ejército y las fuerzas del orden.
De Israel “El Evangelio”sistema de caza de objetivos hasta su uso cada vez más sofisticado para datos del campo de batalla mineros En Ucrania, la inteligencia artificial (IA) ya está profundamente incorporada a la defensa y la guerra.
La comunidad internacional ha respondido con una avalancha de cumbres para debatir acuerdos bilaterales, minilaterales y global acuerdos para combatir los efectos cada vez más destructivos de la IA, incluso en áreas como sistemas de armas letales autónomas y vigilancia. Mientras la comunidad internacional debate cuál es la mejor manera de imponer restricciones normativas y legales a las aplicaciones militares de la IA, los estados miembros de la ASEAN no sólo deben llamar activamente a la acción a nivel internacional, sino también trabajar para considerar seriamente cómo su creciente uso de la IA no hace un mal uso de las tecnologías de la información y la comunicación. (TIC) y las normas que sus estados miembros se esfuerzan por defender.
Aplicaciones militares y policiales de AI
En febrero de 2024, la Reunión de Ministros Digitales de la ASEAN lanzado las Directrices de IA de la ASEAN, que establecen principios que incluyen equidad, privacidad, transparencia, seguridad y protección en el uso y desarrollo de la IA en el Sudeste Asiático. Estas directrices se introdujeron dado el rápido aumento en la adopción de IA en la región. Kearney estimados que la adopción de la IA entre las empresas del sudeste asiático podría tener un aumento del 10 al 18 por ciento del PIB para 2030, equivalente a casi 1 billón de dólares. La promesa de la IA para los gobiernos, la industria y la sociedad radica en su posible uso para impulsar la innovación y el crecimiento económico y abordar problemas de larga data asociados con la ineficiencia y la seguridad.
Al mismo tiempo, la IA ofrece muchas promesas a los militares y a las fuerzas del orden, desde monitorear el dominio marítimo hasta mejorar el control fronterizo. Por ejemplo, el ejército de Singapur ya ha incorporado la IA en su postura y capacidades de defensa. En un ejercicio bienal que se realizará en 2023 en los Estados Unidos, Singapur exhibido algunos de sus nuevos equipos impulsados por IA, incluidos vehículos terrestres autónomos y drones. Singapur también está trabajando para desarrollar submarinos y sistemas marítimos autónomos (incluidos algunos proyectos con Australia) y ha incorporado sistemas de inteligencia artificial para mejorar el entrenamiento de los soldados, la logística de defensa y la recopilación de inteligencia. Aunque está muy por detrás de Singapur en el desarrollo de sus capacidades de IA, Indonesia también busca integrar la IA con sus capacidades militares, adquiriendo 13 radares militares de largo alcance habilitados para IA de Tales y 12 drones de vigilancia y reconocimiento de la industria aeroespacial turca.
En otros lugares, la Policía Real Tailandesa explora el posible uso de la IA para mejorar su lucha contra el crimen transnacional, especialmente mediante la incorporación de IA en el sistema de identificación biométrica de la Oficina de Inmigración. La Administración Metropolitana de Bangkok y la Policía Real Tailandesa también están incorporando cámaras AI para detectar e identificar carteristas en Bangkok. La policía filipina también está analizando la utilidad potencial de la IA; recientemente, el jefe de la policía nacional anunció que estaba estudiando la posibilidad de crear una plan quinquenal de desarrollo sobre el uso de la IA para estrategias policiales inteligentes.
Las regiones interés en “ciudades inteligentes” está impulsando un crecimiento potencial en el uso de la IA por parte de las fuerzas del orden. Esto es especialmente cierto ya que los proyectos de ciudades inteligentes a menudo implementan e integran tecnologías de vigilanciacomo sensores y sistemas de recopilación de datos biométricos, para mejorar la seguridad pública.
Para los militares y las fuerzas del orden, el poder de la IA reside en su capacidad para mejorar la eficiencia, aumentar las capacidades operativas y limitar los riesgos para el personal humano. Por ejemplo, desplegar drones submarinos autónomos para misiones de reconocimiento es mucho menos riesgoso que tener submarinos convencionales con submarinistas humanos, especialmente en tiempos de guerra, cuando los conflictos podrían provocar víctimas humanas.
Sin embargo, estas poderosas tecnologías también conllevan riesgos importantes, como posibles sesgos en los sistemas de vigilancia y las capacidades de vigilancia masiva. En el sudeste asiático ya existe evidencia de sesgo de IA, como reconocimiento defectuoso de voz e imágenes, así como evaluaciones sesgadas del riesgo crediticio. Estos sesgos algorítmicos a menudo conducen a resultados injustos, como aquellos que desproporcionadamente afectan a grupos étnicos minoritarios debido a datos sesgados. Estas tecnologías, si no se controlan, podrían exacerbar las desigualdades existentes e incluso conducir a nuevas formas de opresión.
Además, durante tiempos de guerra, los efectos de la IA pueden ser aún más devastadores, ya que la dependencia de estas tecnologías puede reducir la participación humana en la recopilación de datos, el análisis y la toma de decisiones. Esto no sólo plantea interrogantes sobre el futuro de la rendición de cuentas, sino que también puede aumentar la probabilidad de cometer errores, ya que las conclusiones y evaluaciones de AI no siempre son perfectas.
Pensando en la responsabilidad
La idea de que fuerzas malignas pueden convertir las tecnologías digitales y emergentes en armas no es nueva. En respuesta a la creciente militarización del ciberespacio, la comunidad internacional, a través de la ONU, acordó un marco para el comportamiento estatal responsable en el ciberespacio. Este marco reconoce que el derecho internacional se aplica a las actividades estatales en el ciberespacio y afirma un conjunto de 11 normasmedidas de fomento de la confianza y un compromiso colectivo con el fomento de la capacidad.
La ASEAN se destaca como el única organización regional suscribirse en principio a las 11 normas de la ONU, impulsado por la preocupación de que el uso indebido de las TIC por parte de actores estatales pueda socavar los esfuerzos de transformación digital en el Sudeste Asiático. En medio del debate sobre la IA, los gobiernos del sudeste asiático abogan por restricciones legales y normativas a las aplicaciones militares de la IA. Sin embargo, más allá de pedir a la comunidad internacional que se comprometa con un comportamiento responsable, los gobiernos del sudeste asiático deben reflexionar seriamente sobre cómo garantizarían que no se haga un mal uso de la IA a nivel nacional.
En primer lugar, los gobiernos del sudeste asiático deben considerar cómo se puede utilizar la IA de manera responsable dentro de sus propios sistemas de seguridad. Más allá de comprometerse con un conjunto de directrices y principios que garanticen que los funcionarios militares y encargados de hacer cumplir la ley se comprometan con principios clave como la privacidad, los funcionarios deben establecer directrices claras sobre el uso de la IA. Los funcionarios gubernamentales deben trabajar con el aparato de seguridad para garantizar que el uso militar y policial de la IA sea coherente con las obligaciones nacionales en virtud del derecho internacional. Deben establecerse directrices específicas para delinear cómo se debe incorporar y garantizar la acción humana en el proceso de toma de decisiones, particularmente cuando se trata del uso de la fuerza.
En segundo lugar, el uso de la IA debe ir acompañado de una supervisión activa por parte de los parlamentarios, la sociedad civil y la comunidad de expertos. Los políticos deben participar más activamente en las cuestiones relativas a la IA, en particular en las relativas a la privacidad y la protección de datos. La comunidad de expertos debería colaborar estrechamente con el gobierno para desarrollar y articular principios autóctonos de IA. Estos principios guiarían el uso ético y eficaz de las tecnologías de IA por parte de las agencias de seguridad, garantizando que la IA se utilice de manera que se alinee con los valores nacionales y los intereses públicos, manteniendo al mismo tiempo altos estándares de responsabilidad y transparencia.
En tercer lugar, cada aparato de seguridad debe estar atento a los sistemas de inteligencia artificial utilizados en su contra. El auge de los grandes modelos lingüísticos (LLM) marca una nueva era en la guerra cibernética, permitiendo a los estados y a los piratas informáticos violar las redes de manera más efectiva. Las regulaciones deben abordar los ataques habilitados por IA, especialmente porque el ejército y las fuerzas del orden son los objetivos principales. Los gobiernos y las entidades privadas del sudeste asiático ya se encuentran entre las entidades más espiadas del mundo, con 15 por ciento de todas las entidades privadas objetivo en operaciones cibernéticas patrocinadas por estados en el sudeste asiático en 2020. Dada la importancia estratégica de la región, la amenaza solo se amplificará. Al reflexionar sobre cómo se puede utilizar indebidamente la IA contra la seguridad nacional, los Estados pueden mejorar su capacidad para responder de manera más significativa en el ciberespacio. Por ejemplo, las Fuerzas de Defensa de Filipinas han prohibido el uso de aplicaciones digitales que aprovechan la IA para generar retratos personales. Este tipo de esfuerzos en los que los gobiernos abordan los riesgos de las amenazas habilitadas por la IA serán más importantes en los próximos años.
Finalmente, la cooperación regional es esencial para identificar y compartir estrategias para prevenir la militarización del ciberespacio y la IA. Esto significa iniciar debates gubernamentales sobre el uso de la IA en los ámbitos militar y policial. Estas plataformas podrían utilizarse para compartir mejores prácticas sobre mecanismos de supervisión y servir como medida de fomento de la confianza, alentando a los Estados miembros a ser transparentes sobre cómo se utiliza la IA en el ámbito de la seguridad. Fundamentalmente, estas iniciativas también deberían involucrar a expertos y a la sociedad civil para garantizar que se escuchen las perspectivas más allá de las de los gobiernos.
Iniciar una conversación sobre el uso responsable de la IA en el ejército y las fuerzas del orden será un desafío, especialmente en una región donde la soberanía es primordial. Sin embargo, para que los estados miembros de la ASEAN demuestren verdaderamente que están comprometidos con un comportamiento estatal responsable en el ciberespacio, deben demostrar responsabilidad en el uso de la IA a nivel nacional.