La inteligencia artificial desafía el control gubernamental en la cumbre histórica de Bletchley Park
El legado de Bletchley Park
En medio del terror que Adolf Hitler sembraba en Europa, el gobierno británico recurrió a Bletchley Park, un complejo secreto al noroeste de Londres, para descifrar los códigos nazis. Los esfuerzos de este lugar histórico cambiaron el rumbo de la guerra y sentaron las bases para la computadora moderna.
La realidad moderna de la inteligencia artificial
En una cumbre histórica celebrada en Bletchley Park, representantes de países de seis continentes se enfrentaron a una realidad desconcertante: los gobiernos ya no tienen el control de la innovación estratégica, especialmente en el campo de la inteligencia artificial. Esta tecnología, que puede alterar el curso de las democracias y determinar el resultado de las guerras, se está desarrollando en secreto y fuera del alcance de los reguladores gubernamentales.
El despliegue de la IA y sus implicaciones
La inteligencia artificial ya está presente en los campos de batalla y en las campañas electorales, y su capacidad para influir en el destino de las naciones es innegable. Sin embargo, las empresas tecnológicas que impulsan esta innovación exigen límites, pero bajo sus propios términos. Aunque líderes como Sam Altman de OpenAI y Elon Musk de Tesla han expresado preocupación y han pedido regulaciones, continúan avanzando con el desarrollo de sistemas de IA cada vez más avanzados en sus propias compañías.
En resumen, la cumbre en Bletchley Park reveló la creciente brecha entre el avance de la inteligencia artificial y el control gubernamental. Mientras los gobiernos luchan por contener una tecnología poderosa y potencialmente peligrosa, las empresas tecnológicas continúan desarrollando sistemas de IA sin una supervisión adecuada. El desafío ahora es encontrar un equilibrio entre la innovación y la regulación para garantizar que la inteligencia artificial se utilice de manera ética y responsable.
Los gobiernos enfrentan el desafío de regular la inteligencia artificial
Los gobiernos de todo el mundo se enfrentan a un desafío sin precedentes: regular la inteligencia artificial (IA). Durante décadas, las empresas tecnológicas han operado sin restricciones, pero ahora el público está exigiendo un cambio.
La falta de control gubernamental
La falta de controles gubernamentales sobre la IA ha llevado a la industria a autorregularse en términos de riesgos y consecuencias morales. La IA tiene el poder de difundir desinformación, arruinar reputaciones e incluso causar daño humano.
Un paso hacia la gobernanza global
Esta semana, Gran Bretaña, la Unión Europea y otros 27 países, incluidos Estados Unidos y China, han acordado una declaración histórica para limitar los riesgos y aprovechar los beneficios de la IA. Esta iniciativa representa un impulso hacia la gobernanza global, con promesas de cooperación internacional sin precedentes.
Pruebas y acuerdos voluntarios
En una reunión reciente, líderes tecnológicos como el fundador de DeepMind, Demis Hassabis, y el presidente de Microsoft, Brad Smith, acordaron permitir que expertos del Instituto de Seguridad de IA de Gran Bretaña evalúen los modelos de IA en busca de riesgos antes de su lanzamiento al público. Sin embargo, los detalles sobre estas pruebas y los acuerdos siguen siendo limitados y en gran medida voluntarios.
El desafío del desarrollo acelerado
A pesar de los esfuerzos globales, los avances en herramientas de IA están superando la capacidad de regulación. El desarrollo de IA poderosa está superando la capacidad de los gobiernos para controlarla y regularla adecuadamente.
El control de las empresas
En Estados Unidos, las empresas controlan la mayor parte de la financiación para la investigación y el desarrollo de IA. En 2020, las empresas estadounidenses representaron el 73% del gasto en este tipo de investigaciones, en comparación con el 67% financiado por el gobierno en 1964.
La necesidad de nuevas instituciones
Este cambio de paradigma ha creado un vacío geopolítico y la necesidad de nuevas instituciones que permitan a los gobiernos equilibrar las oportunidades presentadas por la IA con las preocupaciones de seguridad nacional. Dario Gil, vicepresidente senior y director de investigación de IBM, enfatiza la urgencia de inventar estas nuevas instituciones.
En resumen, los gobiernos se enfrentan al desafío de regular la IA en un mundo donde las empresas tecnológicas han operado sin restricciones durante mucho tiempo. Aunque se han logrado avances en términos de cooperación internacional, el desarrollo acelerado de la IA plantea desafíos significativos. Se necesita una mayor regulación para equilibrar las oportunidades y los riesgos de esta tecnología en constante evolución.
El Instituto de Seguridad de la IA de EE. UU. enfrenta desafíos financieros y de personal
El Instituto de Seguridad de la Inteligencia Artificial (IA) de Estados Unidos, que se está creando dentro del Instituto Nacional de Estándares y Tecnología (NIST), está luchando contra importantes obstáculos financieros y de personal. A medida que las empresas más ricas del mundo compiten por lanzar los modelos de IA más avanzados, el NIST, un laboratorio federal, carece de fondos y personal suficiente para controlar y regular adecuadamente estas tecnologías emergentes.
Escasez de personal y problemas de financiación
El NIST cuenta actualmente con solo unos 20 empleados en sus equipos de tecnología emergente e inteligencia artificial responsable. Además, el laboratorio federal enfrenta problemas de financiación que han llevado al deterioro de sus instalaciones. Los laboratorios han sufrido daños debido a problemas de plomería y techos con goteras, lo que ha retrasado proyectos y generado costos adicionales, según un informe de las Academias Nacionales de Ciencias, Ingeniería y Medicina.
El informe de 2023 señala que las instalaciones del NIST no son de clase mundial y dificultan la atracción y retención de personal en un entorno STEM altamente competitivo. El laboratorio se enfrenta a nuevas demandas para abordar la inteligencia artificial, la ciberseguridad, la computación cuántica y otras tecnologías emergentes, pero el Congreso no ha aumentado su presupuesto para mantenerse al día con estas necesidades en constante evolución.
Críticas y llamados a la acción
Divyansh Kaushik, director asociado de tecnologías emergentes y seguridad nacional de la Federación de Científicos Estadounidenses, afirma que el NIST, una agencia de mil millones de dólares, se espera que funcione como una agencia de diez mil millones de dólares. Kaushik destaca que los edificios del NIST están en mal estado, el personal está sobrecargado de trabajo y lidera múltiples iniciativas simultáneamente, lo que afecta negativamente tanto al personal como al éxito de las iniciativas.
El portavoz del Departamento de Comercio, Charlie Andrews, defiende los logros del NIST dentro de su presupuesto actual, pero también enfatiza la importancia de asignar los fondos necesarios para seguir el ritmo de la rápida evolución de la tecnología de IA. Andrews destaca que la IA presenta oportunidades sustanciales y riesgos graves si se utiliza de manera irresponsable.
Enfoques regulatorios en diferentes países
Los gobiernos y las regiones están adoptando diferentes enfoques regulatorios hacia la IA. La Unión Europea (UE) y China están avanzando rápidamente hacia una regulación más estricta, mientras que el Reino Unido ha adoptado un enfoque más ligero en las reglas, calificando su estrategia como «pro innovación». Estados Unidos se encuentra en algún punto intermedio, imponiendo nuevas obligaciones de seguridad a los desarrolladores de sistemas de IA sofisticados, pero sin obstaculizar su desarrollo y crecimiento.
En medio de preocupaciones sobre la competencia con China, los legisladores estadounidenses están considerando invertir miles de millones de dólares en el desarrollo de la IA. El líder de la mayoría del Senado, Charles E. Schumer, ha propuesto una financiación mínima de 32 mil millones de dólares para impulsar la investigación y el desarrollo de la IA en Estados Unidos.
A medida que la IA continúa avanzando y desempeñando un papel cada vez más importante en nuestras vidas, es crucial que los organismos reguladores y los gobiernos aborden los desafíos financieros y de personal que enfrentan para garantizar un desarrollo responsable y seguro de esta tecnología.
Las empresas tecnológicas enfrentan una mayor regulación en Washington
Un cambio en las políticas
Las empresas tecnológicas no son amadas por los republicanos ni los demócratas en Washington, según Paul Scharre, vicepresidente ejecutivo del Centro para la Nueva Seguridad Estadounidense. La reciente orden ejecutiva del presidente Biden marca un cambio notable en las políticas más laissez faire aplicadas a estas empresas en el pasado.
La responsabilidad del gobierno
Scharre argumenta que confiar en estas empresas sin regulación es un error. Él cree que estas empresas no son responsables ante el público en general, mientras que los gobiernos sí lo son.
China y la inteligencia artificial
La inclusión de China en la declaración de Bletchley ha decepcionado a algunos asistentes a la cumbre. Michael Kratsios, ex director de tecnología de Estados Unidos designado por Trump, mencionó que en 2019 funcionarios de China acordaron principios de la IA que incluían el respeto a los derechos humanos y los valores democráticos. Sin embargo, China ha implementado nuevas reglas que someten a la IA a los «valores socialistas fundamentales» y al régimen de censura de Internet del país.
Violación de principios
Kratsios, quien ahora es el director general de ScaleAI, afirma que China ha violado flagrantemente los principios acordados en relación a la IA.
Regulación lenta y peligrosa
Los defensores de la sociedad civil que fueron excluidos del evento principal en Bletchley Park advierten que los gobiernos están avanzando demasiado lento y corren el riesgo de cometer los mismos errores que han cometido en respuesta a las empresas tecnológicas en las últimas décadas. Beeban Kidron, una baronesa británica que aboga por la seguridad de los niños en línea, señala que el excepcionalismo tecnológico plantea una amenaza existencial para la humanidad.