Investigadores chinos que trabajan con el Ejército Popular de Liberación (EPL) han presentado una nueva herramienta de inteligencia artificial llamada ChatBIT. Este modelo, desarrollado adaptando el modelo de lenguaje Llama de código abierto de la empresa Meta, está optimizado para fines militares, en particular para la recopilación y el procesamiento de información de inteligencia, escribe el portal Tomshardwer.
Modificación con fines militares.
ChatBIT representa el siguiente paso en la estrategia de China para fortalecer sus capacidades tecnológicas militares con inteligencia artificial. En el proyecto participaron seis investigadores de tres instituciones, incluidas dos organizaciones de la Academia de Ciencias Militares del EPL. El equipo tomó el Llama 2 13B de Meta y lo modificó para satisfacer necesidades militares específicas de toma de decisiones. Según los investigadores, ChatBIT tiene la capacidad de proporcionar información precisa y confiable para la toma de decisiones estratégicas, con un rendimiento que alcanza aproximadamente el 90% del nivel ChatGPT-4 de OpenAI.
ChatBIT se centra en respaldar la planificación militar, el entrenamiento simulado del personal y la agilización de la toma de decisiones de mando. El uso del modelo Llama de código abierto puede generar preocupaciones éticas y de seguridad. Meta prohíbe el uso de sus modelos con fines militares, pero controlar el cumplimiento de estas restricciones sigue siendo complicado, como lo demuestra el caso de ChatBIT.
Tendencia de la IA
La adaptación del modelo Llama a aplicaciones militares pone de relieve la falta de control sobre las tecnologías de IA disponibles públicamente. El conjunto de datos relativamente pequeño de 100.000 grabaciones de diálogos militares utilizados para el entrenamiento de ChatBIT puede influir en la calidad y equidad de las respuestas del modelo. Esta situación también pone de relieve el riesgo de que los modelos de código abierto puedan modificarse fácilmente con fines que puedan tener consecuencias negativas para la seguridad y los derechos humanos.
El hecho de que los investigadores chinos pudieran adaptar el modelo Llama con fines militares a pesar de las limitaciones explícitas de Meta resalta las vulnerabilidades de los marcos actuales de gobernanza de la IA de código abierto.
no lo descuides
La burbuja de la IA podría ser incluso más peligrosa que las puntocom