En los últimos años, los vertiginosos avances en las tecnologías de inteligencia artificial han provocado un gran entusiasmo e intensos debates en todo el mundo. Si bien los robots y asistentes virtuales, que facilitan la vida en muchos campos, desde la salud, la educación, el entretenimiento hasta la vida cotidiana, han recibido elogios, las violaciones de la privacidad, el riesgo de adicción, los efectos psicológicos y las cuestiones éticas se han convertido en una fuente de grave preocupación. Modelos como ChatGPT en Estados Unidos han llegado a miles de millones de usuarios, lo que ha desencadenado regulaciones como la Ley global de IA de la Unión Europea y ha iniciado una avalancha regulatoria global. A la sombra de estos debates, China está interviniendo con un nuevo borrador de reglas para la IA que ofrece una interacción emocional similar a la humana, centrándose en el uso seguro y responsable de la tecnología.
El proyecto de reglamento, presentado al público el sábado, apunta a productos y servicios de inteligencia artificial que imitan los rasgos de personalidad, mentalidad y estilo de comunicación humanos. Toda la IA que interactúe emocionalmente con los usuarios a través de medios como texto, imágenes, audio, video, etc. estará sujeta a estas reglas si se ponen a disposición del público en China.
AUMENTAN LAS OBLIGACIONES ÉTICAS Y DE SEGURIDAD
Los proveedores de servicios deberán asumir la responsabilidad de la seguridad durante todo el ciclo de vida del producto. Será necesario establecer sistemas obligatorios para el control de algoritmos, la seguridad de los datos y la protección de la información personal. Este enfoque tiene como objetivo mantener el rápido crecimiento de la IA del consumidor dentro de límites éticos.
MEDIDAS ESPECIALES PARA RIESGOS PSICOLÓGICOS
El reglamento propuesto destaca los riesgos psicológicos. Los proveedores estarán obligados a controlar el estado emocional de los usuarios y su grado de dependencia del servicio. Cuando se detecten fluctuaciones emocionales extremas o signos de adicción, la intervención será obligatoria; Además, será necesario notificar a los usuarios en caso de uso excesivo.
LÍNEAS ROJAS EN CONTENIDO Y COMPORTAMIENTO
El contenido que amenace la seguridad nacional, difunda rumores o promueva la violencia u obscenidad está estrictamente prohibido. Los servicios serán estrictamente monitoreados para garantizar que no excedan estos límites y los proveedores asumirán toda la responsabilidad.