El 28 de febrero de 2024, Sewell Setzer III, un niño de 14 años de Florida, se suicidó a pedido de un carácter realista de inteligencia artificial (IA) generado por el personaje. Está claro que las medidas más rigurosas son urgentemente necesarias para proteger a los niños y jóvenes de la IA.
Por supuesto, incluso en términos estrictamente éticos, la IA tiene un potencial positivo inmenso, desde la promoción de la salud humana y la dignidad hasta la mejora de la sostenibilidad y la educación entre las poblaciones marginadas. Pero estos beneficios prometidos no son excusas para reducir la importancia de los riesgos y los costos éticos en el mundo real o negarlos. La tragedia de Setzer no es un caso aislado. En diciembre, dos familias de Texas pretendían una causa contra el personaje. Y su patrocinador financiero, Google, alegando que los chatbots de la plataforma han abusado sexual y emocionalmente de sus hijos, causando influencias y violencia de automóviles.
Ya hemos visto esta película antes, después de sacrificar a una generación de niños y adolescentes a manos de compañías de redes sociales que se benefician de la adicción a sus plataformas. Lentamente hemos despertado el daño social y psicológico causado por los «medios antisociales». Ahora, muchos países prohiben o limitan el acceso y los propios jóvenes requieren una regulación más rigurosa. Pero no podemos fingir detener el poder manipulador de la IA. El potencial de abuso es enorme. Sabes exactamente qué botones presionar nuestros deseos o hacernos votar de cierta manera. Los chatbots de la proanorexia del personaje no son más que el último y más escandaloso ejemplo. No hay una buena razón para no prohibirlos de inmediato.
Sin embargo, el tiempo se está agotando, porque los modelos generativos se han desarrollado más rápido de lo esperado, y, en general, están cargando la velocidad en la dirección incorrecta. Los patrocinadores de IA, científico cognitivo y ganador del Premio Nobel Geoffrey Hinton, continúan advirtiendo que esta tecnología podría conducir a la intención humana. «Lo único que puede obligar a estas grandes empresas a investigar más la seguridad es la regulación del gobierno», recuerda.
Dada la incapacidad de las grandes compañías tecnológicas para ajustarse a los estándares éticos, es una locura esperar que se controlen. Google ha invertido $ 2.7 mil millones en carácter. AI en 2024 a pesar de sus problemas conocidos. Pero si bien la regulación es obviamente necesaria, IA es un fenómeno global, lo que significa que debemos tratar de lograr la aprobación de una regulación global, anclada en un nuevo mecanismo de conformidad global, como la Agencia Internacional de Sistemas Based Data (IDA) en las Naciones Unidas, como propuse.
El hecho de que algo sea posible no significa que sea deseable. Los seres humanos tienen la responsabilidad de decidir qué tecnologías, innovaciones y qué formas de progreso deben hacerse y expandir y cuáles no. Es nuestra responsabilidad diseñar, producir, usar y gobernar la IA de una manera que respeta los derechos humanos y facilita un futuro más sostenible. Es casi seguro que Setzer permanecería vivo si hubiera habido una regulación global para promover la inteligencia artificial basada en los derechos humanos y si se hubiera creado una institución global para supervisar las innovaciones en este sector. Asegúrese de que se respeten los derechos humanos y los derechos de los niños requieren la gobernanza de todo el ciclo de vida de los sistemas tecnológicos.
Como ya sabemos que la IA puede matar, no tenemos excusas para seguir siendo la pasividad mientras la tecnología continúa avanzando, con modelos más no regulados que se lanzan al público cada mes.