“No informen de los riesgos potenciales al gobierno”… La IA abierta silencia a los empleados

Las cuestiones éticas y de seguridad de OpenAI, el desarrollador de «ChatGPT», están nuevamente en problemas. Se presentó una denuncia interna alegando que OpenAI impidió ilegalmente a los empleados informar a los reguladores sobre los riesgos de la tecnología de inteligencia artificial (IA). Ha pasado un día desde que surgió la controversia de que el lanzamiento del modelo de IA «GPT-4o» se adelantó sin suficientes pruebas de seguridad.

Según el Washington Post (WP) el día 13 (hora local), algunos empleados de OpenAI enviaron una carta a la Comisión de Bolsa y Valores de EE. UU. (SEC) a principios de este mes instando a una investigación sobre el acuerdo de confidencialidad de la empresa. La denuncia alega que Open AI prohibió ilegalmente a las personas informar a los reguladores sobre los riesgos que la tecnología Open AI podría representar para la humanidad.

Los denunciantes alegaron que OpenAI exigía a los empleados que obtuvieran el consentimiento previo de la empresa al revelar información a las autoridades federales y responsabilizaban a la empresa de plantear preocupaciones sobre la empresa a los reguladores federales. En Estados Unidos, prohibir la denuncia de irregularidades es una violación de la ley federal. Continuaron criticando: “Si las empresas de IA se protegen de la vigilancia y la oposición, no podrán desarrollar tecnologías que sean seguras y sirvan al interés público”.

Además, según medios extranjeros como WP, se sabe que OpenAI siguió adelante con el lanzamiento del último modelo de inteligencia artificial «GPT-4o» en mayo, aunque no pasó completamente su propia prueba de seguridad. El año pasado, un mensajero interno fue pirateado y se pirateó información detallada sobre proyectos de tecnología de inteligencia artificial, pero también se reveló que la agencia de investigación no había sido informada de esto. Recientemente se informó que OpenAI prácticamente ha disuelto su equipo de seguridad interna que estudiaba los riesgos a largo plazo.

A medida que crecen las preocupaciones de seguridad en torno a la IA abierta líder en IA, se espera que crezcan las voces que piden regulaciones de IA más estrictas. A principios del mes pasado, 13 trabajadores actuales y anteriores de la industria de la tecnología de la información (TI), incluidos OpenAI, Google DeepMind y Anthropic, publicaron una declaración conjunta titulada “El derecho a asesorar sobre la inteligencia artificial avanzada”, advirtiendo sobre los riesgos de la tecnología. En un comunicado, dijeron: “Plantea varios riesgos, como la manipulación de información y la pérdida de control de los sistemas autónomos de IA”, y agregaron: “Dado que sólo las regulaciones internas de la empresa tienen límites, se necesita una legislación adecuada”.

Reportero Nam Hye-jeong [email protected]