Declaración conjunta de 13 empleados actuales y anteriores de OpenAI y Google DeepMind
“Los peligros de la tecnología de IA… «No puedo expresar mis preocupaciones porque tengo un acuerdo de confidencialidad con la empresa».
Empleados actuales y anteriores del desarrollador de ChatGPT OpenAI y Google DeepMind advirtieron sobre los peligros de la inteligencia artificial (IA). Al mismo tiempo, instaron a que se establezcan medidas de protección para los denunciantes para que estas preocupaciones de riesgo puedan ser compartidas.
El día 4 (hora local), 13 empleados anteriores y actuales emitieron una declaración conjunta en la que decían: “Somos conscientes de los graves riesgos que plantea la tecnología de inteligencia artificial. «Estos riesgos van desde la profundización de las desigualdades existentes hasta la manipulación y la desinformación y la pérdida de control de los sistemas autónomos de IA, lo que podría conducir a la extinción humana», dijo. «Los gobiernos de todo el mundo, otros expertos en IA y las propias empresas de IA lo reconocen». Lo hice”, dijo. Los nombrados en la declaración conjunta de este día incluyeron 11 empleados actuales y anteriores de Open AI y 2 empleados actuales y anteriores de Google DeepMind.
Señalaron que «las empresas de IA no pueden supervisar adecuadamente con el objetivo de obtener ganancias, y el problema no puede resolverse únicamente con el sistema regulatorio interno de la empresa». «Aunque las empresas de IA tienen importante información no pública sobre diferentes tipos de niveles de riesgo, tenemos una débil obligación de compartir parte de esta información con los gobiernos y la sociedad civil, y no creemos que lo hagan voluntariamente», dijo.
Al mismo tiempo, argumentaron que se deberían establecer medidas de protección para los denunciantes para que todos sepan lo peligrosa que es la IA. Estas incluyen prohibir la celebración de acuerdos que prohíban menospreciar o criticar las inquietudes de la empresa relacionadas con los riesgos, establecer un proceso anónimo para plantear inquietudes relacionadas con los riesgos a una organización independiente y prohibir las represalias contra empleados actuales o anteriores que compartan públicamente información relacionada con los riesgos. instó.
En ausencia de una supervisión gubernamental efectiva de la empresa, los empleados actuales y anteriores se encuentran entre los pocos que se sienten responsables ante el público, dijeron. Sin embargo, señaló que “no podemos expresar nuestras preocupaciones debido a un amplio acuerdo de confidencialidad con la empresa”. Continuaron enfatizando que “las protecciones generales de los denunciantes se centran en actividades ilegales” y que “algunos de nosotros tememos diversas formas de represalias dada la historia de estos casos (de denuncias) en toda la industria”.
Copyright © Sisa Journal Prohibida la reproducción y redistribución no autorizada