Un grupo de empleados y exempleados de empresas de inteligencia artificial (IA), incluidas OpenAI, respaldada por Microsoft, y Google DeepMind de Alphabet, expresaron el martes su preocupación por los riesgos que plantea esta tecnología emergente.
En una carta abierta, un grupo de 11 empleados actuales y anteriores de OpenAI y un empleado actual y otro anterior de Google DeepMind dijeron que las motivaciones financieras de las empresas de inteligencia artificial impiden una supervisión efectiva.
«No creemos que unas estructuras de gobierno corporativo apropiadas sean suficientes para cambiar esta situación», añade la carta.
La carta también advierte sobre los riesgos de la IA no regulada, que van desde la difusión de información errónea hasta la pérdida de sistemas de IA independientes y el empeoramiento de las desigualdades existentes, lo que podría conducir a la «extinción de la humanidad».
Los investigadores encontraron ejemplos de generadores de imágenes de empresas como OpenAI y Microsoft que producían fotografías con información errónea relacionada con la votación, a pesar de las políticas que prohíben dicho contenido.
Las empresas de IA tienen «obligaciones débiles» de compartir información con los gobiernos sobre las capacidades y limitaciones de sus sistemas, decía la carta, añadiendo que no se puede contar con que estas empresas compartan esta información voluntariamente.
La carta abierta es la última en plantear cuestiones de seguridad sobre las tecnologías de IA generativa, que pueden producir de forma rápida y económica textos, imágenes y sonidos similares a los humanos.
El grupo instó a las empresas de inteligencia artificial a facilitar el establecimiento de un proceso para que los empleados actuales y anteriores planteen preocupaciones sobre riesgos y no apliquen acuerdos de confidencialidad que prohíban las críticas.
Por otra parte, la compañía dirigida por Sam Altman dijo el jueves que había interrumpido cinco operaciones encubiertas de influencia que buscaban utilizar sus modelos de inteligencia artificial para «actividades engañosas» en Internet.