La junta directiva del gigante tecnológico dijo que está investigando dos casos específicos, uno en Instagram y otro en Facebook.
Uno de los casos involucra una imagen generada por IA que se asemeja a una figura pública estadounidense desnuda con un hombre tocándola. La figura fue nombrada en el título y publicada en un grupo de Facebook para creaciones de IA.
La junta de supervisión de Meta no especificó qué figura pública femenina se utilizó en el deepfake de IA.
La junta de supervisión dijo que un usuario diferente ya había publicado el desnudo generado por IA antes de compartirlo en el grupo de Facebook. La foto explícita fue eliminada por violar la política de intimidación y acoso por «photoshop o dibujos despectivos y sexualizados».
El usuario que publicó la foto apeló la eliminación, que fue rechazada por el sistema automatizado. El usuario recurrió entonces ante la Junta.
Los deepfakes pornográficos de Taylor Swift en X causaron revuelo en Internet en enero. Muchas de las imágenes mostraban a la estrella del pop realizando actos sexuales en estadios de fútbol.
Una publicación subida por un usuario verificado en X, anteriormente Twitter, atrajo más de 45 millones de visitas antes de que los moderadores la eliminaran aproximadamente 17 horas después.
La otra investigación involucra una imagen generada por IA de una mujer desnuda que se parece a una figura pública de la India. El contenido fue publicado en una cuenta de Instagram que solo comparte imágenes de mujeres indias generadas por IA.
En este caso, Meta no pudo eliminar el contenido después de que se informara dos veces. El usuario apeló ante la Junta y Meta consideró que su decisión de conservar el contenido fue un error. Luego eliminó la publicación por violar el Estándar comunitario de intimidación y acoso.
La Junta dijo que seleccionó estos casos para ver si Meta está abordando efectivamente imágenes explícitas generadas por IA.
Políticos, figuras públicas y líderes empresariales se han pronunciado sobre los deepfakes y los riesgos que plantean.
La secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, dijo anteriormente que la aplicación laxa de los deepfakes afecta de manera desproporcionada a las mujeres y a las niñas, «que son los objetivos abrumadores».
Jean-Pierre también dijo que si bien la legislación debería desempeñar un papel a la hora de abordar este problema, las plataformas de redes sociales deberían prohibir por sí solas el contenido dañino de IA.
El director ejecutivo de Microsoft, Satya Nadella, calificó los desnudos deepfakes de Taylor Swift «alarmante y terrible» y pidió más protección contra estas imágenes.
Olvídate sólo del porno; Los deepfakes también podrían utilizarse para influir en las elecciones. En las primarias ya aparecieron llamadas generadas por IA que falsificaban mensajes del presidente Joe Biden.
La junta de supervisión de Meta quiere que el público opine sobre los dos casos. Solicitó comentarios que sugirieran estrategias sobre cómo abordar este problema y comentarios sobre su gravedad.
La junta de supervisión deliberará sobre las decisiones durante las próximas semanas antes de publicar el resultado, dijo en el anuncio. Si bien las recomendaciones de la junta no son vinculantes, Meta debe responderlas dentro de los 60 días.