Las fotos falsas se están acercando rápidamente al punto en que muchos no pueden diferenciar entre ellas y las imágenes reales. Es una lección que el generador de imágenes de IA Midjourney aprendió de la manera más difícil cuando algunos usaron su plataforma para crear varias imágenes recientes, incluidas varias falsificaciones del arresto del ex presidente de los Estados Unidos, Donald Trump. Después de que las imágenes se volvieron virales, muchos pensaron que eran reales, lo que provocó conversaciones y controversias basadas en información completamente inventada.
De acuerdo a el poste de washington e informado por el bordeestos deepfakes se generalizaron tanto que provocaron que Midjourney detuviera las pruebas gratuitas el 28 de marzo. Sin embargo, cuando LaComparacion se acercó al CEO y fundador de Midjourney, David Holz, para obtener aclaraciones, insistió en que había una razón diferente para la detención: “Usuarios que se registran para múltiples cuentas de prueba gratuitas estaba desactivando el servicio para usuarios pagos, por eso detuvimos temporalmente las pruebas gratuitas”.
Esto se correlaciona con una declaración anterior que Holz hizo a The Verge con respecto a los juicios gratuitos, que se debió a “una demanda extraordinaria y abuso en los juicios”. Anteriormente, la prueba gratuita de Midjourney permitía obtener 25 imágenes gratuitas al mes antes de que los usuarios tuvieran que pagar al menos una tarifa de suscripción de $10 por mes.
Cuando se le preguntó sobre la creación de estos controvertidos deepfakes creados a través de Midjourney, Holz dijo a TechRadar: “Creo que todavía estamos tratando de descubrir cuáles son las políticas de moderación correctas. Estamos recibiendo comentarios de expertos y de la comunidad y tratando de ser realmente reflexivos. Ya tenemos algunos sistemas nuevos que se lanzarán pronto”.
Ahora, sin embargo, parece que Midjourney será mantener las pruebas gratuitas deshabilitadas, al menos para el futuro inmediato. “Intentamos volver a activar las pruebas con nuevas medidas de seguridad para el abuso, pero no parecían ser suficientes, por lo que las estamos volviendo a desactivar para mantener el servicio para todos los demás”, nos dijo Holz.
Agregó que las pruebas gratuitas volverán eventualmente, pero la compañía aún está considerando cómo hacerlo. “Todavía estamos tratando de averiguar cómo traer de vuelta las pruebas gratuitas, tratamos de solicitar un correo electrónico activo, pero eso no fue suficiente, por lo que volvimos a la mesa de dibujo”.
¿Qué es Midjourney?
Midjourney es solo uno de varios generadores de imágenes de IA, con otros como Dall-E, Jasper Art, Starry AI, Stable Diffusion y muchos otros. Estos sitios existen para crear imágenes nuevas y completamente fabricadas que se entrenan en imágenes y datos en línea existentes. Las imágenes pueden ser fotorrealistas, imágenes fantasiosas de animales, imágenes surrealistas, pixel art y más. Lo que originalmente diferenció a Midjourney de otros generadores fue la calidad más similar a la pintura de sus imágenes en comparación con otros. Al menos hasta que se lanzó la versión 5 el 15 de marzo.
Inicialmente, las imágenes creadas por Midjourney se detectaron fácilmente gracias a signos comunes como manos torcidas (demasiados dedos). Pero una vez que se lanzó la versión 5 de su software, las imágenes se volvieron muy superiores en calidad, lo que significó que las personas podían crear imágenes con manos más realistas, así como con mejor iluminación y tela. Esencialmente, puedes hacer toneladas de deepfakes de celebridades y otras figuras públicas gracias a la combinación de una mejor tecnología y la gran cantidad de imágenes de la vida real disponibles para entrenar Midjourney.
Deepfakes, o fotos creadas con tecnología de inteligencia artificial con el fin de difundir información errónea con imágenes falsas, se han convertido en un problema creciente. Más allá de los deepfakes del arresto de Donald Trump, otros creados con Midjourney mostraban al Papa Francisco con un abrigo blanco hinchado, al presidente francés Emmanuel Macron caminando a través de las protestas en curso en París y al director ejecutivo de Twitter, Elon Musk, de la mano de la representante estadounidense Alexandria Ocasio-Cortez.
Esta no es la primera vez que las creaciones generadas por IA han estado en el centro de la controversia, ya que los líderes tecnológicos y los expertos en IA publicaron recientemente una carta abierta en la que pedían la Suspensión del entrenamiento de chatbots de IA como ChatGPT.
El futuro de los sitios de imágenes generadas por IA como Midjourney es incierto. Si bien la tecnología tiene un gran potencial para ayudar a los humanos, puede y ya se ha utilizado de formas más destructivas. Solo el tiempo dirá si las salvaguardas, desde los legisladores hasta las propias empresas, pueden gestionar la seguridad y el bien público, al mismo tiempo que permiten que la IA florezca y crezca.
