Fue una imagen transmitida durante unos momentos en un boletín de noticias de Melbourne TV, pero desde entonces atrajo la atención internacional.
La imagen alterada digitalmente de la diputada del Partido Victoriano por la Justicia Animal, Georgie Purcell, utilizada para presentar una historia sobre la caza de patos en Victoria, vio el vestido blanco que llevaba en la foto original cambiado por un top que dejaba al descubierto su abdomen.
«Tenga en cuenta que los senos agrandados y el atuendo se harán más reveladores. No puedo imaginar que esto le pase a un parlamentario», tuiteó.
Después de que Purcell lo denunciara, los medios de comunicación, incluidos > y la BBC, retomaron la historia, alimentando el debate sobre el alcance de la inteligencia artificial generativa en nuestras vidas.
La Sra. Purcell dice que no está segura de aceptar la explicación de Nueve, pero está feliz de seguir adelante, siempre que todos aprendan una lección para garantizar que esto nunca vuelva a suceder.
Entonces, ¿cómo podría haberse creado la imagen y qué lecciones deberíamos extraer de ella?
Un experto dice que la explicación de Nueve es plausible
La herramienta permite a los usuarios agrandar una imagen: el programa utiliza inteligencia artificial para hacer suposiciones o conjeturas sobre cómo esa imagen podría completarse mejor con material nuevo.
Nine dijo que la imagen que utilizó para producir el gráfico era una versión más recortada de la foto de la Sra. Purcell del Bendigo Advertiser.
Esta imagen aparece en algunas búsquedas de imágenes en línea y está recortada por encima de la cintura de la Sra. Purcell.
Cuando esa imagen se arrastró hacia abajo usando la herramienta de expandir, se creó la imagen generada que exponía su abdomen, según Nine.
Esta fue la imagen incorporada más tarde en un gráfico utilizado en la cobertura del debate sobre el futuro de la caza de patos en Victoria.
Adobe emitió un comunicado diciendo que las ediciones de la imagen en cuestión «habrían requerido intervención y aprobación humana».
TJ Thomson, profesor titular de medios digitales en RMIT, dijo que era plausible que una imagen recortada pudiera producir una variedad de torsos diferentes cuando se expandiera usando IA.
«Por lo tanto, puede tener una aportación mucho más creativa en lo que está debajo del torso».
Cuando se le presentó la imagen al programa y se le pidió que realizara la acción de «expansión generativa», produjo varias variantes del torso.
La ropa en cada torso era diferente, incluyendo una camisa abotonada y otra con varios de los botones superiores desabrochados.
En una versión, el programa parecía tener dificultades para generar las manos, presentando un revoltijo de dedos al final de los brazos del hombre.
Cómo una ‘vasta biblioteca’ de imágenes informa a la IA generativa
«Ahora, Adobe afirma haber hecho esto de una manera que reduce el sesgo en las imágenes», dijo el Dr. Cohney.
«Pero sin más información, es muy difícil para nosotros saber qué tipos de estereotipos podrían haber en esa información».
El Dr. Thomson dijo que podríamos inferir que muchas herramientas de IA generativa rastrearon la web para extraer imágenes de películas y de la cultura pop, creando resultados que reforzaron los prejuicios presentes en la sociedad.
«Si miramos nuestro propio panorama en términos de cine o fotografía de archivo, a menudo vemos imágenes y películas muy sesgadas y poco representativas», dijo.
«Bastante dominado por blancos, bastante de mediana edad o más jóvenes, no muchos ancianos, no muchas personas con discapacidades.
«Y entonces, todos esos sesgos se reproducen o mejoran a veces con la IA, si no se está particularmente motivado para tratar de obtener una representación más diversa».
En un comunicado, un portavoz de Adobe dijo que la compañía estaba comprometida con los principios de responsabilidad y transparencia al desarrollar sus productos de IA.
Imágenes ‘sexualizadas’ de mujeres están entrenando a la IA, advierten investigadores
Cuando Purcell vio su cuerpo retocado con Photoshop en la televisión, dijo que le resultaba profundamente perturbador.
«No creo que haya un solo joven que no haya luchado con su imagen corporal, y ver tu propio cuerpo alterado en la televisión es muy confrontativo», dijo.
«Esto me ha afectado de alguna manera y podría afectar aún más a otras mujeres. No debería volver a suceder».
La periodista ganadora del premio Walkley Tracey Spicer dijo que cuando se enteró de la experiencia de Purcell se quedó «horrorizada, pero no sorprendida».
Spicer, autor recientemente de un libro que examina el auge de la inteligencia artificial, dijo que la IA generativa «rutinariamente sexualiza imágenes de mujeres y niñas».
«De hecho, mientras diseñamos la portada de mi libro, nos propusimos diseñar una imagen de una mujer robot fuerte que mira hacia el futuro con esperanza pero preocupación», dijo Spicer.
«[The AI generator] en su lugar, creó una imagen de un sexy robot dorado con enormes pechos y una cintura diminuta».
Spicer también respaldó una advertencia del Victorian Women’s Trust de que la comunidad estaba «al borde de un tsunami» en lo que respecta al uso de la IA como arma contra las mujeres.
La cantante y compositora Taylor Swift fue la última mujer de alto perfil en ser atacada con inteligencia artificial, después de que circularan en línea imágenes pornográficas deepfake.
Spicer dijo que a medida que la tecnología se volvía más libre y más fácil de usar, crecía su potencial de abuso.
«Francamente, es aterrador», dijo.
«Muchas víctimas-sobrevivientes de este tipo de abuso dicen que es como ser agredidos física y sexualmente».
Meredith Broussard, investigadora de periodismo de datos de la Universidad de Nueva York, dijo que la imagen manipulada de Purcell era un recordatorio importante de que la IA «sigue fallando y cometiendo errores» de diversas maneras y que la intervención humana era fundamental.
«Es una lección de por qué no necesariamente debemos confiar en los fallos de la inteligencia artificial», afirmó.
«La gente piensa que la IA va a ser de alguna manera superior a los humanos y ese simplemente no es el caso».
En el caso de Purcell, el Dr. Broussard dijo que la persona que operaba el programa que generó la imagen alterada debería haber detectado los cambios y haber optado por no usar esa imagen.
Se producen «daños importantes» debido a prejuicios raciales
En Estados Unidos, el Dr. Broussard dijo que había varios ejemplos de «daños importantes» causados a personas como resultado de ello.
«Los sistemas de reconocimiento facial tienden a ser mejores para reconocer la piel clara que la piel oscura, tienden a ser mejores para reconocer a los hombres que a las mujeres, tienden a no tener en cuenta a las personas trans y no binarias en absoluto», dijo.
«Y así, cuando el reconocimiento facial se utiliza en la actividad policial, por ejemplo, se utiliza desproporcionadamente como arma contra las comunidades de color».
El Dr. Thomson dijo que también estaba claro que la IA se estaba utilizando como herramienta para difundir información errónea.
«La gente está utilizando estas herramientas para crear generaciones fotorrealistas que pueden engañar o desorientar a la gente», dijo.
«Estamos viendo que eso sucede en el conflicto de Hamás, Israel y muchos otros contextos», dijo.
En Australia, los gigantes minoristas Bunnings y Kmart están siendo investigados por su uso de tecnología de reconocimiento facial en las tiendas, en medio de preocupaciones sobre la privacidad.
Se insta a las empresas de medios a ofrecer formación en IA
Entonces, ¿dónde deja esto a los medios con su uso de la IA?
El Dr. Thomson dijo que los medios de comunicación de todo el mundo estaban adoptando una variedad de enfoques diferentes.
«La mayoría de las personas con las que he hablado se sienten más cómodas usando estas herramientas para cosas como ilustraciones, cosas que definitivamente no son fotorrealistas, donde no tienes el potencial de engañar o engañar», dijo.
«Si estás escribiendo una historia sobre salud mental o COVID, o ese tipo de cosas, y tienes una imagen claramente ilustrada, generada por IA, ese es el tipo de caso de prueba o caso de uso con el que los editores de fotografías se sienten más cómodos.
«Algunos medios son un poco más conservadores y dicen que sólo vamos a utilizar imágenes generadas por IA cuando informamos sobre imágenes generadas por IA que se han vuelto virales, por ejemplo».
En ABC, existe la política de no utilizar imágenes generativas de IA en lugar de imágenes reales en los informes de noticias.
Si se utiliza uno, debe estar claramente etiquetado, como lo hemos hecho en esta historia.
Spicer dijo que las empresas de medios tenían la obligación de capacitar mejor al personal.
«Cuestiones como ésta sólo profundizarán el escepticismo del público sobre el periodismo. Eso es lo último que necesitamos, en un momento en que la democracia está amenazada», afirmó.
«Hay cosas que los periodistas y las organizaciones de medios pueden estar haciendo ahora mismo. El personal debe estar capacitado sobre cómo utilizar la IA de forma segura y ética».
Pide una mayor regulación en Australia
Varios expertos coinciden en que se necesita una mayor regulación de la IA, particularmente en Australia.
En enero, el gobierno australiano reveló planes para atacar algunas tecnologías de inteligencia artificial de alto riesgo con auditorías y salvaguardias, pero el Dr. Thomson dijo que se necesitaba más para «ponerse al día» con el resto del mundo.
«A Australia se le ha llamado una especie de último lugar en términos de regulación de la IA», dijo el Dr. Thomson.
En diciembre, la Unión Europea aprobó la primera ley de IA del mundo, que allanó el camino para la supervisión legal de la tecnología utilizada en los populares servicios de IA generativa.
En Estados Unidos, el presidente Joe Biden hizo un gran esfuerzo para regular la inteligencia artificial en virtud de una nueva orden ejecutiva en la que los desarrolladores de IA tendrían que probar sus herramientas con riesgos y compartir los resultados con el gobierno estadounidense.
El miércoles, el presidente de la Comisión Australiana de Valores e Inversiones, Joe Longo advirtió que las leyes existentes no prevenían adecuadamente los «daños facilitados por la IA» antes de que ocurrieran y es posible que se necesite mayor «transparencia y supervisión».
Otra idea señalada por el gobierno federal es etiquetar las imágenes generadas por IA con una marca de agua o de otra manera que garantice que las personas que las ven sepan cómo se crearon.
Por su parte, Adobe dijo que era una idea que la compañía apoyaba, comparándola con los consejos de salud incluidos en los envases de alimentos.
«Estamos trabajando con clientes y socios para habilitar credenciales de contenido, que son «etiquetas nutricionales» para contenido digital, que permanecen asociadas con el contenido dondequiera que se use, publique o almacene», dijo un portavoz.
El Dr. Cohney dijo que incluso con obligaciones legales, las «normas éticas» y la «alfabetización en IA» en la comunidad serían fundamentales a medida que se expandiera el uso de la tecnología.
Incluso si tuviéramos el conjunto de leyes perfecto, todavía no captarían todos los ejemplos de personas que no las utilizan adecuadamente», afirmó.
«Por lo tanto, debemos pensar en la forma en que capacitamos a las personas, ya sea en los medios o en otra industria, para que utilicen la IA de manera ética».