Manténgase informado con actualizaciones gratuitas
Simplemente regístrate en Inteligencia artificial myFT Digest: entregado directamente a su bandeja de entrada.
El escritor es fundador de tamizadoun sitio respaldado por FT sobre empresas emergentes europeas
La tendencia de los sistemas generativos de inteligencia artificial a “alucinar” –o simplemente inventar cosas– puede ser estrafalaria y a veces aterradora, como descubrió una cadena de supermercados de Nueva Zelanda. Después de que Pak’nSave lanzara un chatbot el año pasado que ofrecía sugerencias de recetas a compradores ahorrativos utilizando ingredientes sobrantes, es el robot de comidas Savey recomendó a un cliente hacer una “mezcla de agua aromática” que habría producido cloro gaseoso.
Los abogados también han aprendido a desconfiar de los resultados de los modelos generativos de IA, dada su capacidad para inventar casos totalmente ficticios. Un estudio reciente de la Universidad de Stanford de las respuestas generadas por tres modelos de IA generativa de última generación a 200.000 consultas legales encontraron que las alucinaciones eran «generalizadas y perturbadoras». Cuando se le hicieron preguntas específicas y verificables sobre casos aleatorios de tribunales federales, ChatGPT 3.5 de OpenAI alucinó al 69 por ciento del tiempo, mientras que el modelo Llama 2 de Meta alcanzó el 88 por ciento.
Para muchos usuarios, las alucinaciones de la IA generativa son un error irritante que suponen que las empresas de tecnología solucionarán algún día, al igual que el spam de correo electrónico. Hasta qué punto las empresas pueden hacerlo es actualmente un tema de investigación activa y feroz contienda. Algunos investigadores sostienen que las alucinaciones son inherentes a la propia tecnología. Los modelos de IA generativa son máquinas probabilísticas entrenadas para dar la respuesta estadísticamente más probable. Es difícil codificar rasgos humanos como el sentido común, el contexto, los matices o el razonamiento.
Mientras los tecnólogos intentan resolverlo, algunos usuarios consideran que la ficción generada por máquinas es una característica interesante y han estado explorando sus posibilidades creativas. «Me encantan las alucinaciones», dice Martin Puchner, profesor y autor de la Universidad de Harvard. «Son geniales cuando se trata de creación artística».
Como autor de Cultura: una nueva historia mundialPuchner tiene una visión particular de la creatividad. En su libro, sostiene que durante milenios los humanos han estado asimilando los aportes de generaciones anteriores y de otras culturas y mezclándolos para generar nuevos resultados sincretistas. Consideremos cuánto tomó prestado la Roma imperial de la antigua Grecia, o cómo el renacimiento italiano se basó en la erudición árabe, o cómo Japón adoptó la escritura y la filosofía chinas, o cómo la cultura rastafari jamaicana absorbió las tradiciones etíopes.
Cada civilización, escribe Puchner, tiende a sobreestimar la originalidad de su propia cultura para apuntalar dudosas afirmaciones de superioridad y propiedad. “Tales afirmaciones olvidan convenientemente que todo viene de alguna parte, es desenterrado, prestado, trasladado, comprado, robado, registrado, copiado y, a menudo, malinterpretado”, escribe. «La cultura es un gran proyecto de reciclaje».
Los paralelismos con la IA generativa son sorprendentes. Hasta cierto punto, nuestras máquinas están haciendo hoy lo que los humanos han estado haciendo desde siempre: combinar diferentes insumos culturales para generar resultados ligeramente variados. En ese sentido, la IA generativa puede verse como una gigantesca máquina de sincretismo cultural. Al depender de datos imperfectos y parciales y tener demasiada confianza en generalizar a partir de lo particular, las máquinas pueden parecerse más a humanos falibles de lo que a veces imaginamos. Es posible que las alucinaciones no sean tanto una aberración algorítmica como un reflejo de la cultura humana.
Todo eso suena abstracto. ¿Qué significa en la práctica? En definitiva, todo depende del caso de uso. Los modelos de IA generativa pueden ser una herramienta fantástica para mejorar la creatividad humana generando nuevas ideas y contenidos, especialmente en música, imágenes y vídeos.
Si se les solicita de la manera correcta, estos modelos pueden actuar como un útil compañero de entrenamiento y una fuente incansable de inspiración para proyectos creativos. Pueden ser el equivalente algorítmico de pensar fuera de lo común. El propio Puchner ha sido experimentando con chatbots personalizados conversar con personajes históricos, como Aristóteles, Confucio y Jesús, a partir de sus palabras e ideas. «La ingeniería rápida debería ser parte del plan de estudios de Harvard», dice Puchner.
El fundador de una empresa de IA generativa me dice que estamos entrando rápidamente en la era de los «medios generativos». “Internet y las redes sociales redujeron el costo de distribución a cero. Ahora, gracias a la generación de IA, el coste de creación también se está acercando a cero”, afirma. Esa tendencia podría conducir a una explosión de creatividad, tanto para bien como para mal. También puede profundizar las preocupaciones sobre la desinformación y el robo de propiedad intelectual.
Por impresionante que sea como escritor de ficción, la IA generativa todavía tiene un largo camino por recorrer cuando se trata de no ficción confiable. Eso está bien siempre y cuando lo utilicemos como una herramienta para mejorar las capacidades humanas en lugar de imaginarlo como un agente que puede reemplazar todo el poder de procesamiento humano. Alucinar una frase: apuntador de advertencia.