La inteligencia artificial de Meta – llamada MetaIAun chatbot que entiende el lenguaje natural y responde al usuario de forma conversacional – en los últimos días respondió incorrectamente a las preguntas de los usuarios sobre el ataque del que fue víctima Donald Trump.
En resumen, esto sucedió: inicialmente Meta decidió no permitir que su IA respondiera preguntas sobre lo sucedido el 13 de julio en Pensilvania.
Luego, cuando la empresa dirigida por Zuckerberg decidió en cambio “desbloquear” la IA sobre este tema, su chatbot – en algunas ocasiones – respondió que el intento de asesinato nunca ocurrió.
Meta asumió la responsabilidad de lo sucedido, pero lo achacó a un elemento impredecible que caracteriza a la inteligencia artificial.
De hecho, con un post publicado el pasado martes, la empresa de Menlo Park se defendió atribuyendo lo sucedido – «un evento desagradable» – en “alucinaciones” que sufren las inteligencias artificiales generativas, que ocurre cuando los chatbots proporcionan respuestas incorrectas o totalmente inventadas.
Es un defecto grave de esta tecnología, que nadie ha podido solucionarlo todavía.
Elecciones presidenciales de Estados Unidos
¿Google realmente está censurando a Donald Trump?
por Pier Luigi Pisa
«En primer lugar – escribe Meta – Se sabe que los chatbots con inteligencia artificial, incluida la Meta AI, no siempre son fiables a la hora de dar noticias o devolver información en tiempo real. En pocas palabras, las respuestas generadas por los grandes modelos de lenguaje que impulsan estos chatbots se basan en los datos con los que fueron entrenados, lo que, comprensiblemente, a veces puede crear problemas cuando a la IA se le hacen preguntas sobre temas que se desarrollan y evolucionan rápidamente en tiempo real».
“Entre ellos – añade Meta – acontecimientos actuales como el intento de asesinato de Trump: al principio hay una enorme confusión, información contradictoria o teorías de conspiración reales en el dominio público (incluidas muchas declaraciones claramente incorrectas según las cuales el ‘ataque no ocurrió’). ). En lugar de permitir que Meta AI proporcione información incorrecta sobre el intento de asesinato, la programamos para que no respondiera preguntas al respecto después de que sucedió y, en cambio, diera una respuesta genérica de que no podía proporcionar ninguna información. Por eso algunos informaron que nuestra IA se negó a hablar sobre el evento”.
Las dificultades de la Meta AI han obligado al gigante de Menlo Park a revelar, por tanto, uno de los (muchos) filtros que las big tech utilizan para limitar -para bien o para mal- sus inteligencias artificiales, para no correr el riesgo de que las respuestas de los Los chatbots, impredecibles como los que daría una persona real, resultan ser inapropiado, inconveniente o dañino.
Pero este «accidente» también nos hace reflexionar sobre los límites de la inteligencia artificial generativa al servicio de los motores de búsqueda, una combinación que tanto Google como OpenAI, que presentó recientemente BuscarGpt.
El anuncio
OpenAI presenta SearchGpt, el motor de búsqueda que utiliza IA (y que ya comete errores)
por Pier Luigi Pisa
“Ahora hemos actualizado las respuestas que Meta AI proporciona al ataque – dijo Meta – pero deberíamos haberlo hecho antes. En una pequeña cantidad de casos, Meta AI continuó brindando respuestas incorrectas, incluso afirmando en ocasiones que el evento no ocurrió, lo cual estamos trabajando rápidamente para resolver”.
“Este tipo de respuestas se definen como alucinaciones – confirma Meta – un problema que encontramos en todos los sistemas de IA generativa y que representa un desafío continuo para la gestión de eventos en tiempo real por parte de la IA”.
Inteligencia artificial
Zuckerberg lanza Llama 3.1, la IA más poderosa de Meta, y dice a los gobiernos: “Con la inteligencia artificial de código abierto seréis más ricos y estaréis más seguros”
por Pier Luigi Pisa
La Meta AI se anunció en septiembre de 2023, pero aún no está disponible en Europa.
Recientemente Meta anunció un nuevo modelo de inteligencia artificial, llamado Hoja 3.1que se considera el más grande y poderoso en el campo de la IA de código abierto, es decir, accesible y modificable por cualquier persona.
#nos #enseña #intento #asesinato #Trump #sobre #las #alucinaciones #inteligencia #artificial
– 2024-08-18 10:38:07