La compañía también presentó la última versión de su modelo de lenguaje grande, Llama 3, un movimiento que pone a las herramientas de IA de Meta en competencia directa con los principales chatbots de IA, incluidos ChatGPT de OpenAI, Gemini de Google, Copilot de Microsoft y Claude de Anthropic. Zuckerberg promocionó el producto Meta AI renovado como “el asistente de IA más inteligente” de uso gratuito.
Pero los expertos advierten que el uso generalizado del chatbot de IA puede amplificar los problemas que durante mucho tiempo han afectado a las redes sociales de Meta, incluida la información errónea dañina, el discurso de odio y el contenido extremista. También es probable que el generador de imágenes de la compañía genere debates sobre cómo elige representar la raza y el género al crear escenarios imaginarios.
“Había un temor general sobre cómo los LLM interactuarían con las redes sociales y exacerbarían la desinformación, el discurso de odio, etc.”, dijo Anika Collier Navaroli, investigadora principal del Tow Center for Digital Journalism de Columbia y ex funcionaria de alto rango de políticas de Twitter. “Y parece que siguen facilitando que las malas predicciones se hagan realidad”.
El portavoz de Meta, Kevin McAlister, dijo en un comunicado que se trata de “una tecnología nueva y es posible que no siempre devuelva la respuesta que pretendemos, que es la misma para todos los sistemas de IA generativa”.
“Desde el lanzamiento, hemos lanzado constantemente actualizaciones y mejoras a nuestros modelos y seguimos trabajando para mejorarlos”, añadió.
Si bien Meta AI estará disponible en un nuevo independiente sitio web, también llenará los cuadros de búsqueda en WhatsApp, Instagram, Facebook y Messenger. Meta también tiene experimentado con poner al asistente de IA en grupos en Facebook, donde automáticamente suena Responda preguntas en grupos si nadie ha respondido en una hora.
Meta ha enfrentado durante mucho tiempo el escrutinio de activistas y reguladores sobre cómo maneja el contenido peligroso sobre política, temas sociales y eventos actuales. Los chatbots impulsados por inteligencia artificial, que se sabe que “alucinan” y dan respuestas falsas o no basadas en la realidad, podrían profundizar estas controversias.
Incluir los chatbots es “invitar a estas herramientas a opinar sobre temas que van desde la educación hasta la salud, pasando por la vivienda y la política local, todos ellos ámbitos en los que los desarrolladores de tecnología de IA deberían andar con cuidado”, dijo Miranda Bogen, directora del Laboratorio de Gobernanza de IA del grupo de expertos. Centro para la Democracia y la Tecnología y exgerente de políticas de IA en Meta. “Si los desarrolladores no piensan en los contextos en los que se implementarán las herramientas de IA, estas herramientas no sólo serán inadecuadas para las tareas previstas, sino que también correrán el riesgo de causar confusión, interrupciones y daños”.
El miércoles, la profesora de informática y asuntos públicos de Princeton, Aleksandra Korolova capturas de pantalla publicadas en X de Meta AI hablando en un grupo de Facebook para miles de padres de la ciudad de Nueva York. Respondiendo a una pregunta sobre programas para superdotados y talentosos, Meta AI afirmó ser un padre con experiencia en el sistema escolar de la ciudad y recomendó una escuela específica.
McAlister dijo que el producto está evolucionando y que algunas personas pueden comenzar a ver que “algunas respuestas de Meta AI se reemplazan con una nueva respuesta que dice ‘Esta respuesta no fue útil y fue eliminada’. Continuaremos mejorando Meta AI’”.
¡Meta AI afirma tener un hijo en una escuela pública de la ciudad de Nueva York y compartir la experiencia de su hijo con los maestros! La respuesta es en respuesta a una pregunta que buscaba comentarios personales en un grupo privado de Facebook para padres. Además, ¡el algoritmo de Meta lo clasifica como el comentario principal! @AIatMeta pic.twitter.com/wdwqFObWxt
-Aleksandra Korolova (@korolova) 17 de abril de 2024
Esta semana, un emprendedor que experimentaba con Meta AI en WhatsApp descubrió que había creado una publicación en un blog acusándolo de plagio, e incluso ofrecía una cita formal para la publicación, que no existe.
Los generadores de imágenes como el de Meta también tienen sus propios problemas. A principios de este mes, un reportero de Verge luchó lograr que Meta AI genere imágenes de una persona asiática con una persona blanca en pareja o como amigos, a pesar de dar al servicio indicaciones repetidas y específicas. En febrero, Google bloqueó la capacidad de generar imágenes de personas en su herramienta de inteligencia artificial Gemini después de que algunos usuarios la acusaran de tener prejuicios contra los blancos.
Ahora, Navaroli dijo que le preocupa que los sesgos incorporados en las herramientas de inteligencia artificial “se retroalimenten en las líneas de tiempo sociales”, reforzando potencialmente esos sesgos en un “bucle de retroalimentación al infierno”.
Korolova, profesora de Princeton, dijo que las afirmaciones potencialmente falsas de Meta AI en los grupos de Facebook son probablemente “sólo la punta del iceberg de los daños que Meta no anticipó”.
“Sólo porque la tecnología es nueva, ¿deberíamos aceptar un listón más bajo para posibles daños?” —preguntó Korolova. “Esto suena como ‘Muévete rápido y rompe cosas’ otra vez”.