El precio de la “materia prima” más importante que sustenta el auge actual de la IA está cayendo rápidamente, lo que ayudará a que la tecnología entre en la corriente principal más rápidamente. Sin embargo, también amenaza la salud financiera de las nuevas empresas que esperan sacar provecho del auge y podría conducir a una concentración del dominio de la industria en manos de un pequeño grupo de empresas.
La materia prima aquí se refiere al poder de procesamiento de un modelo de lenguaje grande (LLM). Estos modelos sustentan servicios como ChatGPT y la nueva búsqueda de Bing de Microsoft.
La ejecución de estos modelos es intrínsecamente costosa en términos de poder computacional, lo que podría dificultar seriamente la adopción generalizada de los modelos. El director ejecutivo del motor de búsqueda You.com, Richard Socher, un conocido científico informático, dijo que hace apenas unas semanas, el costo del servicio de búsqueda de You.com usando inteligencia artificial era un 50% más alto que el de la búsqueda tradicional en Internet. Pero a fines del mes pasado, ese diferencial de costos se había reducido a solo alrededor del 5 por ciento, gracias a la dura competencia entre las grandes empresas modelo de lenguaje OpenAI, Anthropic y Cohere.
Unos días después, OpenAI lanzó un nuevo servicio que brinda a los desarrolladores acceso directo a ChatGPT y reduce el precio de uso de la tecnología en un 90 %. La compañía dijo que la API proporcionada esta vez se basa en el modelo GPT 3.5 del mismo modelo que ChatGPT. Más importante aún, después de diciembre pasado, la empresa ha logrado reducir el costo de ChatGPT en un 90 %.
Por lo tanto, este modelo llamado “gpt-3.5-turbo” tiene un precio de $0.002 por 1000 tokens. Según la explicación en el sitio web oficial de OpenAI, un token puede entenderse como una palabra no estructurada, y 1000 tokens corresponden a unas 750 palabras. Este precio también es un 90% más económico que el actual modelo GPT 3.5.
Poco después, Microsoft tambiénanunció que será ChatGPT integrado en Azur IA abierta Atender.a través de Azur IA abierta servicio, los usuarios pueden utilizar el más avanzado AI modelo, que contiene Dall-E 2、GPT-3.5、Códice con otropor Azur Un gran modelo de lenguaje respaldado por el poder de la supercomputación para lograrinnovación。todousar ChatGPT decostoserá de3luna13contando los dias,Cada 1,000 individuo tventanas El precio es 0.002Dólar.
Los competidores se enfrentan a una crisis
Los recortes de precios de OpenAI, excelentes para los clientes, podrían ser devastadores para los competidores de OpenAI. Muchas empresas, incluidas Anthropic e Inflection, han completado o están en proceso de recaudar fondos para apoyar el desarrollo de sus propios modelos lingüísticos a gran escala.
Pocas tecnologías como los modelos de lenguaje a gran escala han evolucionado directamente de la investigación de laboratorio al uso comercial a gran escala con tanta rapidez, lo que también ha llevado a los investigadores a “industrializar” el proceso de desarrollo en entornos de laboratorio. Gran parte de la mejora en el rendimiento y la reducción de costos proviene de la optimización de las plataformas informáticas subyacentes que ejecutan grandes modelos de lenguaje, así como de las mejoras en la forma en que se entrenan y ejecutan los modelos.
Desde cierto punto de vista, la fuerte caída en los costos de hardware es beneficiosa para todos los participantes del mercado. Esto incluye silicio de alto rendimiento, como la GPU NVIDIA H100, diseñada para cumplir con los requisitos de los últimos modelos de inteligencia artificial. Microsoft ejecuta los modelos de OpenAI en su plataforma de computación en la nube Azure y brinda el mismo soporte de hardware rentable a otras grandes empresas de modelos lingüísticos.
Sin embargo, los grandes modelos lingüísticos son tanto ciencia como arte. OpenAI dice que desde diciembre, ChatGPT ha realizado “una serie de optimizaciones en todo el sistema” en la forma en que maneja las consultas, reduciendo los costos en un 90%, lo que culminó en importantes recortes de precios para los usuarios.
El entrenamiento de modelos de lenguaje grandes puede costar decenas de millones de dólares, y las técnicas para manejar tales tareas están cambiando rápidamente. Al menos a corto plazo, un pequeño grupo de talentos con experiencia en el desarrollo y capacitación de modelos tendrá una mayor ventaja.
Los primeros participantes pueden haber obtenido la ventaja de ser los primeros en moverse cuando las mejores tecnologías fueron ampliamente comprendidas y adoptadas.
Scott Guthrie, jefe de la división de computación en la nube e inteligencia artificial de Microsoft, mencionó nuevos servicios como GitHub Copilot. Lanzado el verano pasado, el servicio brinda asesoramiento sobre código a los desarrolladores de software. Dichos servicios se optimizarán rápidamente después de que se utilicen ampliamente. Dijo en una conferencia de inversores en Morgan Stanley esta semana que las “señales” de los usuarios de dichos servicios pronto se convertirán en un importante punto de diferenciación para los productos.
La principal esperanza de los competidores de OpenAI es proporcionar servicios adicionales para ayudar a los desarrolladores y clientes de grandes empresas a usar modelos de lenguaje grandes más fácilmente y explorar modelos que satisfagan necesidades comerciales específicas para segmentos de mercado.
Por ejemplo, la startup israelí AI21 Labs lanzó su último modelo de lenguaje a gran escala esta semana, junto con una serie de API (interfaces de programación de aplicaciones) para brindar servicios más avanzados, como resúmenes o reescritura de texto.
El co-CEO de AI21, Ori Goshen (Ori Goshen), dijo que la mayoría de las empresas no usarán un modelo general como ChatGPT, sino que necesitan un modelo capacitado para industrias como finanzas o atención médica, o basado en el propio modelo de una empresa entrenado en los datos.
Él cree que los modelos de lenguaje a gran escala todavía están en pañales, y todavía queda mucho trabajo por hacer, como reducir la tendencia del modelo a decir mentiras y evitar que el modelo “ilumine” y proporcione respuestas plausibles. que nada tienen que ver con los hechos. Las empresas de IA también deberán continuar explorando las fronteras si esperan tener éxito.
Pero la realidad es que el costo base de estas IA generativas está cayendo drásticamente. El recorte de precios de OpenAI es una señal de que esta tecnología entrará en uso comercial a gran escala muy rápidamente. Pero también trae una advertencia, indicando que puede que no haya demasiadas empresas en esta industria con la fuerza para participar en el futuro.
