Anthrope ha lanzado recientemente una nueva característica de la serie Claude de los modelos de lenguaje a gran escala caché que promplía caché para reducir el costo de usar IA y mejorar el rendimiento. Este movimiento se considera una estrategia única de antrópico para competir con gigantes como OpenAi, Google y Microsoft para elegir aumentar la eficiencia y reducir las perspectivas de costos. Esta función se prueba públicamente en la API de Claude3.5 Sonnet y el modelo Claude3 Haiku, prometiendo reducir el costo de hasta el 90%y aumentar la velocidad de respuesta de algunos escenarios de aplicación. Sin embargo, el efecto real aún necesita la inspección del mercado.
El 14 de agosto, Anthrope anunció que lanzó una nueva característica llamada Modelo de lenguaje grande de la serie Claude, alegando que puede reducir en gran medida el costo de usar IA y mejorar el rendimiento. Pero si esta función puede ser tan mágica como la compañía dijo y debe ser probada en el mercado.
La función de caché se probará públicamente en su API de su modelo Claude3.5sonnet y Claude3haiku. Esta función permite a los usuarios almacenar y reutilizar información de contexto específica, incluidas instrucciones y datos complejos, sin costos adicionales o mayores retrasos. El portavoz de la compañía dijo que esta es una de las muchas características de recorte que desarrollaron para mejorar las capacidades de Claude.
En la actualidad, los gigantes tecnológicos como Openai, Google y Microsoft han lanzado competiciones feroces en el campo de modelos de lenguaje a gran escala, y cada compañía está tratando de mejorar el rendimiento y la competitividad del mercado de sus productos. En esta competencia, Anthrope decidió reducir desde la perspectiva de mejorar la eficiencia del uso y reducir los costos, mostrando su estrategia de mercado única.
Según Anthrope, esta nueva característica puede generar hasta el 90%del costo y duplicar la velocidad de respuesta en algunos escenarios de aplicación. Estos números son indudablemente impresionantes, pero los expertos de la industria recuerdan que el efecto real puede ser diferente debido a los escenarios e implementación específicos de la aplicación.
Anthrope dijo que la función de caché es particularmente adecuada para escenas que deben ser consistentes en contexto en múltiples consultas o sesiones, como el diálogo a largo plazo, el procesamiento de documentos a gran escala, la asistencia de código y las herramientas complejas. Se espera que este método brinde una mejora de la eficiencia a varias aplicaciones comerciales de IA.
Los expertos de la industria señalaron que aunque las nuevas características de Anthrope parecen ser brillantes, otras compañías de IA también están explorando activamente el método para mejorar la eficiencia del modelo y reducir los costos de uso. Por ejemplo, OpenAI proporciona diferentes capacidades y opciones de modelos de precios, mientras que Google se compromete a desarrollar modelos que puedan funcionar de manera eficiente en el hardware ordinario.
Para el efecto real de esta nueva característica, el mercado sigue siendo cauteloso. Al igual que cualquier tecnología nueva, especialmente en el campo de IA en rápido desarrollo, el rendimiento de la función de caché en el mundo real aún no se ha observado. Anthrope dijo que trabajará en estrecha colaboración con los clientes para recopilar datos y comentarios relevantes, lo que está en línea con las mejores prácticas en la industria que evalúa la influencia de la nueva tecnología de IA.
La iniciativa de Anthrope puede tener un amplio impacto en la industria de la IA, especialmente al proporcionar capacidades avanzadas de IA para las PYME. Si esta función es realmente tan efectiva como la promoción, puede reducir el umbral para que las empresas adopten soluciones de IA complejas, promoviendo así la aplicación de la tecnología de IA en un campo comercial más amplio.
Con el desarrollo de pruebas públicas, las empresas y los desarrolladores tendrán la oportunidad de evaluar personalmente el rendimiento real de la función de caché y cómo se adapta a sus respectivas estrategias de IA. En los próximos meses, se espera que veamos el rendimiento de este aviso de IA de gestión y el contexto en aplicaciones prácticas.
La pronta función de caché de Anthrope representa un intento interesante de la industria de la IA en términos de eficiencia y optimización de costos. Sin embargo, si realmente puede liderar el cambio de la industria, también requiere una mayor inspección del mercado. En cualquier caso, esta innovación refleja la exploración continua de nuevas direcciones en empresas de IA en una feroz competencia, y también indica que la tecnología de IA puede marcar un comienzo de una nueva ronda de revolución eficiente.
En general, la clave para el éxito de la función de caché de inmediato antrópico es su efecto de aplicación real. El rendimiento posterior del mercado se convertirá en el estándar final para probar esta tecnología y también traerá una nueva revelación a toda la industria de la IA.