La plateforme ouverte Kimi de The Dark Side of the Moon a récemment annoncé deux mises à jour importantes pour offrir aux utilisateurs une expérience plus pratique et plus économique. Tout d'abord, la plate-forme a considérablement réduit le coût du stockage du cache contextuel, réduisant le prix de 50 %, réduisant ainsi la charge financière des utilisateurs. Deuxièmement, la plateforme continue d'optimiser les services et d'améliorer l'expérience utilisateur. Voici des informations spécifiques :
Kimi Open Platform, une filiale de Dark Side of the Moon, a annoncé que le coût du stockage cache contextuel sera réduit de 50 %. Plus précisément : les frais de stockage du cache sont réduits de 10 yuans/1 million de jetons/min à 5 yuans/1 million de jetons/min.
Le 1er juillet, Kimi Open Platform a annoncé que Context Caching avait commencé les tests publics.
La mise en cache contextuelle est une technologie de gestion de données efficace qui permet au système de pré-stocker de grandes quantités de données ou d'informations pouvant être fréquemment demandées.
De cette façon, lorsque vous demandez à nouveau les mêmes informations, le système peut rapidement les fournir directement à partir du cache sans avoir à les recalculer ou à les récupérer à partir de la source de données d'origine, ce qui permet d'économiser du temps et des ressources.
Le Context Caching est particulièrement adapté aux scénarios avec des requêtes fréquentes et des références répétées à un grand nombre de contextes initiaux. Il peut réduire considérablement le coût des modèles de textes longs et améliorer l'efficacité !
La plate-forme ouverte Kimi s'engage à fournir aux utilisateurs des services d'IA meilleurs et plus économiques. Cet ajustement des prix et la version bêta publique de la mise en cache contextuelle sont le reflet de l'amélioration et de l'innovation continues de la plate-forme et continueront d'apporter plus de surprises aux utilisateurs à l'avenir.