A plataforma aberta Kimi do Dark Side of the Moon anunciou recentemente duas atualizações importantes para trazer aos usuários uma experiência mais conveniente e econômica. Em primeiro lugar, a plataforma reduziu significativamente o custo do armazenamento em cache de contexto, reduzindo o preço em 50%, reduzindo efetivamente os encargos financeiros para os utilizadores. Em segundo lugar, a plataforma continua a otimizar serviços e a melhorar a experiência do utilizador. A seguir estão informações específicas:
Kimi Open Platform, uma subsidiária da Dark Side of the Moon, anunciou que o custo do armazenamento de cache de contexto será reduzido em 50%. Especificamente: a taxa de armazenamento em cache foi reduzida de 10 yuans/1 milhão de tokens/min para 5 yuans/1 milhão de tokens/min.
Em 1º de julho, a Kimi Open Platform anunciou que o Context Caching iniciou testes públicos.
Context Caching é uma tecnologia eficiente de gerenciamento de dados que permite ao sistema pré-armazenar grandes quantidades de dados ou informações que podem ser solicitadas com frequência.
Dessa forma, ao solicitar novamente as mesmas informações, o sistema pode atendê-las rapidamente, diretamente do cache, sem precisar recalculá-las ou recuperá-las da fonte de dados original, economizando tempo e recursos.
O cache de contexto é particularmente adequado para cenários com solicitações frequentes e referências repetidas a um grande número de contextos iniciais. Ele pode reduzir significativamente o custo de modelos de texto longo e melhorar a eficiência!
A plataforma aberta Kimi está comprometida em fornecer aos usuários serviços de IA melhores e mais econômicos. Este ajuste de preço e o beta público do cache de contexto são um reflexo da melhoria e inovação contínuas da plataforma e continuarão a trazer mais surpresas aos usuários no futuro.