The Dark Side of the Moon의 Kimi 오픈 플랫폼은 최근 사용자에게 보다 편리하고 경제적인 경험을 제공하기 위한 두 가지 중요한 업데이트를 발표했습니다. 우선, 플랫폼은 컨텍스트 캐시 저장 비용을 대폭 줄여 가격을 50% 절감함으로써 사용자의 재정적 부담을 효과적으로 줄였습니다. 둘째, 플랫폼은 지속적으로 서비스를 최적화하고 사용자 경험을 개선합니다. 다음은 구체적인 정보입니다.
다크사이드오브더문(Dark Side of the Moon)의 자회사 키미오픈플랫폼(Kimi Open Platform)이 컨텍스트 캐시 캐시 저장 비용을 50% 절감한다고 밝혔다. 구체적으로 말하면, 캐시 저장 비용이 10위안/100만 토큰/분에서 5위안/100만 토큰/분으로 인하됩니다.
7월 1일 Kimi Open Platform은 컨텍스트 캐싱이 공개 테스트를 시작했다고 발표했습니다.
Context Caching은 자주 요청되는 대량의 데이터나 정보를 시스템이 미리 저장할 수 있도록 하는 효율적인 데이터 관리 기술입니다.
이렇게 하면 동일한 정보를 다시 요청할 때 시스템이 원래 데이터 소스에서 해당 정보를 다시 계산하거나 검색할 필요 없이 캐시에서 직접 해당 정보를 신속하게 제공할 수 있어 시간과 리소스가 절약됩니다.
컨텍스트 캐싱은 요청이 빈번하고 다수의 초기 컨텍스트에 대한 반복 참조가 있는 시나리오에 특히 적합합니다. 긴 텍스트 모델의 비용을 크게 줄이고 효율성을 향상시킬 수 있습니다.
Kimi 오픈 플랫폼은 사용자에게 더 좋고 더 경제적인 AI 서비스를 제공하기 위해 최선을 다하고 있습니다. 이러한 가격 조정과 컨텍스트 캐싱의 공개 베타는 플랫폼의 지속적인 개선과 혁신을 반영하며 앞으로도 사용자에게 더 많은 놀라움을 선사할 것입니다.