Platform terbuka Kimi Sisi Gelap Bulan baru-baru ini mengumumkan dua pembaruan penting untuk memberikan pengalaman yang lebih nyaman dan ekonomis kepada pengguna. Pertama-tama, platform ini telah secara signifikan mengurangi biaya penyimpanan cache konteks, mengurangi harga sebesar 50%, dan secara efektif mengurangi beban keuangan pengguna. Kedua, platform terus mengoptimalkan layanan dan meningkatkan pengalaman pengguna. Berikut ini adalah informasi spesifik:
Kimi Open Platform, anak perusahaan Dark Side of the Moon, mengumumkan bahwa biaya penyimpanan cache konteks cache akan berkurang sebesar 50%. Khususnya: Biaya penyimpanan cache dikurangi dari 10 yuan/1 juta token/menit menjadi 5 yuan/1 juta token/menit.
Pada tanggal 1 Juli, Kimi Open Platform mengumumkan bahwa Context Caching telah memulai pengujian publik.
Context Caching adalah teknologi manajemen data efisien yang memungkinkan sistem menyimpan terlebih dahulu sejumlah besar data atau informasi yang mungkin sering diminta.
Dengan cara ini, ketika Anda meminta informasi yang sama lagi, sistem dapat dengan cepat menyajikannya langsung dari cache tanpa harus menghitung ulang atau mengambilnya dari sumber data asli, sehingga menghemat waktu dan sumber daya.
Caching Konteks sangat cocok untuk skenario dengan permintaan yang sering dan referensi berulang ke sejumlah besar konteks awal. Hal ini dapat secara signifikan mengurangi biaya model teks panjang dan meningkatkan efisiensi!
Platform terbuka Kimi berkomitmen untuk menyediakan layanan AI yang lebih baik dan lebih ekonomis kepada pengguna. Penyesuaian harga dan cache konteks beta publik ini merupakan cerminan dari peningkatan dan inovasi platform yang berkelanjutan, dan akan terus menghadirkan lebih banyak kejutan bagi pengguna di masa depan.