ai chat protocol

Protokol Obrolan AI Microsoft

Microsoft AI Chat Protocol SDK adalah pustaka untuk dengan mudah membangun antarmuka AI Chat dari layanan yang mengikuti Spesifikasi API AI Chat Protocol, keduanya terletak di repositori ini.

Dengan menyetujui kontrak API standar, konsumsi dan evaluasi backend AI dapat dilakukan dengan mudah dan konsisten di berbagai layanan, apa pun model, alat orkestrasi, atau pola desain yang digunakan.

Catatan: kami sedang dalam pratinjau publik. Masukan Anda sangat kami hargai karena kami bersiap untuk tersedia secara umum!

Dengan Protokol Obrolan AI, Anda akan dapat:

• Kembangkan antarmuka obrolan AI, komponen, dan aplikasi dalam JavaScript/TypeScript (lebih banyak bahasa menyusul!)
• Gunakan dan evaluasi backend inferensi AI dan tingkat menengah secara konsisten dengan mudah, baik secara sinkron atau melalui streaming
• Gabungkan middleware HTTP dengan mudah untuk logging, autentikasi, dan lainnya.

Silakan beri bintang pada repo untuk menunjukkan dukungan Anda terhadap proyek ini!

Memulai

Panduan memulai komprehensif kami akan segera hadir! Pastikan untuk memeriksa sampel dan spesifikasi API untuk detail selengkapnya.

• Sampel
• Spesifikasi API
• Sampel di Azure

Untuk melihatnya secara lokal, instal perpustakaan melalui npm:

npm install @microsoft/ai-chat-protocol

Buat objek klien:

 const client = new AIChatProtocolClient ( "/api/chat" ) ;

Penyelesaian streaming ke UI Anda:

 let sessionState = undefined ;

// add any logic to handle state here
function setSessionState ( value ) {
    sessionState = value ;
}

const message : AIChatMessage = {
    role : "user" ,
    content : "Hello World!" ,
} ;

const result = await client . getStreamedCompletion ( [ message ] , {
    sessionState : sessionState ,
} ) ;

for await ( const response of result ) {
    if ( response . sessionState ) {
        //do something with the session state returned
    }
    if ( response . delta . role ) {
        // do something with the information about the role
    }
    if ( response . delta . content ) { 
        // do something with the content of the message
    }
} 

Sampel di Azure

Jika Anda penasaran dengan sampel yang dihosting di Azure, sampel berikut menggunakan AI Chat Protocol SDK di frontend:

• Obrolan AI tanpa server dengan RAG menggunakan LangChain.js
• Aplikasi Obrolan menggunakan Azure OpenAI (Python)
• Aplikasi Obrolan OpenAI dengan Otentikasi Microsoft Entra (Python) - Lokal
• Aplikasi Obrolan OpenAI dengan Otentikasi Entra Microsoft (Python) - Bawaan
• Frontend Aplikasi Obrolan OpenAI (Vanilla JS)
• Aplikasi Obrolan menggunakan Azure OpenAI (Python)

Selain itu, banyak proyek sampel Azure AI menggunakan spesifikasi API AI Chat Protocol tanpa SDK, karena proyek tersebut tidak memiliki frontend, atau karena dibuat sebelum perpustakaan dirilis:

• ChatGPT + Data perusahaan dengan Azure OpenAI dan AI Search dengan Python
• Data ChatGPT + Perusahaan dengan Azure OpenAI dan Azure AI Search di JavaScript
• Mengobrol dengan Mode GPT - backend FastAPI
• Mengevaluasi Aplikasi Obrolan RAG

Kode Etik

Proyek ini telah mengadopsi Kode Etik Sumber Terbuka Microsoft. Untuk informasi lebih lanjut lihat FAQ Pedoman Perilaku atau hubungi [email protected] jika ada pertanyaan atau komentar tambahan.

Lisensi

Hak Cipta (c) Microsoft Corporation. Semua hak dilindungi undang-undang.

Berlisensi di bawah lisensi MIT.