ai chat protocol

โปรโตคอลการแชท Microsoft AI

Microsoft AI Chat Protocol SDK เป็นไลบรารีสำหรับการสร้างอินเทอร์เฟซ AI Chat จากบริการที่เป็นไปตามข้อกำหนด AI Chat Protocol API ซึ่งทั้งสองอย่างนี้อยู่ในพื้นที่เก็บข้อมูลนี้

ด้วยการตกลงในสัญญา API มาตรฐาน การใช้งานแบ็กเอนด์ AI และการประเมินสามารถดำเนินการได้อย่างง่ายดายและสม่ำเสมอในบริการต่างๆ โดยไม่คำนึงถึงรุ่น เครื่องมือการเรียบเรียง หรือรูปแบบการออกแบบที่ใช้

หมายเหตุ: ขณะนี้เรากำลังอยู่ในการแสดงตัวอย่างแบบสาธารณะ ความคิดเห็นของคุณได้รับการชื่นชมอย่างมากในขณะที่เราพร้อมที่จะเผยแพร่สู่สาธารณะ!

ด้วย AI Chat Protocol คุณจะสามารถ:

• พัฒนาอินเทอร์เฟซการแชท AI ส่วนประกอบ และแอปพลิเคชันใน JavaScript/TypeScript (ภาษาอื่นๆ ที่จะตามมา!)
• ใช้และประเมินแบ็กเอนด์การอนุมาน AI และเทียร์กลางได้อย่างง่ายดายอย่างต่อเนื่อง ไม่ว่าจะพร้อมกันหรือโดยการสตรีม
• รวมมิดเดิลแวร์ HTTP สำหรับการบันทึก การรับรองความถูกต้อง และอื่นๆ ได้อย่างง่ายดาย

โปรดติดดาว repo เพื่อแสดงการสนับสนุนของคุณสำหรับโครงการนี้!

เริ่มต้นใช้งาน

คู่มือการเริ่มต้นใช้งานแบบครอบคลุมของเรากำลังจะมาในเร็วๆ นี้! อย่าลืมตรวจสอบตัวอย่างและข้อกำหนด API เพื่อดูรายละเอียดเพิ่มเติม

• ตัวอย่าง
• ข้อมูลจำเพาะของ API
• ตัวอย่างบน Azure

หากต้องการดูในเครื่อง ให้ติดตั้งไลบรารีผ่านทาง npm:

npm install @microsoft/ai-chat-protocol

สร้างวัตถุไคลเอนต์:

 const client = new AIChatProtocolClient ( "/api/chat" ) ;

สตรีมความสำเร็จไปยัง UI ของคุณ:

 let sessionState = undefined ;

// add any logic to handle state here
function setSessionState ( value ) {
    sessionState = value ;
}

const message : AIChatMessage = {
    role : "user" ,
    content : "Hello World!" ,
} ;

const result = await client . getStreamedCompletion ( [ message ] , {
    sessionState : sessionState ,
} ) ;

for await ( const response of result ) {
    if ( response . sessionState ) {
        //do something with the session state returned
    }
    if ( response . delta . role ) {
        // do something with the information about the role
    }
    if ( response . delta . content ) { 
        // do something with the content of the message
    }
} 

ตัวอย่างบน Azure

หากคุณสงสัยเกี่ยวกับตัวอย่างที่โฮสต์บน Azure ตัวอย่างต่อไปนี้จะใช้ AI Chat Protocol SDK ที่ส่วนหน้า:

• AI Chat แบบไร้เซิร์ฟเวอร์ด้วย RAG โดยใช้ LangChain.js
• แอปพลิเคชันแชทโดยใช้ Azure OpenAI (Python)
• แอปพลิเคชันแชท OpenAI พร้อม Microsoft Entra Authentication (Python) - ในเครื่อง
• แอปพลิเคชันแชท OpenAI พร้อม Microsoft Entra Authentication (Python) - ในตัว
• ส่วนหน้าของแอปแชท OpenAI (วานิลลา JS)
• แอปพลิเคชันแชทโดยใช้ Azure OpenAI (Python)

นอกจากนี้ โครงการตัวอย่าง Azure AI จำนวนมากใช้ข้อมูลจำเพาะ AI Chat Protocol API โดยไม่มี SDK เนื่องจากไม่มีส่วนหน้า หรือเนื่องจากสร้างขึ้นก่อนการเปิดตัวไลบรารี:

• ChatGPT + ข้อมูลองค์กรด้วย Azure OpenAI และ AI Search ใน Python
• ChatGPT + ข้อมูลองค์กรด้วย Azure OpenAI และ Azure AI Search ใน JavaScript
• แชทด้วยโหมด GPT - แบ็กเอนด์ FastAPI
• การประเมินแอปแชท RAG

หลักจรรยาบรรณ

โครงการนี้ได้นำหลักจรรยาบรรณของ Microsoft Open Source มาใช้ สำหรับข้อมูลเพิ่มเติม โปรดดูคำถามที่พบบ่อยเกี่ยวกับจรรยาบรรณหรือติดต่อ [email protected] หากมีคำถามหรือความคิดเห็นเพิ่มเติม

ใบอนุญาต

ลิขสิทธิ์ (c) Microsoft Corporation สงวนลิขสิทธิ์.

ได้รับอนุญาตภายใต้ใบอนุญาต MIT