การสาธิตนี้อ้างอิงจากเว็บไซต์ Learn Microsoft
สมุดบันทึก jupyter อื่นๆ บางรุ่นจะมีอยู่ในพื้นที่เก็บข้อมูลเพื่อแสดงวิธีใช้ผู้ช่วยในลักษณะที่ซับซ้อนยิ่งขึ้น
การสาธิตนี้จะใช้ python, ไลบรารี openAi และ azure เพื่อสร้างผู้ช่วยเพื่อใช้ในสมุดบันทึก jupyter
หากคุณต้องการทดสอบโดยตรงในสตูดิโอ Azure Ai นี่คือสตูดิโอ Azure OpenAi
เอกสารประกอบสำหรับสตูดิโอ Azure Ai
ผู้ช่วย (หรือหลายคนที่สามารถทำงานร่วมกันได้!) สามารถปฏิบัติงานได้หลากหลาย เช่น การตอบคำถาม การให้คำแนะนำ และการดำเนินการคำสั่งด้วยความช่วยเหลือของเครื่องมือ
ผู้ช่วยอาจมีเครื่องมือบางอย่าง:
คุณสามารถใช้ผู้ช่วยเพื่อสร้างแอปพลิเคชันได้หลากหลาย เช่น แชทบอท ตัวแทนเสมือน และอื่นๆ อีกมากมาย
ชัดเจนว่าคุณสามารถสร้างโค้ดไม่กี่บรรทัดให้ผู้ช่วยบางคนมีเครื่องมือเพื่อสร้างไปป์ไลน์ของเธรดเพื่อตอบข้อซักถามหรือความต้องการจากผู้ใช้ ผู้ช่วยจะหยิบเครื่องมือที่ถูกต้องตามความต้องการตามความต้องการของผู้ใช้
ในแนวคิดเดียวกัน คุณสามารถใช้โมเดลที่แตกต่างกันโดยผู้ช่วยเพื่อให้ได้รับการตอบสนองที่ดีขึ้น หรือเพื่อจำกัดค่าใช้จ่ายของผู้ช่วย
คุณสามารถสร้างผู้ช่วยหลายคนด้วยเครื่องมือที่แตกต่างกันในเธรดเดียว (ไม่พร้อมกันหรือไม่ก็ได้) เพื่อแก้ไขปัญหาหรือเพื่อให้การตอบกลับแก่ผู้ใช้ คุณยังสามารถมีเธรดที่แตกต่างกันกับผู้ช่วยที่แตกต่างกันได้
Multi-Assistant Thread ทำงานพร้อมการเรียกใช้ฟังก์ชันแบบขนาน
ในท้ายที่สุดด้วยไลบรารีนี้ คุณจะได้รับการตอบสนองในรูปแบบ json จัดรูปแบบที่ใช้งานง่ายใน python และเพื่อดำเนินการบางอย่างกับมัน
เพื่อสร้างการเรียบเรียงของผู้ช่วย คุณจะต้องจัดการสิ่งเหล่านี้:
การสาธิตครั้งแรกที่รูทของพื้นที่เก็บข้อมูลเป็นตัวช่วยง่ายๆ ตามเอกสารของ Microsoft
AoaiAssistant.ipynb
สถานการณ์ชื่อ | สมุดบันทึกคำอธิบาย | ลิงค์ |
---|---|---|
ผู้ช่วยแก้คณิตศาสตร์ | ผู้ช่วย 1 คนที่มีเฉพาะล่ามโค้ดเป็นเครื่องมือ | AoaiAssistant.ipynb |
คุณจะต้องใช้หากคุณต้องการทดสอบโน้ตบุ๊กในเครื่อง:
หลาม 3.8 หรือใหม่กว่า
รหัส Visual Studio และปลั๊กอิน:
การสมัครสมาชิก Azure - 200 $ สำหรับการสมัครสมาชิกครั้งแรก
การเข้าถึงบริการ Azure OpenAi ขอการเข้าถึง AOAI
เข้าถึงรุ่น Lastet gpt4 0125 (มีจำหน่ายจริงในสวีเดนตอนกลาง, สหรัฐอเมริกาตะวันตก, ญี่ปุ่นตะวันออก)
รุ่นอื่นๆ สามารถใช้งานร่วมกับคุณสมบัติตัวแทนได้
ปรับใช้บริการในพอร์ทัล azure สำหรับบริการ Azure open Ai ในภูมิภาคตามลำดับ
ทำการปรับใช้โมเดลในสตูดิโอ Ai ของบริการ azure openAi ระบุชื่อของการปรับใช้
หรือ
Codespace เพื่อใช้โน้ตบุ๊กในระบบคลาวด์ด้วย Github
สำหรับชื่อของการปรับใช้สำหรับโมเดล (โดยปกติคุณตั้งชื่อไว้ซึ่งอาจแตกต่างจากชื่อของโมเดลเมื่อคุณปรับใช้) ในสตูดิโอ Azure Ai คุณสามารถค้นหาได้ในส่วนการปรับใช้ของโมเดล หากคุณไม่ต้องการ ไม่ได้เตือนมัน
คุณต้องแก้ไขข้อมูลอย่างถูกต้องใน Secrets_env ที่เปลี่ยนชื่อใน Secrets.env
จุดสิ้นสุดสีฟ้าและคีย์สีฟ้าสำหรับบริการ Open Ai สามารถพบได้ในพอร์ทัล Azure / การสมัครสมาชิกของคุณ หรือโดยตรงในหมวดหมู่การสนทนาใน Ai studio โดยเลือกรุ่นและคลิกรหัสปุ่มในขั้นตอนแรก และหลังจากนั้นคุณจะต้องคลิกที่ปุ่ม "แสดงความลับ" เพื่อรับคีย์และจุดสิ้นสุดจะแสดงในโค้ดตัวอย่าง
คุณจะต้องคลิกที่แต่ละขั้นตอนของรหัสโดยปุ่มเล่นทางด้านซ้ายของแต่ละเซลล์
ไม่มีข้อผิดพลาดที่คุณจะได้รับที่เซลล์สุดท้ายดัมพ์ json นี้พร้อมผลลัพธ์และข้อมูลทั้งหมดที่รวบรวม
เมื่อคุณพร้อม คุณสามารถทำตามขั้นตอนในสมุดบันทึก AzureAOAI.ipynb
ในกรณีของฉัน การใช้โมเดลของฉันสำหรับ gpt4-1106 มีชื่อว่า gpt-4turbo
ตอนนี้คุณสามารถใช้โน้ตบุ๊กหลามในโค้ด Visual Studio (หรือภายในเบราว์เซอร์ที่มีโค้ดสเปซ) หากคุณต้องการสร้างกระบวนการบางอย่างกับผลลัพธ์หรือการประสานกับผลลัพธ์ของผู้ช่วย:
คุณได้สร้างผู้ช่วยแล้วหรือยัง? คุณต้องการที่จะเข้าใจวิธีการจัดการกระทู้และข้อความหรือไม่?
ก่อนอื่นให้ดูเอกสารประกอบเพื่อความเข้าใจและเริ่มที่ผู้ช่วย
โดยเคารพโฟลว์เฉพาะเพื่อสร้างเธรดและจัดการข้อความในเธรด
ลำดับไดอะแกรม
ผู้เข้าร่วม A เป็นผู้ช่วยการสร้าง
ผู้เข้าร่วม B เป็นการสร้างเธรด
ผู้เข้าร่วม C เป็นการสร้างข้อความของผู้ใช้
ผู้เข้าร่วม D เป็นการประมวลผลเธรด
ผู้เข้าร่วม E เป็นการเรียกสถานะการเรียกใช้
ผู้เข้าร่วม F เป็นลูปตรวจสอบสถานะ
ผู้เข้าร่วม G เป็นการดึงข้อความ
A->>B: สร้างผู้ช่วยด้วยโมเดล
B->>C: สร้างเธรด
C->>D: เพิ่มข้อความผู้ใช้ไปที่เธรด
D->>E: ดำเนินการเธรด
E->>F: เรียกสถานะการรัน
F->>F: วนซ้ำจนกว่าสถานะจะสิ้นสุด
F-->>G: สถานะ: เสร็จสมบูรณ์
หมายเหตุทางขวาของ G: ดึงข้อมูลและแสดงข้อความ
F-->>A: สถานะ: ถูกยกเลิก
F-->>A: สถานะ: หมดอายุแล้ว
F-->>A: สถานะ: ล้มเหลว
{
"data" : [
{
"id" : " msg_5Oc2nmN7boHKfYuJaOnxkYrQ " ,
"assistant_id" : " asst_vid43QSBUFAVr7f7nraAwfkS " , // the id of the assistant
"content" : [
{
"text" : {
"annotations" : [],
"value" : " The solution to the equation \ (3x + 11 = 14 \ ) is \ (x = 1 \ ). " // the result of the assistant
},
"type" : " text "
}
],
"created_at" : 1706827368 ,
"file_ids" : [],
"metadata" : {},
"object" : " thread.message " ,
"role" : " assistant " ,
"run_id" : " run_VlCTYceNmV8HlQyOLQUe7Xj6 " ,
"thread_id" : " thread_KM402gTevvYxlfxYA1ONQPHP "
},
{
"id" : " msg_ZHWVk1gJT292L4YJzlbLjmFq " ,
"assistant_id" : null ,
"content" : [
{
"text" : {
"annotations" : [],
"value" : " I need to solve the equation `3x + 11 = 14`. Can you help me? " // the rquest of the user
},
"type" : " text "
}
],
"created_at" : 1706827327 ,
"file_ids" : [],
"metadata" : {},
"object" : " thread.message " ,
"role" : " user " ,
"run_id" : null ,
"thread_id" : " thread_KM402gTevvYxlfxYA1ONQPHP " // id of the thread
}
],
"object" : " list " ,
"first_id" : " msg_5Oc2nmN7boHKfYuJaOnxkYrQ " , // the id of the first message - request user
"last_id" : " msg_ZHWVk1gJT292L4YJzlbLjmFq " , // Last message of the thread
"has_more" : false
}
เครื่องมือล่ามโค้ดจะแปลงเป็นโค้ดหลาม ในกรณีการใช้งานนี้ หากคุณต้องการตรวจสอบวิธีแก้ปัญหาของผู้ช่วยสำหรับปัญหาคณิตศาสตร์ด้วยไลบรารีเฉพาะ เช่น sympy หรือ numpy
ข้อมูลเหล่านี้ดึงมาจากไลบรารี openAi ในไลบรารี python python openai
code_interpreter
, retrieval
หรือ function