watsonx ai platform demos
1.0.0
การซื้อคืนนี้ประกอบด้วยการสาธิต IBM watsonx ซึ่งเป็น AI ของ IBM และแพลตฟอร์มข้อมูลที่สร้างขึ้นเพื่อธุรกิจ
ตัวอย่างแอปพลิเคชัน AI ใน Repo นี้ใช้ประโยชน์จากองค์ประกอบหลักต่อไปนี้:
มีการใช้สถานการณ์ตัวอย่างในการดูแลลูกค้าของบริษัทโทรคมนาคม ตัวแทนที่เป็นมนุษย์ พูดคุยกับ ลูกค้า เพื่อแก้ไขปัญหาของพวกเขา ตัวแทนที่เป็นมนุษย์ได้รับการสนับสนุนจาก ตัวแทนดิจิทัล เพื่อทำการแก้ไขที่จำเป็นให้เป็นอัตโนมัติมากที่สุด
ต่อไปนี้เป็นสำเนาการสนทนากับลูกค้าที่มีปัญหาเกี่ยวกับเราเตอร์ Wi-Fi:
John (Teltop Customer Care Agent): Hello, this is John from Teltop customer care. How
can I assist you today?
Mary (Disappointed Subscriber): Hi John, it's Mary again. I've been having a nightmare
with your service. My home Wi-Fi is acting up, and the TV service over fiber is
terrible.
John: I'm sorry to hear about the troubles you're facing at home, Mary. Let's address
these issues. Can you please provide me with your account number or the phone number
associated with your account?
Mary: Sure, it's 123-555-1234.
[...]
John: Mary, it appears there are some issues with your router. We need to update the
router software.
ในตัวอย่างนี้ ซอฟต์แวร์ของเราเตอร์สามารถอัปเดตจากระยะไกลและอัตโนมัติได้ หากสามารถทำได้สำเร็จ อีเมลจะถูกส่งไปยังลูกค้า
การถอดเสียงการโทรสามารถทำได้ผ่านบริการคำพูดเป็นข้อความ สินทรัพย์ครอบคลุมสามขั้นตอนต่อไปนี้ซึ่งดำเนินการตามลำดับ ในการอัพเดตเราเตอร์และส่งอีเมลจะมีการเรียกใช้เครื่องมือ
มาดูรายละเอียดขั้นตอนที่ (2) กันดีกว่า หากสรุปการถอดเสียงมี 'การอัปเดตเราเตอร์' เป็นการดำเนินการแก้ไข ตัวแทนเข้าใจว่าจะต้องเรียกใช้เครื่องมือพร้อมหมายเลขโทรศัพท์ของลูกค้าเป็นอินพุต
Agent UpdateRouterIfNecessary LLM Output:
{
generated_text: 'Question: Update the router for Mary (123-555-1234) based on the
transcript summary.n' +
'Thought: I need to update the router for Mary (123-555-1234) based on the
transcript summary, so I will use the RouterUpdate tool.n' +
'Tool Name: RouterUpdaten' +
'Tool Caption: Updating router software for Mary (123-555-1234)n' +
'Tool Input: {"phoneNumber":"123-555-1234"}n' +
'Tool Output: ',
generated_token_count: 4465,
input_token_count: 1271,
stop_reason: 'not_finished'
}
เอเจนต์ถูกนำไปใช้กับ Bee Agent Framework ใน TypeScript เฟรมเวิร์กนี้สร้างขึ้นโดย IBM Research และพร้อมใช้งานในรูปแบบโอเพ่นซอร์ส ตัวอย่างต่อไปนี้แสดงคำจำกัดความของเครื่องมือเราเตอร์ซึ่งใส่ไว้ในพรอมต์เมื่อเรียกใช้โมเดลภาษาขนาดใหญ่
export class RouterUpdateTool extends Tool <
RouterUpdateToolOutput , RouterUpdateToolOptions , RouterUpdateToolRunOptions > {
name = "RouterUpdate" ;
description = "Updates the software of routers remotely for a subscriber " +
"with a certain phone number." ;
inputSchema ( ) {
return z . object ( {
phoneNumber : z
. string ( { description : `Phone number of a subscriber, for example '123-456-7890'` } )
. min ( 1 )
. max ( 40 ) ,
} ) ;
}แทนที่จะทำให้เอาท์พุตของเครื่องมือเกิดอาการประสาทหลอน เอเจนต์จะหยุดสตรีมจาก LLM หลังจาก 'เอาท์พุตของเครื่องมือ: ' และดำเนินการเครื่องมือแทน
Agent UpdateRouterIfNecessary (tool_input) ? : {"phoneNumber":"123-555-1234"}
Input to Router Update tool - phoneNumber: 123-555-1234
Agent UpdateRouterIfNecessary (tool_output) ? : {"success":"true",
"text":"Router has been updated"}
มีโฟลว์ที่แตกต่างกันสามแบบที่ใช้สถานการณ์เดียวกัน
แอปพลิเคชันเอเจนต์สามารถรันเป็นแอปพลิเคชัน TypeScript แบบสแตนด์อโลนได้ เช่น ในเครื่องเพื่อวัตถุประสงค์ในการพัฒนา นอกจากนี้ watsonx Orchestrate ยังสามารถใช้เพื่อเรียกใช้สามขั้นตอนและส่งบริบทระหว่างขั้นตอนต่างๆ
เมื่อเลือก 'ซ่อนแบบฟอร์มนี้จากผู้ใช้' ขั้นตอนทั้งหมดจะถูกดำเนินการ เช่น ในไคลเอนต์แชท Orchestrate หรือผ่าน API
เพื่อสรุปการถอดเสียง สามารถใช้ LLama 3.1 70b รุ่นที่ใหญ่กว่าได้บน watsonx.ai เพื่อให้ได้รับเวลาตอบสนองที่รวดเร็วขึ้นและเพื่อประหยัดค่าใช้จ่ายในการใช้งานโมเดลต่างๆ จึงสามารถปรับแต่งโมเดลขนาดเล็กได้อย่างละเอียด
InstructLab เป็นโครงการริเริ่มแบบโอเพ่นซอร์สที่นำโดย Red Hat และ IBM Research นอกเหนือจากความสามารถในการปรับแต่งโมเดล AI ที่สร้างขึ้นแล้ว ยังรองรับการสร้างข้อมูลสังเคราะห์เพื่อให้ใช้ข้อมูลจริงน้อยลง
ตัวอย่างเช่น InstructLab สามารถสร้างการถอดเสียงตัวอย่าง (บริบท) เพิ่มเติมโดยอิงจากตัวอย่างจริงสองสามตัวอย่างที่กำหนดไว้ในไฟล์ yaml
version : 3
task_description : >-
Summarization of phone call transcripts between human agents
and clients of a telecommunication service provider about
technical issues.
created_by : nheidloff
seed_examples :
- context : >-
John (Teltop Customer Care Agent): Hello, this is John from Teltop customer
care. How can I assist you today?nnMary (Disappointed Subscriber): Hi
John, it'''s Mary. I'''ve been having a nightmare with your service.
My home Wi-Fi is acting up, and the TV service over fiber is terrible.
nnJohn: I'm sorry to hear about the troubles you're facing at home, Mary.
Let's address these issues. Can you please provide me with your account number
or the phone number associated with your account??nnMary: Sure, it'''s
123-555-1234. [...]
nnJohn: Mary, it appears there are some issues with your router. We need
to update the router software. [...]
question: >-
Summarize the transcript of the call. Identify the agent and the
subscriber. Add any specific issues mentioned by the subscriber. Add any
corrective actions taken as directed by the agent. Please mention if the
issue is resolved. Mention any follow-up actions and timelines. List the
phone number of the subscriber at the end.
answer: >-
**Agent:** Miken**Subscriber:** Saran [...]
**Corrective Actions:** Router software update [...]
**Subscriber's Phone Number:** 123-555-1234ตัวอย่างต่อไปนี้แสดงตัวอย่างผลลัพธ์บางส่วน ในทำนองเดียวกัน InstructLab สามารถสร้างและประเมินผลสรุป (คำตอบ)
[Start of Context]
Raj (Customer Care Agent): Hello, this is Raj from customer care. How can I assist
you today?
Samantha (Customer): Hi Raj, I'm having trouble with my internet connection. It's
been really slow lately [cut ... cut]
[End of Context]
โมเดลรองพื้นและโมเดลแบบกำหนดเองจาก HuggingFace สามารถนำเข้าและปรับใช้บน watsonx.ai
เพื่อประเมินโมเดลพื้นฐาน watsonx.governance จัดเตรียมกลไกในการตรวจสอบโมเดลด้วยตัววัดที่พร้อมใช้งานหลากหลาย รวมถึงตัววัดแบบกำหนดเอง
git clone https://github.com/IBM/watsonx-ai-platform-demos
cd watsonx-demos/applications/application
cp .env.template .env
# define WATSONX_API_KEY and WATSONX_PROJECT_ID
yarn install
yarn start:appOneLLMTwoAgentsดูเอกสารการสมัครเพิ่มเติม
การสาธิตการซื้อคืนนี้ดำเนินการโดยทีมงาน IBM DACH CSM ร่วมกับ Tech Sales
