Gensokyo llm
Release 166
รุ่นใหญ่ในคลิกเดียวเหมาะสำหรับ Gensokyo และ Onebotv11
การเข้าถึงหุ่นยนต์ระดับเริ่มต้นอย่างง่ายดาย: เพียงเชื่อมต่อหุ่นยนต์กับ 6 แพลตฟอร์มหลัก รวมถึง QQ
ระดับกลาง - บทช่วยสอนการเชื่อมต่อ one-api: การจัดการภาพของ api โมเดลขนาดใหญ่
ตัวอย่างการกำหนดค่า API ของโมเดลระดับกลาง-ใหญ่-โมเดลขนาดใหญ่ในประเทศ
ตัวอย่างการกำหนดค่า API โมเดลระดับกลาง-ขนาดใหญ่-บทระหว่างประเทศ
พร้อมใช้งาน - ปรับใช้อย่างรวดเร็วบน Telegram
เริ่มต้นใช้งาน - ปรับใช้อย่างรวดเร็วบน Discord
พร้อมใช้งาน - ปรับใช้อย่างรวดเร็วใน Kook
Simple-SillyTavern-Hunyuan
Simple-SillyTavern-ถุงถั่ว
รองรับเฟรมเวิร์กมาตรฐาน Onebotv11 ทั้งหมด รองรับ http-api และ Reverse ws รองรับการสตรีม ไฟล์การกำหนดค่าหลายไฟล์ (คำพร้อมท์หลายคำ)
ขนาดเล็กพิเศษ บริบทการบำรุงรักษา sqlite ในตัว รองรับพร็อกซี
การเชื่อมต่อกับกรอบงาน Gensokyo เพียงคลิกเดียวต้องการเพียงการกำหนดค่าที่อยู่ http แบบย้อนกลับสำหรับรับข้อมูลและที่อยู่ http ส่งต่อสำหรับการเรียก API การส่ง
รักษาบริบทโดยอัตโนมัติตามฐานข้อมูล sqlite ในโหมดการสนทนา ให้ใช้คำสั่งรีเซ็ตเพื่อรีเซ็ต
ระบบ, การ์ดบทบาท, ความยาวบริบทสามารถกำหนดได้,
ในเวลาเดียวกัน API รสชาติดั้งเดิมของ openai พร้อมบริบทอัตโนมัตินั้นมอบให้กับโลกภายนอก (พารามิเตอร์ 3 แบบคลาสสิก, รหัส, รหัสหลัก, Messgae)
สามารถทำงานเป็น API และยังสามารถเชื่อมต่อกับแพลตฟอร์มเปิดหุ่นยนต์ QQ Channel Robot QQ ได้ด้วยคลิกเดียว
สามารถแปลงประเภท sse ของ gpt เพิ่มหรือส่งเฉพาะ sse ใหม่ได้
การรักษาความปลอดภัยของหน่วยความจำ SSE ในสภาพแวดล้อมที่เกิดขึ้นพร้อมกันสนับสนุนการรักษาการส่งผ่าน SSE แบบสองทิศทางพร้อมกันสำหรับผู้ใช้หลายคน
เทนเซ็นต์ ฮุนหยวน
เทนเซ็นต์ หยวนฉี
ไป่ตู้ เหวินซิน
อาลี ตงยี่
สเปกตรัมภูมิปัญญาชิงหัว
ภูเขาไฟไบต์ (บีนแบ็ก)
OpenAI
โกรคิว
นักวิ่ง Rwkv
หนึ่ง API
แปลง API ของแพลตฟอร์มเหล่านี้เป็นโครงสร้าง API แบบรวม ให้บริบท และรองรับการส่งคืน SSE
ด้วยการตั้งค่าโทเค็นของแพลตฟอร์มที่เกี่ยวข้องใน yml และการตั้งค่า AllApi=true จึงสามารถทำการสลับการโทรได้ในเวลาเดียวกัน
กรอบ Gensokyo - แพลตฟอร์มเปิด QQ
Gensokyo Framework-ความไม่ลงรอยกัน
Gensokyo Framework-กุ๊ก
Gensokyo framework-บัญชีการสมัครสมาชิก WeChatบัญชีสาธารณะ
Gensokyo Framework-โทรเลข
การใช้งาน Onebotv11 ทั้งหมด
มาตรการรักษาความปลอดภัยที่สมบูรณ์หลายประการเพื่อความปลอดภัยของนักพัฒนาและแอปพลิเคชัน llm ให้มากที่สุดเท่าที่จะเป็นไปได้
สามารถตั้งค่า QA จำลองได้หลายรอบเพื่อเสริมความแข็งแกร่งของคำแจ้งเตือนตามบทบาท รีเซ็ตการตอบกลับ การตอบกลับคำที่ปลอดภัย และสามารถปรับแต่งมาตรการความปลอดภัยระดับแรกได้
รองรับการเชื่อมต่อระหว่างกันของ gsk-llm หลายรายการเพื่อสร้างแอปพลิเคชัน ai-agent เช่น หนึ่งคำพร้อมท์ในการเรียงลำดับ llm สำหรับอีก llm การตรวจสอบคำพร้อมท์ และมาตรการรักษาความปลอดภัยรอง
รายการคำที่ปลอดภัยสำหรับเวกเตอร์ รายการคำสกัดกั้นที่มีความละเอียดอ่อนโดยยึดตามความคล้ายคลึงกันของเวกเตอร์ จะดำเนินการก่อนการแทนที่ข้อความ ซึ่งเป็นมาตรการรักษาความปลอดภัยประการที่สาม
กฎการแทนที่ข้อความ IN-Out ที่มีประสิทธิภาพสูงซึ่งใช้โดยอัลกอริธึม AhoCorasick สามารถแทนที่คำหลักจำนวนมาก n คำด้วยคำหลักใหม่ที่สอดคล้องกัน ระดับที่สี่ของมาตรการรักษาความปลอดภัย
ผลลัพธ์สามารถส่งผ่าน Baidu-Tencent อีกครั้ง อินเทอร์เฟซการตรวจสอบข้อความ มาตรการรักษาความปลอดภัยชั้นที่ห้า
บันทึกจะถูกบันทึกอย่างสมบูรณ์ และพารามิเตอร์บรรทัดคำสั่ง -test สามารถเรียกใช้สคริปต์ทดสอบความปลอดภัยด้วยตนเองจาก test.txt ได้อย่างรวดเร็ว
บรรทัดคำสั่ง -mlog จะดำเนินการจัดรูปแบบ QA บนบันทึกที่จัดเก็บอยู่ทั้งหมด ตรวจสอบทุกวัน แยกกฎความปลอดภัยใหม่ออกจากสถานการณ์จริง และเพิ่มมาตรการรักษาความปลอดภัยระดับที่หกอย่างต่อเนื่อง
การกรองภาษาช่วยให้ llm ยอมรับเฉพาะภาษาที่ระบุ แปลงภาษาจีนตัวเต็มเป็นภาษาจีนตัวย่อโดยอัตโนมัติ ใช้กฎความปลอดภัย และปกป้องในขอบเขตความเชี่ยวชาญของตนเอง
การจำกัดความยาวของคำพร้อมท์ ควบคุมความปลอดภัยด้วยวิธีดั้งเดิมที่สุด ป้องกันผู้ใช้ที่เป็นอันตรายจากการสร้างคำพร้อมท์ยาว ซึ่งเป็นมาตรการรักษาความปลอดภัยระดับที่ 8
ด้วยวิธีการเหล่านี้ คุณสามารถสร้างหุ่นยนต์สนทนา llm ที่ปลอดภัยที่สุดเท่าที่จะเป็นไปได้
การเปลี่ยนข้อความ IN-OUT สองชั้นคุณสามารถรับรู้ถึงการเปลี่ยนแบบไดนามิกและการปรับเปลี่ยนคำพร้อมท์ภายในได้ด้วยตัวเองซึ่งปลอดภัยและมีประสิทธิภาพยิ่งขึ้น
ขึ้นอยู่กับโครงสร้างตารางข้อมูลเวกเตอร์ที่ออกแบบโดย SQLite สามารถใช้แคชเพื่อประหยัดเงินได้ ปรับแต่งอัตราการเข้าถึงแคชและความแม่นยำ
แอปพลิเคชันสถานการณ์เฉพาะที่ปรับให้เหมาะกับสถานการณ์ที่มีประสิทธิภาพสูง ประสิทธิภาพสูง และ QPS สูง ไม่มีฟังก์ชันและคำแนะนำที่ซ้ำซ้อน และได้รับการออกแบบมาโดยเฉพาะสำหรับมนุษย์ดิจิทัล
เรียกใช้โปรแกรมปฏิบัติการ gensokyo-llm โดยใช้บรรทัดคำสั่ง
กำหนดค่า config.yml เพื่อเริ่มต้น จากนั้นฟังพอร์ตพอร์ตเพื่อจัดเตรียม /conversation api
รองรับการพัฒนามิดเดิลแวร์ ระหว่างเลเยอร์เฟรมเวิร์ก gensokyo และคำขอ http ของ gensokyo-llm มิดเดิลแวร์สามารถพัฒนาเพื่อใช้การขยายเวกเตอร์ การขยายฐานข้อมูล และการปรับเปลี่ยนแบบไดนามิกของปัญหาผู้ใช้
รองรับการเชื่อมต่อแบบย้อนกลับและรองรับการเชื่อมต่อพร้อมกันกับ onebotv11 http-api หลายตัว
เอกสารนี้ให้คำแนะนำเกี่ยวกับวิธีการเรียกอินเทอร์เฟซ API และรูปแบบของไฟล์การกำหนดค่าเพื่อช่วยให้ผู้ใช้ใช้งานและกำหนดค่าได้อย่างถูกต้อง
จุดสิ้นสุด conversation และ gensokyo ของระบบนี้รองรับการระบุการกำหนดค่าเฉพาะผ่านพารามิเตอร์เคียวรี ?prompt=xxx
พารามิเตอร์ prompt อนุญาตให้ผู้ใช้ระบุไฟล์ YAML การกำหนดค่าที่อยู่ในโฟลเดอร์ prompts ของไฟล์ปฏิบัติการ (exe) ใช้พารามิเตอร์นี้เพื่อปรับพฤติกรรม API แบบไดนามิกและส่งคืนเนื้อหา
โฟลเดอร์ prompts จำเป็นต้องมี keyboard.yml เริ่มต้นสำหรับการสร้าง bubble คำแจ้งของระบบจะต้องเป็นไปตามกฎ prompts ของโปรแกรมสร้าง bubble ของ json
ไฟล์การกำหนดค่าควรเป็นไปตามรูปแบบ YAML ต่อไปนี้ ไฟล์การกำหนดค่าตัวอย่างมีให้ที่นี่ซึ่งแสดงวิธีกำหนดเนื้อหาบทสนทนาสำหรับบทบาทที่แตกต่างกัน:
Prompt :
- role : " system "
content : " Welcome to the system. How can I assist you today? "
- role : " user "
content : " I need help with my account. "
- role : " assistant "
content : " I can help you with that. What seems to be the problem? "
- role : " user "
content : " aaaaaaaaaa! "
- role : " assistant "
content : " ooooooooo? "
settings :
# 以下是通用配置项 和config.yml相同
useSse : true
port : 46233 /gensokyo จุดสิ้นสุด ระบบรองรับพารามิเตอร์ prompt เพิ่มเติมและพารามิเตอร์ api เมื่อทำการร้องขอไปยังตำแหน่งข้อมูล /gensokyo พารามิเตอร์ api อนุญาตให้ระบุจุดสิ้นสุดแบบเต็ม เช่น /conversation_ernie หากต้องการเปิดใช้งานคุณสมบัตินี้ คุณต้องเปิดใช้งานตัวเลือก allapi ในการกำหนดค่า
คำขอตัวอย่าง:
GET /gensokyo?prompt=example&api=conversation_ernieรายการปลายทางที่รองรับ: (ต้องมีการกำหนดค่า: allApi: true)
http . HandleFunc ( "/conversation_gpt" , app . ChatHandlerChatgpt )
http . HandleFunc ( "/conversation_hunyuan" , app . ChatHandlerHunyuan )
http . HandleFunc ( "/conversation_ernie" , app . ChatHandlerErnie )
http . HandleFunc ( "/conversation_rwkv" , app . ChatHandlerRwkv )
http . HandleFunc ( "/conversation_tyqw" , app . ChatHandlerTyqw )
http . HandleFunc ( "/conversation_glm" , app . ChatHandlerGlm )/conversation เช่นเดียวกับ /gensokyo ตำแหน่งข้อมูล /conversation รองรับพารามิเตอร์ prompt เพิ่มเติม
คำขอตัวอย่าง:
GET /conversation?prompt=example prompt พารามิเตอร์ prompt ที่ระบุจะอ้างอิงไฟล์ YAML ที่สอดคล้องกันในโฟลเดอร์ /prompts ในไดเร็กทอรีที่เรียกใช้งานได้ (เช่น xxxx.yml โดยที่ xxxx คือค่าของพารามิเตอร์ prompt )
ด้วยการเขียนไฟล์ yml จำนวนมากพร้อมข้อความแจ้ง คุณสามารถสลับการ์ดตัวละครได้ ด้วยตัวละครตัวเดียวกัน คุณสามารถสลับเนื้อเรื่องและฉากต่างๆ ได้
สำหรับรูปแบบการกำหนดค่าของไฟล์ YAML โปรดดูส่วน รูปแบบไฟล์การกำหนดค่า YAML รายการการกำหนดค่าที่แสดงด้านล่างรองรับการแทนที่แบบไดนามิกในคำขอ:
พารามิเตอร์แต่ละตัวใช้ความครอบคลุมของการกำหนดค่า
หากจำเป็นต้องรองรับการละเว้นและการกำหนดค่าที่ครอบคลุม โปรดส่งปัญหา
ต้องระบุค่าบูลทั้งหมดใน yml ที่ครอบคลุมโดยไฟล์กำหนดค่า มิฉะนั้นจะถือว่าเป็นเท็จ
การแทนที่การกำหนดค่าแบบไดนามิกเป็นคุณสมบัติที่ฉันคิดขึ้นมาเอง การใช้คุณสมบัตินี้ทำให้คุณสามารถเรียกซ้ำระหว่างไฟล์การกำหนดค่าได้ ตัวอย่างเช่น คุณสามารถส่ง prompt=a ในมิดเดิลแวร์ของคุณ ระบุ Lotus เพื่อเรียกตัวเองใน a.yml และระบุไฟล์ถัดไป พารามิเตอร์พร้อมต์ในที่อยู่โลตัสเป็น b, b ระบุ c, c ระบุ d และอื่นๆ
โปรเจ็กต์นี้ใช้โฟลว์การควบคุมคำที่รวดเร็วและวิธีการสร้างบริบทที่ควบคุมได้ โดยขึ้นอยู่กับไฟล์การกำหนดค่าหลายไฟล์ที่นำไปใช้ในโปรเจ็กต์นี้ การข้ามแบบมีเงื่อนไขและการสลับระหว่างไฟล์การกำหนดค่าสามารถเกิดขึ้นได้
ช่วยให้ผู้ใช้สามารถหมุนเวียนระหว่างชุดคำพร้อมท์หลายชุดตามเงื่อนไขบางประการ ตามลำดับและเป็นทางเลือก และตระหนักถึงเกมรักข้อความ เกมผจญภัย โครงเรื่องหลายสาขาที่ไม่ต่อเนื่อง และงานอื่น ๆ การสตรีมระบบคำพร้อมท์
- [x] promptMarks :
- BranchName : "去逛街路上"
Keywords : ["坐车", "走路", "触发"]
- BranchName : "在家准备"
Keywords : ["等一下", "慢慢", "准备"]
- [x] enhancedQA : true
- [x] promptChoicesQ :
- Round : 1
ReplaceText : "回家吧"
Keywords : ["我累了", "不想去了"]
- Round : 2
ReplaceText : "我们打车去"
Keywords : ["快点去", "想去", "早点"]
- Round : 3
ReplaceText : "我们走着去"
Keywords : ["不着急", "等下"]
- Round : 1
ReplaceText : "放松一下"
Keywords : [] # 相当于 enhancedChoices = false
- [x] promptChoicesA : 同上。
- [x] promptCoverQ : 只有Q没有A，格式同上，Choices是附加，cover是覆盖。
- [x] promptCoverA : # 同上
- [x] switchOnQ :
- round : 1
switch : ["故事退出分支", "下一个分支"]
keywords : ["不想", "累了", "想", "不累"]
- [x] switchOnA :
- round : 1
switch : ["晚上分支"]
keywords : ["时间不早了"]
- [x] exitOnQ :
- round : 1
keywords : ["退出", "忘了吧", "重置", "无聊"]
- [x] exitOnA :
- round : 1
keywords : ["退出", "我是一个AI", "我是一个人工", "我是一个基于"]
- [x] envType : 0 # 0=不使用场景描述, 1=在本轮llm回复前发送场景描述, 2=在本轮llm回复后发送场景描述, 场景描述支持[image:xxx][pic:xxx][图片:xxx][背景:xxx]标签, xxx为相对或绝对路径, 需在exe运行目录下
- [x] envPics : [] # 现阶段ai速度太慢,人工指定,数组代表多个,每个数组成员以1: 2: 开始代表对应第几轮.
- [x] envContents : [] # 如果要跳过某个轮次,直接指定文字是2: 图片也是2: 代表本轮文图是空的.
- [x] promptChanceQ :
- probability : 50
text : "让我们休息一下"
- probability : 30
text : "继续前进"
- probability : 70
text : "停下来看看周围"
- probability : 10
text : "尝试一些新东西"พารามิเตอร์ข้างต้นทั้งหมดอยู่ในส่วนการตั้งค่าของไฟล์การกำหนดค่าหลายรายการ คุณสามารถกำหนดความยาวของคำพร้อมท์สำหรับแต่ละฉากและความยาวของแต่ละฉาก promptMarksLength เพื่อควบคุมรายละเอียดของพล็อต
โหมดเนื้อเรื่องที่เรียกใช้วิธีที่ 1, การควบคุมมิดเดิลแวร์, การเรียกพอร์ต /gensokyo ด้วยตัวเอง และแนบพารามิเตอร์พร้อมท์ที่แตกต่างกัน และการตัดออกด้วยตนเอง
ตั้งค่าที่อยู่ http api ของกรอบงานโรบ็อต ob11 ใน gsk-llm แอปพลิเคชันปลั๊กอิน ob11 จะไม่รับผิดชอบในการส่งข้อความเท่านั้น ควบคุมเงื่อนไขได้ด้วยตัวเอง
วิธีการทริกเกอร์โหมดเรื่องราวที่สองคือการสลับสาขาโดยอัตโนมัติตามคำหลักโดยการกำหนดค่า switchOnQ และ switchOnA ในไฟล์การกำหนดค่าเริ่มต้น config.yml
เมื่อรวมกับความสามารถของไฟล์การกำหนดค่าในพารามิเตอร์พร้อมต์เพื่อความก้าวหน้าของเรื่องราว โครงเรื่อง AI พื้นฐานที่เน้นคำพร้อมท์ก็สามารถรับรู้ได้ นอกจากนี้ ยังจำเป็นต้องออกแบบ -keyboard.yml ที่สอดคล้องกันสำหรับ prompt.yml แต่ละรายการด้วย สร้างฟองอากาศ
คำสำคัญของ promptMarks คือ [] ซึ่งหมายถึงการกด promptMarksLength เพื่อสลับไฟล์คำพร้อมท์ promptMarksLength แสดงถึงความยาวบริบทที่ดูแลโดยไฟล์คำพร้อมท์นี้
เมื่อ promptMarksLength น้อยกว่า 0 สาขาต่อมาจะถูกอ่านจาก promptMarks และสลับแบบสุ่มจากสาขาเหล่านั้น
1=ทริกเกอร์ตามเงื่อนไข และยังทริกเกอร์เมื่อถึง promptMarksLength
สำหรับรายละเอียดการกำหนดค่า โปรดดูที่ process control-promptmarks.md
สาขานี้จะถูกทริกเกอร์เมื่อผู้ใช้และโมเดลพูดเครื่องหมาย (คุณต้องเขียนคำพร้อมท์ด้วยตัวเองเพื่อให้ llm สามารถพูดได้ตามเงื่อนไข)
คุณสามารถใช้คำแจ้งเตือนของระบบและ QA ของส่วนเรื่องราวปัจจุบันเพื่อเป็นแนวทางให้ AI ส่งออกคำสลับที่ตกลงกับคุณได้ จึงทำให้การออกแบบคำทริกเกอร์หลายคำสำหรับแต่ละสาขาเป้าหมายทำให้โมเดลขนาดใหญ่ตัดสินใจพัฒนาได้ ทิศทางของเรื่องด้วยตัวของมันเอง
เมื่อ EnhancedQA เป็นเท็จ QA ที่กำหนดไว้ล่วงหน้าในไฟล์การกำหนดค่าจะถูกเพิ่มที่ด้านบนของ QA ของผู้ใช้ ซึ่งมีอยู่ในหน่วยความจำของ llm (โดยไม่ส่งผลกระทบต่อทิศทางการสนทนาโดยรวม) ก่อให้เกิดผลกระทบที่อ่อนแอ
เมื่อ EnhancedQA เป็นจริง ฉันพยายามย้ายตำแหน่งของ QA ที่กำหนดไว้ล่วงหน้าในไฟล์การกำหนดค่าจากบนลงล่างไปยังด้านหน้าของการสนทนาปัจจุบันของผู้ใช้ แต่ผลลัพธ์ไม่เหมาะ
ในปัจจุบัน จะมีการผสมผสานและบูรณาการเข้ากับ QA ในอดีตของผู้ใช้ปัจจุบัน เพื่อเป็นแนวทางในการป้อนข้อมูลของผู้ใช้ในระดับหนึ่ง ซึ่งจะส่งผลต่อทิศทางของกระบวนการเรื่องราว
มีการแนะนำพารามิเตอร์ "Configuration Control Flow" ซึ่งเป็นวิธีการที่มีความยืดหยุ่นน้อยกว่า ai-agent แต่มีความสามารถในการควบคุมพล็อตที่สูงกว่า ความเร็วในการสร้างที่ต่ำกว่า และต้นทุนที่ต่ำกว่า
promptChoicesQ & promptChoicesA เอกสารประกอบ: การควบคุมกระบวนการ-promptchoicesQ การควบคุมกระบวนการ-promptCoverQ การควบคุมกระบวนการ-promptChanceQ
switchOnQ หมายถึงการสลับสาขาปัจจุบันเมื่อพบข้อความที่ตรงกันใน Q เช่นเดียวกับ switchOnA และวิธีการกำหนดค่าก็เหมือนกับ promptChoices
การควบคุมกระบวนการ-switchonQA
exitOnQ หมายความว่าสาขาปัจจุบันจะถูกออกเมื่อตรวจพบคีย์เวิร์ดที่ระบุ การควบคุมกระบวนการ-exitonQA
promptMarks, switchOnQ และ switchOnA ต่างก็มีฟังก์ชันการทำงานเหมือนกัน โดยจะข้ามไปยังสาขาต่างๆ ตามคีย์เวิร์ด promptMarks จะถูกดำเนินการก่อน โดยไม่คำนึงถึงรอบหรือ QA กระโดด.
หากมีสาขาคงที่ซึ่งไม่จำเป็นต้องเปลี่ยน โปรดตั้งค่า promptMarksLength ของ yml เป็น 99999
promptMarksLength: 99999
นี่เป็นการหลีกเลี่ยงการสลับไปยังสาขาที่ไม่มีอยู่โดยไม่ได้ตั้งใจ ทำให้เกิดข้อผิดพลาดของเซสชัน
ขั้นตอนการควบคุมการกำหนดค่านั้นง่ายและใช้งานง่าย ตรรกะการสนทนาได้รับการจัดการผ่านไฟล์การกำหนดค่านั้นง่ายต่อการบำรุงรักษา บุคลากรที่ไม่ใช่ด้านเทคนิค เช่น ผู้เขียนพล็อต สามารถเรียนรู้กฎของไฟล์การกำหนดค่าได้โดยตรงและแก้ไขไฟล์การกำหนดค่าได้ อัปเดตตรรกะการสนทนาโดยไม่ต้องมีความรู้ด้านการเขียนโปรแกรม
ความแน่นอนของโครงเรื่องสูง: ด้วยอินพุตและการกำหนดค่าเดียวกัน ทิศทางของโครงเรื่องโดยทั่วไปจะสอดคล้องกัน ซึ่งเป็นสิ่งสำคัญมากเพื่อให้แน่ใจว่าโครงเรื่องของบทสนทนามีความสอดคล้องกันและคาดเดาได้
ต้นทุนต่ำ และบริบทถูกรวมและแทนที่อย่างชาญฉลาด แทนที่จะถูกประมวลผลโดย AI หลายตัวในเวลาเดียวกัน มันใช้โทเค็นเกือบเท่ากันกับการสนทนาปกติ ซึ่งช่วยประหยัดเงิน
รวดเร็ว สร้างผลลัพธ์เหมือนบทสนทนา QA ปกติ และเขียนโครงเรื่องเหมือนสคริปต์เกม
เรื่องราว AI ราคาประหยัดและโซลูชันใหม่ที่เหมาะสำหรับนักพัฒนารายบุคคลและทีมพัฒนาขนาดเล็ก ต้นทุนต่ำ ความเร็วสูง และความสามารถในการควบคุมสูง เอฟเฟกต์จะปรับปรุงโดยตรงด้วยการปรับปรุงโมเดลและเอฟเฟกต์คำที่รวดเร็ว
สำหรับสถานการณ์การแชทพล็อตบทสนทนา หากโครงเรื่องค่อนข้างคงที่ เส้นทางบทสนทนาถูกตั้งค่าไว้ล่วงหน้า และความถี่ในการอัปเดตไม่สูง จะเหมาะสมกว่าที่จะใช้โฟลว์การควบคุมการกำหนดค่า เนื่องจากมีความสามารถในการควบคุมในระดับสูงและง่ายต่อการ -เข้าใจวิธีการจัดการ
หากระบบบทสนทนาต้องการการโต้ตอบและความเป็นส่วนตัวในระดับสูง หรือการเปลี่ยนแปลงโครงเรื่องมีความซับซ้อนและจำเป็นต้องปรับเปลี่ยนแบบไดนามิกตามคำติชมและพฤติกรรมเฉพาะของผู้ใช้ การใช้โซลูชันตัวแทนที่ใช้ AI ซึ่งเหมาะสมกว่า ต้องใช้เงินลงทุนด้านเทคนิคและค่าบำรุงรักษาที่สูงขึ้น
ส่วนนี้จะอธิบายข้อมูลตำแหน่งข้อมูลเฉพาะสำหรับการสื่อสารกับ API
| คุณสมบัติ | รายละเอียด |
|---|---|
| URL | http://localhost:46230/conversation |
| วิธี | POST |
เนื้อหาคำขอที่ไคลเอนต์ควรส่งไปยังเซิร์ฟเวอร์จะต้องอยู่ในรูปแบบ JSON ตารางต่อไปนี้ให้รายละเอียดประเภทข้อมูลและคำอธิบายของแต่ละฟิลด์
| ชื่อฟิลด์ | พิมพ์ | อธิบาย |
|---|---|---|
message | สตริง | เนื้อหาของข้อความที่ผู้ใช้ส่ง |
conversationId | สตริง | ตัวระบุที่ไม่ซ้ำสำหรับเซสชันการสนทนาปัจจุบัน |
parentMessageId | สตริง | ตัวระบุของข้อความก่อนหน้าที่เกี่ยวข้องกับข้อความนี้ |
ออบเจ็กต์ JSON ต่อไปนี้แสดงโครงสร้างของเนื้อหาคำขอเมื่อส่งคำขอไปยังตำแหน่งข้อมูล API นี้:
{
"message" : "我第一句话说的什么" ,
"conversationId" : " 07710821-ad06-408c-ba60-1a69bf3ca92a " ,
"parentMessageId" : " 73b144d2-a41f-4aeb-b3bb-8624f0e54ba6 "
}ตัวอย่างนี้แสดงวิธีสร้างเนื้อหาคำขอที่มีเนื้อหาข้อความ ตัวระบุที่ไม่ซ้ำกันสำหรับเซสชันการสนทนาปัจจุบัน และตัวระบุสำหรับข้อความก่อนหน้า รูปแบบนี้ช่วยให้แน่ใจว่าข้อมูลที่ร้องขอไม่เพียงแต่เป็นไปตามกฎการประมวลผลของเซิร์ฟเวอร์เท่านั้น แต่ยังช่วยรักษาความต่อเนื่องของบริบทการสนทนาอีกด้วย
การตอบกลับที่สำเร็จจะส่งคืนรหัสสถานะ 200 และออบเจ็กต์ JSON พร้อมฟิลด์ต่อไปนี้:
| ชื่อฟิลด์ | พิมพ์ | อธิบาย |
|---|---|---|
response | สตริง | เนื้อหาข้อความตอบกลับของอินเทอร์เฟซ |
conversationId | สตริง | ตัวระบุที่ไม่ซ้ำสำหรับการสนทนาปัจจุบัน |
messageId | สตริง | ตัวระบุที่ไม่ซ้ำของข้อความปัจจุบัน |
details | วัตถุ | รวมรายละเอียดการใช้งานเพิ่มเติม |
usage | วัตถุ (ใน details ) | รายละเอียดการใช้งาน เช่น จำนวนโทเค็น |
{
"response" : "回答内容" ,
"conversationId" : " c9b8746d-aa8c-44b3-804a-bb5ad27f5b84 " ,
"messageId" : " 36cc9422-da58-47ec-a25e-e8b8eceb47f5 " ,
"details" : {
"usage" : {
"prompt_tokens" : 88 ,
"completion_tokens" : 2
}
}
}สามารถทำงานบนสถาปัตยกรรมที่หลากหลาย (ยังไม่รองรับ Android ดั้งเดิม sqlitev3 ต้องใช้ cgo) เนื่องจากการคอมไพล์ cgo นั้นซับซ้อน แพลตฟอร์มแขน หรือสถาปัตยกรรมอื่น ๆ คุณจึงสามารถลองคอมไพล์ได้ในเครื่องภายใต้สถาปัตยกรรมระบบที่เกี่ยวข้อง
วิธี API เรียกช่อง QQ สำหรับการเข้าถึงโดยตรง
พารามิเตอร์คำขอของผู้ตรวจสอบ
เมื่อจำเป็นต้องส่งคำขอไปยัง GSK LLM อื่นในฐานะผู้ตรวจสอบ รูปแบบ JSON ที่ควรส่งคืนจะเป็นดังนี้:
{ "result" : %s } %s ที่นี่แสดงถึงตัวยึดตำแหน่งที่จะถูกแทนที่ด้วยค่าจุดลอยตัวเฉพาะ
ผลลัพธ์คำขอการสร้างบับเบิ้ล
เมื่อร้องขอ GSK LLM อื่นเพื่อสร้างบับเบิล รูปแบบ JSON ที่ควรส่งคืนจะเป็นดังนี้:
[ " " , " " , " " ]ซึ่งหมายความว่าผลลัพธ์ของการสร้างบับเบิ้ลคืออาร์เรย์ที่มีสามสาย รูปแบบนี้ใช้เพื่อระบุฟองที่แตกต่างกันสามฟองเมื่อส่งคืนผลลัพธ์ หรือน้อยกว่าหรือเท่ากับ 3
ไม่จำเป็นต้องเปิด gsk-llm หลายรายการเพื่อใช้ฟังก์ชันที่เหมือนกับเอเจนต์อีกต่อไป คุณสามารถขอใช้คุณสมบัติที่ซับซ้อน เช่น การสร้างบับเบิ้ลและการพัฒนาเรื่องราวได้ด้วยตัวเอง
GetAIPromptkeyboardPath อาจเป็นที่อยู่ของตัวเองหรือสามารถมีพารามิเตอร์พร้อมท์ได้
เมื่อใช้มิดเดิลแวร์เพื่อระบุพารามิเตอร์พร้อมท์ การกำหนดค่าจะอยู่ในโฟลเดอร์พร้อมท์และรูปแบบคือ xxx-keyboard.yml หากไม่ได้ใช้มิดเดิลแวร์ โปรดระบุพารามิเตอร์พร้อมท์ในพาธ และวาง xxx.yml ที่เกี่ยวข้องในพร้อมท์ โฟลเดอร์ )
ตั้งค่าที่อยู่ /conversation ของงานร่วม gsk-llm ของคำพร้อมท์ของระบบ มีการตกลงกันว่าคำพร้อมต์ของระบบจำเป็นต้องส่งคืนอาร์เรย์ข้อความ json (3)
โปรเจ็กต์นี้อ้างอิงถึงแนวคิดของโปรเจ็กต์ที่มีชื่อเสียงต่อไปนี้ และใช้รูปแบบการกำหนดค่าโฟลว์การควบคุมข้อความ AI ที่เรียบง่าย
รสา
เกลียว
นักเขียนหมึก
