cape webservices

เคปเว็บเซอร์วิส

จุดเริ่มต้นสำหรับบริการเว็บเคปแบ็กเอนด์ทั้งหมด

การสาธิตส่วนหน้าอยู่ที่นี่ (ใช้งานได้เฉพาะเมื่อคุณเปิดตัวแบ็กเอนด์แล้ว)

ภาพรวมของเคป

Cape เป็นชุดไลบรารีโอเพ่นซอร์สเพื่อจัดการโมเดลการตอบคำถามที่ตอบคำถามด้วยการ "อ่าน" เอกสารโดยอัตโนมัติ โดยอิงตามโมเดลการอ่านเครื่องจักรที่ล้ำสมัยซึ่งได้รับการฝึกฝนบนชุดข้อมูลขนาดใหญ่ และประกอบด้วยกลไกหลายอย่างเพื่อให้ใช้งานและปรับปรุงได้ง่ายตามความคิดเห็นของผู้ใช้ ได้รับการออกแบบมาให้ พกพาได้ เช่น ทำงานบนแล็ปท็อปเครื่องเดียวหรือบนคลัสเตอร์ของเครื่องคู่ขนานเพื่อเร่งความเร็วการคำนวณ และเป็น มิตรกับโอเพ่นซอร์ส เพื่อใช้งานในทุกระดับความเชี่ยวชาญ

มันทำให้ผู้ใช้สามารถ

• อัปโหลดเอกสารและตอบคำถามที่ดึงมาจากเอกสารเหล่านั้น
• อัปเดตโมเดลโดยเพิ่ม "การตอบกลับที่บันทึกไว้" เช่น คำตอบที่กำหนดไว้ล่วงหน้า
• จัดการผู้ใช้ เอกสาร และการตอบกลับที่บันทึกไว้

มีหลายวิธีในการใช้ Cape:

• เป็นห้องสมุดหลาม:

 from cape_responder.responder_core import Responder
 Responder.get_answers_from_documents('my-token','How easy is Cape to use', text ="Cape is an open source large-scale question answering system and is super easy to use!")

• เป็นบริการหลาม: python3 -m cape_webservices.run
• เป็นคอนเทนเนอร์ Docker แบบสแตนด์อโลน: docker run -p 5050:5050 bloomsburyai/cape
• เป็นแอปที่มี UI
• เป็นคลัสเตอร์แบบกระจาย
• ในฐานะบอทหย่อน (วิดีโอที่นี่ ข้อมูลเพิ่มเติมที่นี่)
• ระบบตอบรับอีเมลแบบ AI-in-the-middle (วิดีโอที่นี่ ข้อมูลเพิ่มเติมที่นี่)
• ในฐานะบอท Facebook (ข้อมูลเพิ่มเติมที่นี่)
• ในฐานะบ็อตของ Hangouts (ข้อมูลเพิ่มเติมที่นี่)

เริ่มต้นอย่างรวดเร็ว

ข้อกำหนดขั้นต่ำ

เราขอแนะนำ RAM อย่างน้อย 3GB และคอร์ CPU ที่ทันสมัยอย่างน้อย 2 คอร์ (4 คอร์หากเป็นเสมือน) หากคุณใช้ Docker ตรวจสอบให้แน่ใจว่าคุณได้เพิ่มขีดจำกัดทรัพยากรหน่วยความจำในการตั้งค่า Docker

เว็บแอปแบบสแตนด์อโลนพร้อม Docker

คุณสามารถเรียกใช้ webapp เวอร์ชันสแตนด์อโลนที่มีแดชบอร์ดการจัดการได้ หลังจากติดตั้งนักเทียบท่าแล้ว ให้อัพเดตและรันอิมเมจ Cape:

docker pull bloomsburyai/cape && docker run -ti -p 5050:5050 -p 5051:5051 bloomsburyai/cape

สิ่งนี้จะเปิดตัวทั้งเว็บเซอร์วิสแบ็กเอนด์และฟรอนต์เอนด์ โดยค่าเริ่มต้นจะสร้างช่องสัญญาณสำหรับทั้งสองรายการด้วย โดยแสดง URL สาธารณะ:

• หากต้องการใช้ส่วนหน้า เพียงเรียกดู URL ที่ระบุ ซึ่งจะมีลักษณะคล้ายกับ : **https:// RANDOM_STRING_HERE .ngrok.io?configuration={"api":{"backendURL"https:// RANDOM_STRING_HERE .ngrok .io:5050"ไทม์เอาต์":15000"}}
• หากต้องการใช้แบ็กเอนด์ คุณสามารถใช้ไคลเอนต์ของเรา (เอกสารที่นี่ หรือสร้างของคุณเองโดยการรวม HTTP API ของเรา (เอกสารที่นี่))

คู่มือเริ่มต้นใช้งานฉบับย่อด้วย Docker

1. ดึงอิมเมจ Docker เวอร์ชันล่าสุด (จะใช้เวลาสักครู่เพื่อดาวน์โหลดการอ้างอิงทั้งหมดและโมเดลการอ่านของเครื่อง): docker pull bloomsburyai/cape

2. รันคอนเทนเนอร์ Docker และเปิดคอนโซล IPython ภายในโดยใช้คำสั่งต่อไปนี้: docker run -ti -p 5050:5050 -p 5051:5051 bloomsburyai/cape ipython3

3. นำเข้า Responder: from cape_responder.responder_core import Responder

4. ถามคำถามและเก็บคำตอบ (ซึ่งเป็นรายการคำตอบ) และแสดงคำตอบแรกโดยใช้: response = Responder.get_answers_from_documents('my-token','How easy is Cape to use?', text="Cape is an open source large-scale question answering system and is super easy to use!"); print(response[0]['answerText'])

5. หากคุณสนใจที่จะทำความเข้าใจเพิ่มเติมอีกเล็กน้อยเกี่ยวกับลักษณะของการตอบกลับ ให้แสดงการตอบกลับแบบเต็มโดยใช้: print(response)

การติดตั้งโดยไม่ต้องใช้นักเทียบท่า

หากต้องการติดตั้ง Cape บนระบบ linux แบบเนทิฟ โปรดดูที่การปรับใช้/Dockerfile

โครงสร้าง

โดยสรุปนี่คือวิธีการจัดระเบียบ Cape:

• เซิร์ฟเวอร์แบ็กเอนด์ของ cape-webservices ที่ให้บริการ HTTP API แบบเต็ม ขึ้นอยู่กับ:
  • cape-responder อินเทอร์เฟซระดับสูงเฉพาะสำหรับการกระจายและสร้างงานการอ่านเครื่อง ขึ้นอยู่กับ:
    • โมดูล cape-machine-reader เพื่อรวมโมเดลการอ่านของเครื่อง
    • cape-document-qa การบูรณาการโมเดลการอ่านด้วยเครื่องที่ทันสมัย ​​พร้อมด้วยสคริปต์การฝึกอบรมและการประเมินผล
  • อินเทอร์เฟซ cape-document-manager เพื่อจัดการเอกสารและคำอธิบายประกอบโดยใช้ SQLite เป็นแบ็กเอนด์หน่วยเก็บข้อมูลตัวอย่าง ขึ้นอยู่กับ:
    • cape-splitter Package เพื่อแยกเอกสารออกเป็นชิ้น ๆ โดยไม่ทำลายประโยค
  • cape-userdb แพ็คเกจสำหรับจัดการและจัดเก็บผู้ใช้และการกำหนดค่า
  • cape-api-helpers ฟังก์ชันยูทิลิตี้ HTTP API
  • ปลั๊กอินเสริม:
    • cape-slack-plugin จัดเตรียมจุดสิ้นสุดบริการเว็บสำหรับการสร้างบอท Slack
    • cape-facebook-plugin จัดเตรียมจุดสิ้นสุดบริการเว็บสำหรับการทำงานร่วมกับ Facebook Messenger
    • cape-hangouts-plugin มอบจุดสิ้นสุดบริการเว็บสำหรับการสร้างบอต Hangouts
    • cape-email-plugin ให้การสนับสนุนในการรับและตอบคำถามทางอีเมล
• เซิร์ฟเวอร์ส่วนหน้าของ Cape-frontend (ไม่ใช่ในแผนภาพ) จะใช้ API ของเซิร์ฟเวอร์ส่วนหลังเพื่อจัดเตรียมแดชบอร์ดการจัดการให้กับผู้ใช้