หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

RAG ใช้ LangChain กับข้อความ Amazon Bedrock Titan และการฝังโดยใช้กลไกเวกเตอร์ OpenSearch

พื้นที่เก็บข้อมูลตัวอย่างนี้จัดเตรียมโค้ดตัวอย่างสำหรับการใช้วิธี RAG (Retrieval augmented generation) ที่ส่งต่อบน Amazon Bedrock Titan Embeddings Generation 1 (G1) LLM (Large Language Model) สำหรับการสร้างการฝังข้อความที่จะจัดเก็บไว้ใน Amazon OpenSearch พร้อมด้วยการสนับสนุนกลไกเวกเตอร์สำหรับ ช่วยเหลืองานวิศวกรรมที่รวดเร็วเพื่อการตอบสนองที่แม่นยำยิ่งขึ้นจาก LLM

หลังจากที่เราโหลดการฝังลงใน OpenSearch สำเร็จแล้ว เราจะเริ่มสืบค้น LLM ของเราโดยใช้ LangChain เราจะถามคำถาม ดึงข้อมูลการฝังที่คล้ายกันเพื่อการแจ้งเตือนที่แม่นยำยิ่งขึ้น

คุณสามารถใช้พารามิเตอร์ --bedrock-model-id เพื่อเลือกหนึ่งในโมเดลพื้นฐานที่มีอยู่ใน Amazon Bedrock ได้อย่างราบรื่น โดยมีค่าเริ่มต้นเป็น Anthropic Claude v2 และสามารถแทนที่เป็นโมเดลอื่นจากผู้ให้บริการโมเดลรายอื่นๆ เพื่อเลือกรองพื้นที่มีประสิทธิภาพดีที่สุดของคุณ แบบอย่าง.

มานุษยวิทยา:

  • Claude v2 python ./ask-bedrock-with-rag.py --ask "How will AI will change our every day life?"
  • Claude v1.3 python ./ask-bedrock-with-rag.py --bedrock-model-id anthropic.claude-v1 --ask "How will AI will change our every day life?"
  • Claude Instance v1.2 python ./ask-bedrock-with-rag.py --bedrock-model-id anthropic.claude-instant-v1 --ask "How will AI will change our every day life?"

ห้องทดลอง AI21:

  • Jurassic-2 Ultra python ./ask-bedrock-with-rag.py --bedrock-model-id ai21.j2-ultra-v1 --ask "How will AI will change our every day life?"
  • Jurassic-2 Mid python ./ask-bedrock-with-rag.py --bedrock-model-id ai21.j2-mid-v1 --ask "How will AI will change our every day life?"

ข้อกำหนดเบื้องต้น

  1. สิ่งนี้ได้รับการทดสอบบน Python 3.11.4

  2. ขอแนะนำให้ทำงานในสภาพแวดล้อมที่สะอาด ใช้ virtualenv หรือตัวจัดการสภาพแวดล้อมเสมือนอื่นๆ 

    pip install virtualenv
python -m virtualenv venv
source ./venv/bin/activate

  3. ข้อกำหนดในการติดตั้ง pip install -r requirements.txt

  4. ติดตั้ง Terraform เพื่อสร้างคลัสเตอร์ OpenSearch 

    brew tap hashicorp/tap
brew install hashicorp/tap/terraform

  5. ไปที่หน้า Model Access และเปิดใช้งานโมเดลพื้นฐานที่คุณต้องการใช้

ขั้นตอนการใช้โค้ดตัวอย่างนี้

  1. ในขั้นตอนแรก เราจะเปิดตัวคลัสเตอร์ OpenSearch โดยใช้ Terraform 

     cd ./terraform
terraform init
terraform apply -auto-approve

    การกำหนดค่าคลัสเตอร์นี้มีไว้สำหรับการทดสอบที่เสนอเท่านั้น เนื่องจากปลายทางเป็นแบบสาธารณะเพื่อให้ใช้โค้ดตัวอย่างนี้ได้ง่ายขึ้น

  2. ตอนนี้เรามีคลัสเตอร์ OpenSearch ที่ทำงานอยู่พร้อมการสนับสนุน Vector Engine แล้ว เราจะเริ่มอัปโหลดข้อมูลที่จะช่วยเราในด้านวิศวกรรมที่รวดเร็ว สำหรับตัวอย่างนี้ เราจะใช้แหล่งข้อมูลจาก Hugging Face embedding-training-data gooaq_pairs เราจะดาวน์โหลดและเรียกใช้ Titan embedding เพื่อรับข้อความที่ฝัง ซึ่งเราจะจัดเก็บไว้ใน OpenSearch สำหรับขั้นตอนถัดไป 

    python load-data-to-opensearch.py --recreate 1 --early-stop 1

    อาร์กิวเมนต์เพิ่มเติม:

    • --recreate เพื่อสร้างดัชนีใหม่ใน OpenSearch
    • --early-stop เพื่อโหลดเอกสารที่ฝังไว้เพียง 100 รายการลงใน OpenSearch
    • --index เพื่อใช้ดัชนีที่แตกต่างจาก เศษผ้า เริ่มต้น
    • --region ในกรณีที่คุณไม่ได้ใช้ค่าเริ่มต้น us-east-1

  3. ตอนนี้เราได้ฝังข้อความลงในคลัสเตอร์ OpenSearch ของเราแล้ว เราก็สามารถเริ่มสืบค้นข้อความ Titan รุ่น LLM ของเราใน Amazon Bedrock ด้วย RAG ได้ 

    python ask-bedrock-with-rag.py --ask " your question here "

    อาร์กิวเมนต์เพิ่มเติม:

    • --index เพื่อใช้ดัชนีที่แตกต่างจาก เศษผ้า เริ่มต้น
    • --region ในกรณีที่คุณไม่ได้ใช้ค่าเริ่มต้น us-east-1
    • --bedrock-model-id เพื่อเลือกรุ่นที่แตกต่างจาก Claude v2 ของ Anthropic

การล้างข้อมูล 

 cd ./terraform
terraform destroy # When prompt for confirmation, type yes, and press enter.

มีส่วนร่วม

ดูการมีส่วนร่วมสำหรับข้อมูลเพิ่มเติม

ใบอนุญาต

ห้องสมุดนี้ได้รับอนุญาตภายใต้ใบอนุญาต MIT-0 ดูไฟล์ใบอนุญาต

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด