โปรเจ็กต์นี้แสดงให้เห็นถึงพลังและความเรียบง่ายของ NVIDIA NIM (NVIDIA Inference Model) ซึ่งเป็นชุดไมโครเซอร์วิสบนคลาวด์เนทีฟที่ได้รับการปรับให้เหมาะสม โดยการตั้งค่าและรันไปป์ไลน์การดึงข้อมูล-Augmented Generation (RAG) NVIDIA NIM ได้รับการออกแบบมาเพื่อปรับปรุงการใช้งานและเวลาในการนำโมเดล AI ทั่วไปออกสู่ตลาดในสภาพแวดล้อมต่างๆ รวมถึงแพลตฟอร์มคลาวด์ ศูนย์ข้อมูล และเวิร์กสเตชันที่เร่งด้วย GPU ด้วยการสรุปความซับซ้อนของการพัฒนาโมเดล AI และการใช้ประโยชน์จาก API มาตรฐานอุตสาหกรรม NIM ทำให้เทคโนโลยี AI ขั้นสูงสามารถเข้าถึงได้สำหรับนักพัฒนาในวงกว้าง
โคลนพื้นที่เก็บข้อมูล
git clone https://github.com/mickymultani/nvidia-NIM-RAG.git
cd nvidia-NIM-RAG
ตั้งค่าสภาพแวดล้อมเสมือนจริง
สร้างสภาพแวดล้อมเสมือนชื่อ nvidia
:
python -m venv nvidia
เปิดใช้งานสภาพแวดล้อมเสมือน:
nvidia S cripts a ctivate
source nvidia/bin/activate
ติดตั้งการพึ่งพา
ติดตั้งแพ็คเกจที่จำเป็นโดยใช้ pip:
pip install -r requirements.txt
ตัวแปรสภาพแวดล้อม
สร้างไฟล์ .env
ในไดเร็กทอรีรากของโปรเจ็กต์ และเพิ่มคีย์ NVIDIA API ของคุณ:
NVIDIA_API_KEY=your_nvidia_api_key_here
แทนที่ your_nvidia_api_key_here
ด้วยคีย์ NVIDIA API จริงของคุณ
ในการรันโปรเจ็กต์ ให้รันคำสั่งต่อไปนี้:
python nim.py
ยินดีมีส่วนร่วมในโครงการนี้!
เผยแพร่ภายใต้ใบอนุญาต MIT