nvidia llm

แอปสาธิต: SpringAI - การรวม NVIDIA LLM API

NVIDIA LLM API เป็นเครื่องมืออนุมาน AI ของพร็อกซีที่นำเสนอโมเดลที่หลากหลายจากผู้ให้บริการหลายราย

Spring AI ทำงานร่วมกับ NVIDIA LLM API โดยการนำไคลเอนต์ Spring AI OpenAI ที่มีอยู่กลับมาใช้ใหม่

สำหรับสิ่งนี้ คุณต้องตั้งค่า base-url เป็น https://integrate.api.nvidia.com เลือกหนึ่งใน https://docs.api.nvidia.com/nim/reference/llm-apis#model[ LLM models] และรับ api-key สำหรับมัน

หมายเหตุ: NVIDIA LLM API ต้องใช้พารามิเตอร์ max-token เพื่อตั้งค่าอย่างชัดเจน ไม่เช่นนั้นเซิร์ฟเวอร์จะเกิดข้อผิดพลาด

ค้นหาเพิ่มเติมในเอกสารอ้างอิง SpringAI/NVIDIA: https://docs.spring.io/spring-ai/reference/api/chat/nvidia-chat.html