หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

Ngoprek LLM (โมเดลภาษาขนาดใหญ่)

จำเป็น: Node.js 18 หรือใหม่กว่า

การสาธิตต่อไปนี้สามารถทำงานได้โดยใช้ GPT จาก OpenAI หรือ LLM ในพื้นที่

วิธีที่ #1 : ในการเข้าถึง API จาก OpenAI คุณต้องมีคีย์ API จาก OpenAI ซึ่งจัดเก็บไว้ในตัวแปรสภาพแวดล้อมที่เรียกว่า OPENAI_API_KEY โปรดอ่านวิธีสร้างคีย์ API และอย่าลืมใช้คีย์ API นี้อย่างปลอดภัย!

วิธีที่ #2 : เรียกใช้ LocalAI ก่อนและใช้โมเดลที่เหมาะสม เช่น LLama 2 7B ในรูปแบบ GGML จากนั้นตั้งค่าตัวแปรสภาพแวดล้อมทั้งสอง OPENAI_API_BASE เพื่ออ้างอิงถึงที่อยู่เซิร์ฟเวอร์ของ LocalAI และ CHAT_MODEL เพื่อเลือกชื่อรุ่นที่จะใช้

ตัวอย่างขั้นตอนโดยละเอียด: 
$ curl -OL https://github.com/go-skynet/LocalAI/releases/download/v1.23.2/local-ai-avx-Linux-x86_64
$ chmod +x ./local-ai-avx-Linux-x86_64
$ curl -OL https://huggingface.co/TheBloke/Llama-2-7B-Chat-GGML/resolve/main/llama-2-7b-chat.ggmlv3.q4_0.bin
$ mv llama-2-7b-chat.ggmlv3.q4_0.bin models/
$ ./local-ai-avx-Linux-x86_64
$ export CHAT_MODEL= ' llama-2-7b-chat.ggmlv3.q4_0.bin '
$ export OPENAI_API_BASE= ' http://127.0.0.1:8080 '

เวอร์ชันจาวาสคริปต์

ตัวอย่างการสาธิตเพื่อเติมประโยคให้สมบูรณ์ ( เสร็จสิ้น ): 

 $ node complete.js "Sukarno dan Hatta pada tahun 1945"

ตัวอย่างการสาธิตเพื่อถาม: 

 $ node ask.js "Berapa jumlah penduduk Bandung?"

ตัวอย่างการสาธิตการใช้งานเพื่อค้นหาข้อมูลโดยละเอียด: 

 $ node query.js "Berapa koordinat geografis dari Bandung?"

 ลำดับไดอะแกรม
  ลูกค้าผู้เข้าร่วม
  ผู้เข้าร่วม LLM
  Geocoder ผู้เข้าร่วม
  ลูกค้า->>+LLM: "พิกัดทางภูมิศาสตร์ของบันดุงคืออะไร"
  LLM-->>+Geocoder: geocode("บันดุง")
  รหัสภูมิศาสตร์-->>+LLM: {"lat":-6.9,"long":107.6}
  LLM->>+ไคลเอ็นต์: "บันดุงอยู่ที่ละติจูด -6.9 และลองจิจูด 107.6"
กำลังโหลด 
 $ node query.js "Bagaimana suhu di ibukota Jawa Timur?"

 ลำดับไดอะแกรม
  ลูกค้าผู้เข้าร่วม
  ผู้เข้าร่วม LLM
  Geocoder ผู้เข้าร่วม
  ผู้เข้าร่วม WeatherStation
  ลูกค้า->>+LLM: "อุณหภูมิในเมืองหลวงของชวาตะวันออกเป็นยังไงบ้าง?"
  หมายเหตุ สิทธิของ LLM: เมืองหลวงของชวาตะวันออก = สุราบายา
  LLM-->>+Geocoder: geocode("สุราบายา")
  รหัสภูมิศาสตร์-->>+LLM: {"lat":-7.3,"long":112.7}
  LLM-->>+สถานีพยากรณ์อากาศ: WeatherStation(-7.3, 112.7)
  WeatherStation-->>+LLM: {"หลัก": {"อุณหภูมิ": 27}}
  LLM->>+ลูกค้า: "อุณหภูมิในสุราบายาอยู่ที่ประมาณ 27°C"
กำลังโหลด

เวอร์ชั่น Clojure

Clojure เวอร์ชันสาธิตสามารถเรียกใช้ได้โดยตรงผ่านเทอร์มินัลดังที่แสดงด้านล่าง แต่ควรทำความเข้าใจและลองใช้ REPL จะดีกว่า (เช่น Visual Studio Code + Calva หรือ Vim/NeoVim + vim-iced Plugin)

ขั้นแรก ตรวจสอบให้แน่ใจว่าได้ติดตั้งโมดูลที่จำเป็นแล้ว: 

 $ npm install

ตัวอย่างการสาธิตเพื่อเติมประโยคให้สมบูรณ์ ( เสร็จสิ้น ): 

 $ npm run nbb complete.cljs "Ibukota Indonesia adalah"

ตัวอย่างการสาธิตเพื่อถาม: 

 $ npm run nbb ask.cljs "Apa ibukota Jawa Timur?"

ตัวอย่างการสาธิตการใช้งานเพื่อค้นหาข้อมูลโดยละเอียด: 

 $ npm run nbb probe.cljs "Kapan saya terakhir ke Bandung?"
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด