Finetuning Suite

ซอร์สโค้ดอื่น ๆ

1.0.0

ดาวน์โหลด

หลายรูปแบบ

ปรับแต่งโมเดลต่างๆ ด้วยประสิทธิภาพ ความเร็ว และความน่าเชื่อถือที่ไม่มีใครเทียบได้โดยใช้ Qlora, BNB, Lora, Peft ภายในเวลาไม่ถึง 30 วินาที เพียงกด GO

- กำหนดเวลาเซสชันแบบ 1 ต่อ 1

จองเซสชันแบบตัวต่อตัวกับ Kye ผู้สร้าง เพื่อหารือเกี่ยวกับปัญหาต่างๆ ให้ข้อเสนอแนะ หรือสำรวจว่าเราจะปรับปรุง Zeta ให้กับคุณได้อย่างไร

- การติดตั้ง ?

 $ pip3 ติดตั้ง ft-suite

เริ่มต้นอย่างรวดเร็ว

การปรับแต่งอย่างละเอียด

 จาก fts import FineTuner# เริ่มต้น fine tunermodel_id="google/flan-t5-xxl"dataset_name = "samsung"tuner = FineTuner( model_id=model_id, dataset_name=dataset_name, max_length=150, lora_r=16, lora_alpha=32, quantize= จริง)# สร้าง contentprompt_text = "สรุปแนวคิดนี้ให้ฉัน"print(tuner(prompt_text))

การอนุมาน

 จาก fts import Inferencemodel = Inference( model_id="georgesung/llama2_7b_chat_uncensored", quantized=True)model.run("คุณชื่ออะไร")

การอนุมาน GPTQ

 จาก fts import GPTQInferencemodel_id = "facebook/opt-125m"model = GPTQInference(model_id=model_id, max_length=400)prompt = "ในดินแดนอันไกลโพ้น"result = model.run(prompt)print(result)

- คุณสมบัติ ?

การวัดปริมาณระดับโลก : ใช้ประโยชน์สูงสุดจากโมเดลของคุณด้วยประสิทธิภาพระดับสูงสุดและความแม่นยำที่คงไว้! ?
PEFT อัตโนมัติ : ลดความซับซ้อนของขั้นตอนการทำงานของคุณ! ให้ชุดเครื่องมือของเราจัดการการเพิ่มประสิทธิภาพ
การกำหนดค่า LoRA : เจาะลึกถึงศักยภาพของการกำหนดค่า LoRA ที่ยืดหยุ่น ซึ่งเป็นตัวเปลี่ยนเกมด้านประสิทธิภาพ! -
บูรณาการอย่างราบรื่น : ออกแบบมาเพื่อทำงานได้อย่างราบรื่นกับโมเดลยอดนิยมเช่น LLAMA, Falcon และอีกมากมาย! -

️โรดแมป ⁉️

ต่อไปนี้คือตัวอย่างแผนงานอันทะเยอทะยานของเรา! เรามีการพัฒนาอยู่เสมอ และข้อเสนอแนะและการมีส่วนร่วมของคุณสามารถกำหนดการเดินทางของเราได้!

... และอื่นๆ อีกมากมายที่กำลังจะเกิดขึ้น!

- ข้อเสนอแนะและการมีส่วนร่วม ?

เรารู้สึกตื่นเต้นกับการเดินทางข้างหน้าและอยากให้คุณอยู่กับเรา! สำหรับคำติชม คำแนะนำ หรือการสนับสนุน โปรดอย่าลังเลที่จะเปิดประเด็นหรือดึงคำขอ มากำหนดอนาคตของการปรับแต่งด้วยกัน! -