ดาวน์โหลด llmkit - ดาวน์โหลดซอร์สโค้ด llmkit

llmkit

โค้ดแหล่งที่มา AI

1.0.0

ดาวน์โหลด

llmkit - ชุดรูปแบบภาษา

LLMKIT เป็นแพ็คเกจ Python ที่ทำให้การโต้ตอบกับโมเดลภาษาง่ายขึ้น (LLMs) และช่วยให้คุณสามารถสร้างข้อมูลข้อความได้อย่างง่ายดาย

คุณสมบัติ

อินเทอร์เฟซอย่างง่าย : LLMKIT ให้อินเทอร์เฟซที่ตรงไปตรงมาเพื่อโต้ตอบกับโมเดลภาษาต่างๆ
Custom Transformers : คุณสามารถสร้าง Transformers ที่กำหนดเองเพื่อจัดรูปแบบข้อมูลอินพุตเป็นพรอมต์และแปลงข้อความที่สร้างขึ้น LLM ให้เป็นรูปแบบข้อมูลที่ต้องการ
โมเดลนามธรรม : LLMKIT บทคัดย่อรายละเอียดของการเลือกแบบจำลองและการจัดการผู้ให้บริการ

การติดตั้ง

คุณสามารถติดตั้ง LLMKIT โดยใช้ PIP:

pip install llm-stack-kit

การใช้งาน

 from llmkit import LLMKit

llm_kit = LLMKit ()

input_data = "Translate the following English text to French: 'Hello, World!'"

# Generate text using the default transformers
generated_text = llm_kit . generate_data ( input_data )

print ( "Generated Text:" , generated_text )

การกำหนดค่า

สำหรับการใช้งานขั้นสูงและการปรับแต่งคุณสามารถสร้างหม้อแปลงของคุณเองและระบุผู้ให้บริการโมเดล รองรับผู้ให้บริการรุ่นสองรุ่นเท่านั้นที่ได้รับการสนับสนุนในตอนนี้: "OpenAI" และ "CloudFlare" คุณต้องจัดเตรียมไฟล์. env ด้วย OPENAI_API_KEY สำหรับ openai หรือ CF_API_KEY และ CF_ACCOUNT_ID สำหรับ CloudFlare

ดูตัวอย่าง Transformer ที่กำหนดเองสำหรับวิธีการเขียนหม้อแปลงที่กำหนดเอง