ดาวน์โหลด runpod python - ดาวน์โหลด runpod python ซอร์สโค้ด

runpod python

โค้ดแหล่งที่มา AI

1.7.7

ดาวน์โหลด

RunPod | ห้องสมุดหลาม

ยินดีต้อนรับสู่ไลบรารี Python อย่างเป็นทางการสำหรับ RunPod API และ SDK

สารบัญ

สารบัญ
|การติดตั้ง
ผู้ปฏิบัติงานแบบไร้เซิร์ฟเวอร์ (SDK)

เริ่มต้นอย่างรวดเร็ว
ผู้ทดสอบในพื้นที่

ไลบรารีภาษา API (GraphQL Wrapper)

จุดสิ้นสุด
GPU Cloud (พ็อด)

ไดเรกทอรี
ชุมชนและการมีส่วนร่วม

การติดตั้ง

 # ติดตั้งเวอร์ชันล่าสุด pip ติดตั้ง runpod# หรือ# ติดตั้งเวอร์ชันการพัฒนาล่าสุด (สาขาหลัก) pip ติดตั้ง git+https://github.com/runpod/runpod-python.git

ต้องใช้ Python 3.8 หรือสูงกว่าเพื่อใช้เวอร์ชันล่าสุดของแพ็คเกจนี้

ผู้ปฏิบัติงานแบบไร้เซิร์ฟเวอร์ (SDK)

แพ็คเกจ Python นี้ยังสามารถใช้เพื่อสร้างผู้ปฏิบัติงานแบบไร้เซิร์ฟเวอร์ที่สามารถนำไปใช้กับ RunPod เป็น API ตำแหน่งข้อมูลที่กำหนดเองได้

เริ่มต้นอย่างรวดเร็ว

สร้างสคริปต์ Python ในโปรเจ็กต์ของคุณที่มีคำจำกัดความของโมเดลและโค้ดเริ่มต้นของผู้ปฏิบัติงาน RunPod เรียกใช้โค้ดหลามนี้เป็นคำสั่งเริ่มต้นคอนเทนเนอร์เริ่มต้นของคุณ:

 # my_worker.pyimport runpoddef is_even(job):job_input = job["input"]the_number = job_input["number"]ถ้าไม่ใช่ isinstance(the_number, int):return {"error": "มนุษย์โง่ คุณต้องผ่าน จำนวนเต็ม"} ถ้า the_number % 2 == 0:return Truereturn Falserunpod.serverless.start({"ตัวจัดการ": is_even})

ตรวจสอบให้แน่ใจว่าไฟล์นี้ทำงานเมื่อคอนเทนเนอร์ของคุณเริ่มทำงาน ซึ่งสามารถทำได้โดยการเรียกคำสั่งดังกล่าวในคำสั่ง docker เมื่อคุณตั้งค่าเทมเพลตที่ runpod.io/console/serverless/user/templates หรือโดยการตั้งค่าให้เป็นคำสั่งเริ่มต้นใน Dockerfile ของคุณ

ดูบล็อกโพสต์ของเราเกี่ยวกับการสร้าง Serverless API พื้นฐาน หรือดูเอกสารรายละเอียดสำหรับข้อมูลเพิ่มเติม

ผู้ทดสอบในพื้นที่

คุณยังสามารถทดสอบพนักงานของคุณภายในเครื่องก่อนที่จะปรับใช้กับ RunPod สิ่งนี้มีประโยชน์สำหรับการดีบักและการทดสอบ

 หลาม my_worker.py --rp_serve_api

- ไลบรารีภาษา API (GraphQL Wrapper)

เมื่อโต้ตอบกับ RunPod API คุณสามารถใช้ไลบรารีนี้เพื่อส่งคำขอไปยัง API ได้

 นำเข้า runpodrunpod.api_key = "your_runpod_api_key_found_under_settings"

จุดสิ้นสุด

คุณสามารถโต้ตอบกับตำแหน่งข้อมูล RunPod ผ่านเมธอด run หรือ run_sync

 จุดสิ้นสุด = runpod.Endpoint("ENDPOINT_ID")run_request = endpoint.run(
    {"your_model_input_key": "your_model_input_value"}
)# ตรวจสอบสถานะของคำขอเรียกใช้จุดสิ้นสุดprint(run_request.status())# รับเอาต์พุตของคำขอเรียกใช้จุดสิ้นสุด โดยบล็อกจนกว่าการเรียกใช้จุดสิ้นสุดจะเสร็จสมบูรณ์ print(run_request.output())

 จุดสิ้นสุด = runpod.Endpoint("ENDPOINT_ID")run_request = endpoint.run_sync(
    {"your_model_input_key": "your_model_input_value"}
)# ส่งคืนผลลัพธ์งานหากเสร็จสิ้นภายใน 90 วินาที หรือส่งคืนสถานะงาน print(run_request )

GPU Cloud (พ็อด)

 import runpodrunpod.api_key = "your_runpod_api_key_found_under_settings"# รับ podspods ของฉันทั้งหมด = runpod.get_pods()# รับ podpod เฉพาะ = runpod.get_pod(pod.id)# สร้าง podpod = runpod.create_pod("test", "runpod/stack , "NVIDIA GeForce RTX 3070")# หยุด podrunpod.stop_pod(pod.id)# ดำเนินการต่อ podrunpod.resume_pod (pod.id)# ยุติ podrunpod.terminate_pod (pod.id)

ไดเรกทอรี

 .├── docs # Documentation├── examples # Examples├── runpod # Package source code│ ├── api_wrapper # Language Library - API (GraphQL)│ ├── cli # Command Line Interface Functions│ ├── endpoint # ไลบรารีภาษา - จุดสิ้นสุด│ └── ไร้เซิร์ฟเวอร์ # SDK - ไร้เซิร์ฟเวอร์ การทดสอบผู้ปฏิบัติงาน└── # การทดสอบแพ็คเกจ