runpod python下載 - runpod python原始碼下載

runpod python

Ai源碼

1.7.7

下載

運行Pod | Python庫

歡迎使用 RunPod API 和 SDK 的官方 Python 程式庫。

安裝

# 安裝最新發布版本pip install runpod# 或# 安裝最新開發版本（主分支）pip install git+https://github.com/runpod/runpod-python.git

需要 Python 3.8 或更高版本才能使用此套件的最新版本。

無伺服器工作線程 (SDK)

此 python 套件還可用於建立無伺服器工作線程，該工作線程可以作為自訂端點 API 部署到 RunPod。

快速入門

在專案中建立一個 python 腳本，其中包含模型定義和 RunPod 工作執行緒啟動程式碼。運行此 python 程式碼作為預設容器啟動命令：

 # my_worker.pyimport runpoddef is_even(job):job_input = job["input"]the_number = job_input["number"]if not isinstance(the_number, int):return {"error": "愚蠢的人類，你需要傳遞一個愚蠢的人類，你需要傳遞一個愚蠢的人類，你需要傳遞一個愚蠢的人類，你需要傳遞一個愚蠢的人類，你需要傳遞一個人整數。

確保容器啟動時運行此文件。這可以透過在 runpod.io/console/serverless/user/templates 設定範本時在 docker 命令中呼叫它來完成，或者透過在 Dockerfile 中將其設定為預設命令來完成。

請參閱我們關於建立基本無伺服器 API 的部落格文章，或查看詳細文件以取得更多資訊。

本地測試人員

您也可以在將工作程序部署到 RunPod 之前在本地對其進行測試。這對於調試和測試很有用。

 python my_worker.py --rp_serve_api

| API語言庫（GraphQL包裝器）

與 RunPod API 互動時，您可以使用此程式庫向 API 發出請求。

導入 runpodrunpod.api_key = "your_runpod_api_key_found_under_settings"

端點

您可以透過run或run_sync方法與 RunPod 端點互動。

端點 = runpod.Endpoint("ENDPOINT_ID")run_request = 端點.run(
    {“your_model_input_key”：“your_model_input_value”}
)# 檢查端點執行請求的狀態print(run_request.status())# 取得端點執行請求的輸出，阻斷直到端點運作完成。

端點 = runpod.Endpoint("ENDPOINT_ID")run_request = 端點.run_sync(
    {“your_model_input_key”：“your_model_input_value”}
)# 若在 90 秒內完成則傳回作業結果，否則傳回作業狀態.print(run_request )

GPU 雲（Pod）

 import runpodrunpod.api_key = "your_runpod_api_key_found_under_settings"# 取得我所有的podspods = runpod.get_pods()# 取得特定的podpods = runpod.get_pod(pod.id)# 建立一個podpods = runpod.create_runpod( stack ", "NVIDIA GeForce RTX 3070")# 停止 podrunpod.stop_pod(pod.id)# 恢復 podrunpod.resume_pod(pod.id)# 終止 podrunpod.terminate_pod(pod.id)

.├── docs # 文件├── Examples # 範例├── runpod # 套件原始碼│ ├── api_wrapper # 語言函式庫-API (GraphQL)│ ├── cli # 指令列介面函數│ ├ endpoint #語言庫- Endpoints│ └── serverless # SDK - Serverless Worker└── 測試# 套件測試