SwanAPI下載 - SwanAPI原始碼下載

SwanAPI

Ai源碼

v0.2.5

下載

English

?已實現功能

零門檻極速產生模型API
零門檻極速打包深度學習鏡像
- 支援Linux/Win/WSL/MacOS上的CPU Docker映像快速打包
- 支援Linux/Win/WSL上的GPU Docker映像快速打包
使用案例

依賴

Paython3.7+
Docker. SwanAPI使用Docker來為你的模型創建容器, 在你運行SwanAPI的鏡像打包功能之前, 你需要安裝Docker。

?安裝

SwanAPI -i https://pypi.org/simple">

pip install SwanAPI -i https://pypi.org/simple

本地API服務

1️⃣ 寫一個predict.py檔, 這裡我們以圖像轉黑白進行舉例：

如果你之前寫過Gradio，一定對這種寫法並不陌生，與定義gr.Interface的方法非常類似。

SwanAPI import SwanInference import cv2 # 这是一个简单的图像转黑白的任务 def predict(im): result_image = cv2.cvtColor(im, cv2.COLOR_BGR2GRAY) return "success", result_image if __name__ == "__main__": api = SwanInference() api.inference(predict, inputs=['image'], outputs=['text', 'image'], description="a simple test") api.launch()">

 from SwanAPI import SwanInference
import cv2

# 这是一个简单的图像转黑白的任务
def predict ( im ):
    result_image = cv2 . cvtColor ( im , cv2 . COLOR_BGR2GRAY )
    return "success" , result_image

if __name__ == "__main__" :
    api = SwanInference ()
    api . inference ( predict ,
                  inputs = [ 'image' ],
                  outputs = [ 'text' , 'image' ],
                  description = "a simple test" )
    api . launch ()

2⃣️ 執行python predict.py ，即可在localhost://127.0.0.1:8000/上執行一個API推理服務:

SwanAPI Server" (lazy loading) * Environment: production WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server instead. * Debug mode: off * Running on http://0.0.0.0:8000/ (Press CTRL+C to quit)">

$ python predict.py
 * Serving Flask app " SwanAPI Server" (lazy loading)
 * Environment: production
   WARNING: This is a development server. Do not use it in a production deployment.
   Use a production WSGI server instead.
 * Debug mode: off
 * Running on http://0.0.0.0:8000/ (Press CTRL+C to quit)

3⃣️ 呼叫API

SwanAPI import SwanRequests, Files response = SwanRequests( url="http://127.0.0.1:8000/predictions/", inputs={'im': Files("/path/to/image")}) #填写图像文件的本地路径 print(response) ">

 from SwanAPI import SwanRequests , Files

response = SwanRequests (
    url = "http://127.0.0.1:8000/predictions/" ,
    inputs = { 'im' : Files ( "/path/to/image" )})  #填写图像文件的本地路径

print ( response )

如果用curl發送請求：

curl --location ' http://127.0.0.1:8000/predictions/ ' 
--form ' im=@"path/to/image" '

outputs設定為'image'時，返回base64編碼後的位元組流，在python中轉換為np.ndarray：

SwanAPI import SwanRequests, Files import base64 import numpy as np import cv2 response = SwanRequests( url="http://127.0.0.1:8000/predictions/", inputs={'im': Files("../Feedback/assets/FeedBack.png")}) #填写图像文件的本地路径 image_base64 = response[str(1)]['content'] nparr = np.frombuffer(base64.b64decode(image_base64), np.uint8) img_restore = cv2.imdecode(nparr, cv2.IMREAD_COLOR) cv2.imwrite("output.jpg", img_restore)">

 from SwanAPI import SwanRequests , Files
import base64
import numpy as np
import cv2

response = SwanRequests (
    url = "http://127.0.0.1:8000/predictions/" ,
    inputs = { 'im' : Files ( "../Feedback/assets/FeedBack.png" )})  #填写图像文件的本地路径

image_base64 = response [ str ( 1 )][ 'content' ]
nparr = np . frombuffer ( base64 . b64decode ( image_base64 ), np . uint8 )
img_restore = cv2 . imdecode ( nparr , cv2 . IMREAD_COLOR )

cv2 . imwrite ( "output.jpg" , img_restore )

快速建立API鏡像

在開發predict.py完成後：

1⃣️ 創建一個swan.yaml文件，它將指導你的鏡像構建

 build :
  gpu : false
  system_packages :
    - " libgl1-mesa-glx "
    - " libglib2.0-0 "
  python_version : " 3.10 "
  python_packages :
    - " numpy "
    - " opencv-python "
predict :
  port : 8000

build：

gpu : 是否開啟gpu模式。 true將根據你的硬體配置、python_version以及深度學習框架自動選擇最佳的nvidia支援。
system_packages : Linux系統基礎庫，將使用apt-get install它們。
python_version : 鏡像運行的基礎Python版，支援3.8, 3.9, 3.10。
python_packages : 你的模型所依賴的Python函式庫
- 如果python函式庫需要指定安裝來源，可寫- "torch==2.0.0 --index-url https://download.pytorch.org/whl/cpu"
python_source ：指定python函式庫的下載來源，可選cn和us ，預設us 。選擇cn的下載來源將使用清华源