SwanAPIダウンロード - SwanAPIソースコードのダウンロード

SwanAPI

AI ソースコード

v0.2.5

ダウンロード

英語

?機能実装

ゼロしきい値の非常に高速なモデル生成 API
閾値ゼロで深層学習画像を極めて高速にパッケージ化
- Linux/Win/WSL/MacOS での CPU Docker イメージの迅速なパッケージ化をサポート
- Linux/Win/WSL での GPU Docker イメージの迅速なパッケージ化をサポート
ユースケース

頼る

ペイソン3.7+
Docker : SwanAPI Docker を使用してモデルのコンテナーを作成します。 SwanAPIのイメージパッケージ化機能を実行する前に、Docker をインストールする必要があります。

？インストール

SwanAPI -i https://pypi.org/simple">

pip install SwanAPI -i https://pypi.org/simple

ローカルAPIサービス

1️⃣ predict.pyファイルを作成します。ここでは、画像を白黒に変換する例を使用します。

以前に Gradio を書いたことがある場合は、この記述方法に精通しているはずです。これはgr.Interface定義する方法と非常によく似ています。

SwanAPI import SwanInference import cv2 # 这是一个简单的图像转黑白的任务 def predict(im): result_image = cv2.cvtColor(im, cv2.COLOR_BGR2GRAY) return "success", result_image if __name__ == "__main__": api = SwanInference() api.inference(predict, inputs=['image'], outputs=['text', 'image'], description="a simple test") api.launch()">

 from SwanAPI import SwanInference
import cv2

# 这是一个简单的图像转黑白的任务
def predict ( im ):
    result_image = cv2 . cvtColor ( im , cv2 . COLOR_BGR2GRAY )
    return "success" , result_image

if __name__ == "__main__" :
    api = SwanInference ()
    api . inference ( predict ,
                  inputs = [ 'image' ],
                  outputs = [ 'text' , 'image' ],
                  description = "a simple test" )
    api . launch ()

2⃣️ python predict.pyを実行して、 localhost://127.0.0.1:8000/

SwanAPI Server" (lazy loading) * Environment: production WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server instead. * Debug mode: off * Running on http://0.0.0.0:8000/ (Press CTRL+C to quit)">

$ python predict.py
 * Serving Flask app " SwanAPI Server" (lazy loading)
 * Environment: production
   WARNING: This is a development server. Do not use it in a production deployment.
   Use a production WSGI server instead.
 * Debug mode: off
 * Running on http://0.0.0.0:8000/ (Press CTRL+C to quit)

3⃣️ APIを呼び出す

SwanAPI import SwanRequests, Files response = SwanRequests( url="http://127.0.0.1:8000/predictions/", inputs={'im': Files("/path/to/image")}) #填写图像文件的本地路径 print(response) ">

 from SwanAPI import SwanRequests , Files

response = SwanRequests (
    url = "http://127.0.0.1:8000/predictions/" ,
    inputs = { 'im' : Files ( "/path/to/image" )})  #填写图像文件的本地路径

print ( response )

curl使用してリクエストを送信する場合:

curl --location ' http://127.0.0.1:8000/predictions/ ' 
--form ' im=@"path/to/image" '

出力が「image」に設定されている場合、base64 でエンコードされたバイトストリームが返され、Python の np.ndarray に変換されます。

SwanAPI import SwanRequests, Files import base64 import numpy as np import cv2 response = SwanRequests( url="http://127.0.0.1:8000/predictions/", inputs={'im': Files("../Feedback/assets/FeedBack.png")}) #填写图像文件的本地路径 image_base64 = response[str(1)]['content'] nparr = np.frombuffer(base64.b64decode(image_base64), np.uint8) img_restore = cv2.imdecode(nparr, cv2.IMREAD_COLOR) cv2.imwrite("output.jpg", img_restore)">

 from SwanAPI import SwanRequests , Files
import base64
import numpy as np
import cv2

response = SwanRequests (
    url = "http://127.0.0.1:8000/predictions/" ,
    inputs = { 'im' : Files ( "../Feedback/assets/FeedBack.png" )})  #填写图像文件的本地路径

image_base64 = response [ str ( 1 )][ 'content' ]
nparr = np . frombuffer ( base64 . b64decode ( image_base64 ), np . uint8 )
img_restore = cv2 . imdecode ( nparr , cv2 . IMREAD_COLOR )

cv2 . imwrite ( "output.jpg" , img_restore )

APIイメージを素早く作成する

predict.pyの開発が完了したら、次のようにします。

1⃣️ イメージ構築のガイドとなるswan.yamlファイルを作成します。

 build :
  gpu : false
  system_packages :
    - " libgl1-mesa-glx "
    - " libglib2.0-0 "
  python_version : " 3.10 "
  python_packages :
    - " numpy "
    - " opencv-python "
predict :
  port : 8000

建てる：

gpu : GPU モードを有効にするかどうか。 true の場合、ハードウェア構成、python_version、ディープラーニングフレームワークに基づいて、最適な nvidia サポートが自動的に選択されます。
system_packages : Linux システムの基本ライブラリ。これらはapt-get install 。
python_version : イメージが実行される基本的な Python バージョン。3.8、3.9、および 3.10 をサポートします。
python_packages : モデルが依存する Python ライブラリ
- Python ライブラリでインストールソースを指定する必要がある場合は、 - "torch==2.0.0 --index-url https://download.pytorch.org/whl/cpu"のように記述できます。
python_source : Python ライブラリのダウンロードソースを指定します。オプションでcnとusを指定します。デフォルトはusです。 cnダウンロードソースを選択すると清华源が使用されます

予測する：

port : 推論サービス起動時のポート番号

2⃣️イメージを構築する

swan build -t my-dl-image

swan ビルドのオプションのパラメーター:

-t : 必須。イメージビルドの名前を指定しますmy-dl-imageなど)。
-r : オプション。このパラメーターを追加すると、イメージのビルド後にコンテナーが実行され、ポートマッピングが行われます: swan build -r -t my-dl-image
-s : オプション。このパラメータを追加すると、イメージの構築後に Dokefile がディレクトリに保存されます。

3⃣️ コンテナを実行する