substrate python

底層Python SDK

Substrate 是一款功能強大的 SDK ，用於使用 AI 進行構建，其中包括：語言模型、圖像生成、內建向量儲存、沙盒程式碼執行等。要使用 Substrate，您只需連接任務，然後執行工作流程即可。透過這種簡單的方法，我們可以透過簡單地描述計算來創建人工智慧系統（從 RAG 到代理，再到多模式生成體驗），並且零附加抽象。

Substrate 也是一個工作流程執行和推理引擎，針對運行複合 AI 工作負載進行了最佳化。將多個推理 API 連接在一起本質上很慢 - 無論您自己這樣做還是使用像 LangChain 這樣的框架。 Substrate 讓您可以放棄框架、編寫更少的程式碼並快速運行複合 AI。

文件

如果您剛開始，請前往 docs.substrate.run。

有關涵蓋 Substrate 上可用節點的詳細 API 參考，請參閱substrate.run/nodes。

安裝

 # install from PyPI
pip install substrate

用法

 from substrate import Substrate , ComputeText , sb

初始化 Substrate 客戶端。

 substrate = Substrate ( api_key = SUBSTRATE_API_KEY )

使用ComputeText節點產生故事。

 story = ComputeText ( prompt = "tell me a story" )

使用另一個ComputeText節點匯總story節點的輸出。因為story尚未運行，所以我們使用sb.concat來處理其未來的輸出。

 summary = ComputeText ( prompt = sb . concat ( "summarize this story in one sentence: " , story . future . text ))

透過將終端節點傳遞給substrate.run來運行圖連結story → summary 。

 response = substrate . run ( story , summary )

（要非同步運行圖表，只需使用async_run和await 。）

 response = await substrate . async_run ( story , summary )

透過將摘要節點的輸出傳遞給response.get來取得它。

 summary_out = response . get ( summary )
print ( summary_out . text )
# Princess Lily, a kind-hearted young princess, discovers a book of spells and uses it to grant her family and kingdom happiness. 

範例

若要將上面的範例作為筆記本運行，請導航至examples/notebooks目錄並運行：

make ensure                         # install dependencies
poetry run marimo edit basic.py     # run the notebook

/examples目錄中包含更多範例。