Substrate は AI を使用して構築するための強力な SDKであり、言語モデル、画像生成、組み込みベクトル ストレージ、サンドボックス コード実行などのバッテリーが含まれています。 Substrate を使用するには、タスクを接続し、ワークフローを実行するだけです。このシンプルなアプローチを使用すると、追加の抽象化を行わずに、単純に計算を記述するだけで AI システム (RAG からエージェント、マルチモーダル生成エクスペリエンスまで) を作成できます。
Substrate は、複合 AI ワークロードを実行するために最適化されたワークフロー実行および推論エンジンでもあります。複数の推論 API を接続するのは、自分で行う場合でも、LangChain のようなフレームワークを使用する場合でも、本質的に時間がかかります。 Substrate を使用すると、フレームワークを廃止し、記述するコードを減らし、複合 AI を高速に実行できます。
始めたばかりの場合は、docs.substrate.run にアクセスしてください。
Substrate で利用可能なノードをカバーする詳細な API リファレンスについては、substrate.run/nodes を参照してください。
# install from PyPI
pip install substrate
from substrate import Substrate , ComputeText , sb
Substrate クライアントを初期化します。
substrate = Substrate ( api_key = SUBSTRATE_API_KEY )
ComputeText
ノードを使用してストーリーを生成します。
story = ComputeText ( prompt = "tell me a story" )
別のComputeText
ノードを使用して、 story
ノードの出力を要約します。 story
まだ実行されていないため、 sb.concat
使用して将来の出力を処理します。
summary = ComputeText ( prompt = sb . concat ( "summarize this story in one sentence: " , story . future . text ))
ターミナルノードをsubstrate.run
に渡すことで、 story
→ summary
グラフチェーンを実行します。
response = substrate . run ( story , summary )
(グラフを非同期的に実行するには、単にasync_run
とawait
使用します。)
response = await substrate . async_run ( story , summary )
概要ノードの出力をresponse.get
に渡して取得します。
summary_out = response . get ( summary )
print ( summary_out . text )
# Princess Lily, a kind-hearted young princess, discovers a book of spells and uses it to grant her family and kingdom happiness.
上記の例をノートブックとして実行するには、 examples/notebooks
ディレクトリに移動して次を実行します。
make ensure # install dependencies
poetry run marimo edit basic.py # run the notebook
/examples
ディレクトリには、さらに多くの例が含まれています。