substrate python
1.0.0
Substrate 是一款功能强大的 SDK ,用于使用 AI 进行构建,其中包括:语言模型、图像生成、内置矢量存储、沙盒代码执行等。要使用 Substrate,您只需连接任务,然后运行工作流程即可。通过这种简单的方法,我们可以通过简单地描述计算来创建人工智能系统(从 RAG 到代理,再到多模式生成体验),并且零附加抽象。
Substrate 也是一个工作流执行和推理引擎,针对运行复合 AI 工作负载进行了优化。将多个推理 API 连接在一起本质上很慢 - 无论您自己这样做还是使用像 LangChain 这样的框架。 Substrate 让您可以放弃框架、编写更少的代码并快速运行复合 AI。
如果您刚刚开始,请前往 docs.substrate.run。
有关涵盖 Substrate 上可用节点的详细 API 参考,请参阅substrate.run/nodes。
# install from PyPI
pip install substrate
from substrate import Substrate , ComputeText , sb
初始化 Substrate 客户端。
substrate = Substrate ( api_key = SUBSTRATE_API_KEY )
使用ComputeText
节点生成故事。
story = ComputeText ( prompt = "tell me a story" )
使用另一个ComputeText
节点汇总story
节点的输出。因为story
尚未运行,所以我们使用sb.concat
来处理其未来的输出。
summary = ComputeText ( prompt = sb . concat ( "summarize this story in one sentence: " , story . future . text ))
通过将终端节点传递给substrate.run
来运行图链接story
→ summary
。
response = substrate . run ( story , summary )
(要异步运行图表,只需使用async_run
和await
。)
response = await substrate . async_run ( story , summary )
通过将摘要节点的输出传递给response.get
来获取它。
summary_out = response . get ( summary )
print ( summary_out . text )
# Princess Lily, a kind-hearted young princess, discovers a book of spells and uses it to grant her family and kingdom happiness.
要将上面的示例作为笔记本运行,请导航到examples/notebooks
目录并运行:
make ensure # install dependencies
poetry run marimo edit basic.py # run the notebook
/examples
目录中包含更多示例。