Substrate é um SDK poderoso para construção com IA, com baterias incluídas: modelos de linguagem, geração de imagens, armazenamento vetorial integrado, execução de código em área restrita e muito mais. Para usar o Substrate, basta conectar tarefas e executar o fluxo de trabalho. Com esta abordagem simples, podemos criar sistemas de IA (de RAG, a agentes, a experiências generativas multimodais) simplesmente descrevendo a computação, sem nenhuma abstração adicional .
O Substrate também é um mecanismo de execução e inferência de fluxo de trabalho, otimizado para executar cargas de trabalho compostas de IA. Conectar várias APIs de inferência é inerentemente lento – quer você faça isso sozinho ou use uma estrutura como LangChain. O Substrate permite que você abandone a estrutura, escreva menos código e execute IA composta rapidamente.
Se você está apenas começando, vá para docs.substrate.run.
Para obter uma referência detalhada da API que abrange os nós disponíveis no Substrate, consulte substrato.run/nodes.
# install from PyPI
pip install substrate
from substrate import Substrate , ComputeText , sb
Inicialize o cliente Substrate.
substrate = Substrate ( api_key = SUBSTRATE_API_KEY )
Gere uma história usando o nó ComputeText
.
story = ComputeText ( prompt = "tell me a story" )
Resuma a saída do nó story
usando outro nó ComputeText
. Como story
ainda não foi executada, usamos sb.concat
para trabalhar com sua saída futura.
summary = ComputeText ( prompt = sb . concat ( "summarize this story in one sentence: " , story . future . text ))
Execute a story
de encadeamento de gráficos → summary
passando o nó terminal para substrate.run
.
response = substrate . run ( story , summary )
(Para executar o gráfico de forma assíncrona, basta usar async_run
e await
.)
response = await substrate . async_run ( story , summary )
Obtenha a saída do nó de resumo passando-a para response.get
.
summary_out = response . get ( summary )
print ( summary_out . text )
# Princess Lily, a kind-hearted young princess, discovers a book of spells and uses it to grant her family and kingdom happiness.
Para executar o exemplo acima como um notebook, navegue até o diretório examples/notebooks
e execute:
make ensure # install dependencies
poetry run marimo edit basic.py # run the notebook
Muitos outros exemplos estão incluídos no diretório /examples
.