Substrate es un potente SDK para construir con IA, con baterías incluidas: modelos de lenguaje, generación de imágenes, almacenamiento vectorial integrado, ejecución de código en espacio aislado y más. Para usar Substrate, simplemente conecta tareas y luego ejecuta el flujo de trabajo. Con este enfoque simple, podemos crear sistemas de IA (desde RAG hasta agentes y experiencias generativas multimodales) simplemente describiendo el cálculo, sin abstracciones adicionales .
Substrate también es un motor de inferencia y ejecución de flujo de trabajo , optimizado para ejecutar cargas de trabajo de IA compuestas. Conectar varias API de inferencia es intrínsecamente lento, ya sea que lo haga usted mismo o utilice un marco como LangChain. Substrate le permite deshacerse del marco, escribir menos código y ejecutar IA compuesta rápidamente.
Si recién estás comenzando, dirígete a docs.substrate.run.
Para obtener una referencia API detallada que cubra los nodos disponibles en Substrate, consulte sustrato.run/nodes.
# install from PyPI
pip install substrate
from substrate import Substrate , ComputeText , sb
Inicialice el cliente Substrate.
substrate = Substrate ( api_key = SUBSTRATE_API_KEY )
Genere una historia usando el nodo ComputeText
.
story = ComputeText ( prompt = "tell me a story" )
Resuma el resultado del nodo story
utilizando otro nodo ComputeText
. Como story
aún no se ha ejecutado, utilizamos sb.concat
para trabajar con su salida futura.
summary = ComputeText ( prompt = sb . concat ( "summarize this story in one sentence: " , story . future . text ))
Ejecute la story
de encadenamiento de gráficos → summary
pasando el nodo terminal a substrate.run
.
response = substrate . run ( story , summary )
(Para ejecutar el gráfico de forma asincrónica, simplemente use async_run
y await
).
response = await substrate . async_run ( story , summary )
Obtenga el resultado del nodo de resumen pasándolo a response.get
.
summary_out = response . get ( summary )
print ( summary_out . text )
# Princess Lily, a kind-hearted young princess, discovers a book of spells and uses it to grant her family and kingdom happiness.
Para ejecutar el ejemplo anterior como un cuaderno, navegue hasta el directorio examples/notebooks
y ejecute:
make ensure # install dependencies
poetry run marimo edit basic.py # run the notebook
Se incluyen muchos más ejemplos en el directorio /examples
.