Substrate는 언어 모델, 이미지 생성, 내장 벡터 저장소, 샌드박스 코드 실행 등 배터리가 포함된 AI 구축을 위한 강력한 SDK 입니다. Substrate를 사용하려면 작업을 연결한 다음 워크플로를 실행하기만 하면 됩니다. 이 간단한 접근 방식을 사용하면 추가 추상화 없이 단순히 계산을 설명하여 AI 시스템(RAG에서 에이전트, 다중 모드 생성 경험까지)을 만들 수 있습니다.
Substrate는 복합 AI 워크로드 실행에 최적화된 워크플로 실행 및 추론 엔진이기도 합니다. 여러 추론 API를 함께 연결하는 것은 직접 수행하든 LangChain과 같은 프레임워크를 사용하든 본질적으로 느립니다. Substrate를 사용하면 프레임워크를 버리고 코드 작성을 줄이며 복합 AI를 빠르게 실행할 수 있습니다.
이제 막 시작했다면 docs.substrate.run으로 이동하세요.
Substrate에서 사용할 수 있는 노드를 다루는 자세한 API 참조는substrate.run/nodes를 참조하세요.
# install from PyPI
pip install substrate
from substrate import Substrate , ComputeText , sb
기판 클라이언트를 초기화합니다.
substrate = Substrate ( api_key = SUBSTRATE_API_KEY )
ComputeText
노드를 사용하여 스토리를 생성합니다.
story = ComputeText ( prompt = "tell me a story" )
다른 ComputeText
노드를 사용하여 story
노드의 출력을 요약합니다. story
아직 실행되지 않았으므로 sb.concat
사용하여 향후 출력 작업을 수행합니다.
summary = ComputeText ( prompt = sb . concat ( "summarize this story in one sentence: " , story . future . text ))
터미널 노드를 substrate.run
에 전달하여 그래프 체인 story
→ summary
실행합니다.
response = substrate . run ( story , summary )
(그래프를 비동기적으로 실행하려면 async_run
및 await
사용하면 됩니다.)
response = await substrate . async_run ( story , summary )
response.get
에 전달하여 요약 노드의 출력을 가져옵니다.
summary_out = response . get ( summary )
print ( summary_out . text )
# Princess Lily, a kind-hearted young princess, discovers a book of spells and uses it to grant her family and kingdom happiness.
위 예제를 노트북으로 실행하려면 examples/notebooks
디렉터리로 이동하여 다음을 실행하세요.
make ensure # install dependencies
poetry run marimo edit basic.py # run the notebook
/examples
디렉터리에는 더 많은 예제가 포함되어 있습니다.