substrate python

Подложка Python SDK

Substrate — это мощный пакет SDK для создания приложений с использованием искусственного интеллекта, включающий в себя: языковые модели, генерацию изображений, встроенное векторное хранилище, выполнение кода в песочнице и многое другое. Чтобы использовать Substrate, вы просто подключаете задачи, а затем запускаете рабочий процесс. Используя этот простой подход, мы можем создавать системы искусственного интеллекта (от RAG до агентов и мультимодального генеративного опыта), просто описывая вычисления без каких-либо дополнительных абстракций .

Substrate также является механизмом выполнения рабочих процессов и вывода , оптимизированным для выполнения сложных рабочих нагрузок ИИ. Объединение нескольких API-интерфейсов вывода по своей сути является медленным — независимо от того, делаете ли вы это самостоятельно или используете такую ​​​​инфраструктуру, как LangChain. Substrate позволяет отказаться от инфраструктуры, писать меньше кода и быстро запускать сложный искусственный интеллект.

Документация

Если вы только начинаете, перейдите к docs.substrate.run.

Подробную справку по API, охватывающую узлы, доступные на Substrate, см. в разделе субстрат.run/nodes.

Установка

 # install from PyPI
pip install substrate

Использование

 from substrate import Substrate , ComputeText , sb

Инициализируйте клиент Substrate.

 substrate = Substrate ( api_key = SUBSTRATE_API_KEY )

Создайте историю, используя узел ComputeText .

 story = ComputeText ( prompt = "tell me a story" )

Обобщите выходные данные узла story , используя другой узел ComputeText . Поскольку story еще не запущена, мы используем sb.concat для работы с ее будущими результатами.

 summary = ComputeText ( prompt = sb . concat ( "summarize this story in one sentence: " , story . future . text ))

Запустите story цепочки графов → summary , передав конечный узел в substrate.run .

 response = substrate . run ( story , summary )

(Чтобы запустить график асинхронно, просто используйте async_run и await .)

 response = await substrate . async_run ( story , summary )

Получите выходные данные сводного узла, передав их в response.get .

 summary_out = response . get ( summary )
print ( summary_out . text )
# Princess Lily, a kind-hearted young princess, discovers a book of spells and uses it to grant her family and kingdom happiness. 

Примеры

Чтобы запустить приведенный выше пример как блокнот, перейдите в каталог examples/notebooks и запустите:

make ensure                         # install dependencies
poetry run marimo edit basic.py     # run the notebook

Многие другие примеры включены в каталог /examples .