dactylographié sur substrat

SDK TypeScript pour substrat

Substrate est un SDK puissant pour la construction avec l'IA, avec des batteries incluses : modèles de langage, génération d'images, stockage vectoriel intégré, exécution de code en bac à sable, et bien plus encore. Pour utiliser Substrate, il vous suffit de connecter des tâches, puis d'exécuter le flux de travail. Avec cette approche simple, nous pouvons créer des systèmes d'IA (du RAG aux agents, en passant par les expériences génératives multimodales) en décrivant simplement le calcul, sans abstractions supplémentaires .

Substrate est également un moteur d'exécution et d'inférence de flux de travail, optimisé pour exécuter des charges de travail d'IA composées. Le câblage de plusieurs API d'inférence est intrinsèquement lent, que vous le fassiez vous-même ou que vous utilisiez un framework comme LangChain. Le substrat vous permet d'abandonner le framework, d'écrire moins de code et d'exécuter rapidement l'IA composée.

Documentation

Si vous débutez, rendez-vous sur docs.substrate.run.

Pour une référence détaillée de l'API couvrant les nœuds disponibles sur Substrate, voir substrat.run/nodes.

Installation

npm install substrate

Usage

 import { Substrate , ComputeText , sb } from "substrate" ;

Initialisez le client Substrat.

 const substrate = new Substrate ( { apiKey : SUBSTRATE_API_KEY } ) ;

Générez une histoire à l'aide du nœud ComputeText .

 const story = new ComputeText ( { prompt : "tell me a story" } ) ;

Résumez la sortie du nœud story à l'aide d'un autre nœud ComputeText . Comme story n'a pas encore été exécutée, nous utilisons sb.interpolate pour travailler avec sa sortie future.

 const summary = new ComputeText ( {
  prompt : sb . interpolate `summarize this story in one sentence: ${ story . future . text } ` ,
} ) ;

Exécutez l' story de chaînage de graphiques → summary en passant le nœud terminal à substrate.run .

 const response = await substrate . run ( summary ) ;

Obtenez la sortie du nœud de résumé en la transmettant à response.get .

 const summaryOut = response . get ( summary ) ;
console . log ( summaryOut . text ) ;
// Princess Lily, a kind-hearted young princess, discovers a book of spells and uses it to grant her family and kingdom happiness. 

Exemples

Nous créons toujours de nouveaux exemples JS sur val.town.

De nombreux exemples sont également inclus dans le répertoire examples .