langstreamダウンロードlangstreamソースコードのダウンロード

langstream

その他のソースコード

v0.6.2

ダウンロード

ラングストリーム

当社のウェブサイトをご覧ください。

質問がありますか？ SlackまたはLinenでコミュニティに参加してください！

完全なドキュメントについては、こちらをご覧ください。

ここでLangstream vsコード拡張機能を取得します。

コンテンツ

ラングストリーム
- cli
- サンプルアプリケーションを試してください
- 独自のアプリケーションを作成します
- KubernetesでLangstreamを実行します
  - 生産対応の展開
  - ローカル展開
- 発達

cli

警告CLIでは、Java 11+をマシンに既に取り付ける必要があります。

インストール

CLIをインストールする方法は複数あります。

macos：

ホームブリュー

 brew install LangStream/langstream/langstream

カール付きのバイナリ

 curl -Ls "https://raw.githubusercontent.com/LangStream/langstream/main/bin/get-cli.sh" | bash

Unix：

カール付きのバイナリ

 curl -Ls "https://raw.githubusercontent.com/LangStream/langstream/main/bin/get-cli.sh" | bash

バイナリが利用可能であることを確認してください。

 langstream -V

詳細については、CLIドキュメントを参照してください。

サンプルアプリケーションを試してください

Sample Chat Completions Application On-Flyを実行します。

 export OPEN_AI_ACCESS_KEY=your-key-here
langstream docker run test 
   -app https://github.com/LangStream/langstream/blob/main/examples/applications/openai-completions 
   -s https://github.com/LangStream/langstream/blob/main/examples/secrets/secrets.yaml

別の端子ウィンドウで：

langstream gateway chat test -cg consume-output -pg produce-input -p sessionId= $( uuidgen )

例フォルダーのサンプルアプリケーションをもっと参照してください。

独自のアプリケーションを作成します

独自のアプリケーションを作成するには、開発者のドキュメントを参照してください。

KubernetesでLangstreamを実行します

Langstreamは生産対応であり、Kubernetesクラスターに展開することを強くお勧めします。次のKubernetes分布がサポートされています。

Amazon eks
Azure Aks
Google Gke
Minikube

Langstreamクラスターを実行するには、次の外部コンポーネントを使用する必要があります。

Apache KafkaまたはApache Pulsarクラスター
S3 API互換ストレージまたはAzure Blobストレージ（Amazon S3、Google Cloud Storage、Azure Blob Storage、Minio）

生産対応の展開

Langstreamをインストールするには、 langstream Helmチャートを使用できます。

 helm repo add langstream https://langstream.ai/charts
helm repo update

次に、値ファイルを作成します。この時点で、既にストレージサービスを稼働させる必要があります。

S3を使用している場合は、次の値を使用できます。

 codeStorage :
  type : s3
  configuration :
    access-key : <aws-access-key>
    secret-key : <aws-secret-key>

Azureの場合：

 codeStorage :
  type : azure
  configuration :
    endpoint : https://<storage-account>.blob.core.windows.net
    container : langstream
    storage-account-name : <storage-account>
    storage-account-key : <storage-account-key>

次に、LangStreamをインストールします。

 helm install -n langstream --create-namespace langstream langstream/langstream --values values.yaml
kubectl wait -n langstream deployment/langstream-control-plane --for condition=available --timeout=300s

ローカル展開

ローカルラングストリームクラスターを作成するには、minikubeを使用することをお勧めします。 mini-langstream 、ローカルクラスターのインストールと管理に役立ちます。

mini-langstreamをインストールするには：

macos：

brew install LangStream/langstream/mini-langstream

Unix：

curl -Ls " https://raw.githubusercontent.com/LangStream/langstream/main/mini-langstream/get-mini-langstream.sh " | bash

次に、クラスターを起動します：

mini-langstream start

アプリケーションの展開：

 export OPEN_AI_ACCESS_KEY= < your-openai-api-key >
mini-langstream cli apps deploy my-app -app https://github.com/LangStream/langstream/tree/main/examples/applications/openai-completions -s https://github.com/LangStream/langstream/blob/main/examples/secrets/secrets.yaml

クラスターを停止するには：