langstream下载 - langstream源代码下载

langstream

其他源码

v0.6.2

下载

langstream

查看我们的网站。

有问题吗？加入我们的懒惰或亚麻的社区！

有关完整的文档，请转到此处。

在此处获取langstream vs code扩展名。

内容

langstream
- CLI
- 尝试样本申请
- 创建自己的应用程序
- 在kubernetes上运行langstream
  - 生产就绪部署
  - 本地部署
- 发展

CLI

警告CLI要求已在计算机上安装Java 11+。

安装

有多种安装CLI的方法。

macos：

自制

 brew install LangStream/langstream/langstream

二进制卷曲

 curl -Ls "https://raw.githubusercontent.com/LangStream/langstream/main/bin/get-cli.sh" | bash

UNIX：

二进制卷曲

 curl -Ls "https://raw.githubusercontent.com/LangStream/langstream/main/bin/get-cli.sh" | bash

可用验证二进制文件：

 langstream -V

请参阅CLI文档以了解更多信息。

尝试样本申请

运行示例聊天完成申请：

 export OPEN_AI_ACCESS_KEY=your-key-here
langstream docker run test 
   -app https://github.com/LangStream/langstream/blob/main/examples/applications/openai-completions 
   -s https://github.com/LangStream/langstream/blob/main/examples/secrets/secrets.yaml

在不同的终端窗口中：

langstream gateway chat test -cg consume-output -pg produce-input -p sessionId= $( uuidgen )

在示例文件夹中查看更多示例应用程序。

创建自己的应用程序

要创建自己的应用程序，请参阅开发人员文档。

在kubernetes上运行langstream

Langstream已经准备好生产，并且强烈建议将其部署在Kubernetes群集上。支持以下Kubernetes分布：

亚马逊埃克斯
Azure Aks
Google Gke
Minikube

要运行一个langstream群集，您需要进行以下外部组件：

Apache Kafka或Apache Pulsar群集
S3 API兼容存储或Azure Blob存储（Amazon S3，Google Cloud Storage，Azure Blob Storage，Minio）

生产就绪部署

要安装langstream，您可以使用langstream头盔图：

 helm repo add langstream https://langstream.ai/charts
helm repo update

然后创建值文件。此时，您已经需要启动并运行存储服务。

如果您使用S3，则可以使用以下值：

 codeStorage :
  type : s3
  configuration :
    access-key : <aws-access-key>
    secret-key : <aws-secret-key>

对于Azure：

 codeStorage :
  type : azure
  configuration :
    endpoint : https://<storage-account>.blob.core.windows.net
    container : langstream
    storage-account-name : <storage-account>
    storage-account-key : <storage-account-key>

现在安装langstream：

 helm install -n langstream --create-namespace langstream langstream/langstream --values values.yaml
kubectl wait -n langstream deployment/langstream-control-plane --for condition=available --timeout=300s

本地部署

要创建一个本地的langstream群集，建议使用Minikube。 mini-langstream为安装和管理本地群集提供了帮助。

安装mini-langstream ：

macos：

brew install LangStream/langstream/mini-langstream

UNIX：

curl -Ls " https://raw.githubusercontent.com/LangStream/langstream/main/mini-langstream/get-mini-langstream.sh " | bash

然后启动集群：

mini-langstream start

部署应用程序：

 export OPEN_AI_ACCESS_KEY= < your-openai-api-key >
mini-langstream cli apps deploy my-app -app https://github.com/LangStream/langstream/tree/main/examples/applications/openai-completions -s https://github.com/LangStream/langstream/blob/main/examples/secrets/secrets.yaml

停止集群：