haystack

其他源码

v2.7.0

下载

文档包裹元

Haystack 是一个端到端的 LLM 框架，可让您构建由 LLM、Transformer 模型、矢量搜索等支持的应用程序。无论您想要执行检索增强生成 (RAG)、文档搜索、问答还是答案生成，Haystack 都可以将最先进的嵌入模型和 LLM 编排到管道中，以构建端到端 NLP 应用程序并解决您的问题用例。

安装

获取 Haystack 最简单的方法是通过 pip：

pip install haystack-ai

从main分支安装以尝试最新功能：

pip install git+https://github.com/deepset-ai/haystack.git@main

Haystack 支持多种安装方式，包括 Docker 镜像。有关全面的指南，请参阅文档。

文档

如果您是该项目的新手，请查看“什么是 Haystack？”然后阅读“入门指南”并在几分钟内构建您的第一个 LLM 申请。通过教程继续学习。对于更高级的用例，或者只是为了获得一些灵感，您可以在食谱中浏览我们的 Haystack 食谱。

在任何给定点，请点击文档以了解有关 Haystack 的更多信息、它能为您做什么以及背后的技术。

特征

重要的

您当前正在查看 Haystack 2.0 的自述文件。我们仍在维护 Haystack 1.x，以便让每个人都有足够的时间迁移到 2.0。在这里切换到 Haystack 1.x。

技术不可知论：允许用户灵活地决定他们想要的供应商或技术，并可以轻松地将任何组件更换为另一个组件。 Haystack 允许您使用和比较 OpenAI、Cohere 和 Hugging Face 提供的模型，以及您自己的本地模型或 Azure、Bedrock 和 SageMaker 上托管的模型。
明确：使不同的移动部件如何相互“对话”变得透明，以便更轻松地适应您的技术堆栈和用例。
灵活： Haystack 在一个地方提供所有工具：数据库访问、文件转换、清理、拆分、训练、评估、推理等。只要需要自定义行为，就可以轻松创建自定义组件。
可扩展：为社区和第三方提供统一且简单的方式来构建自己的组件，并围绕 Haystack 培育开放的生态系统。

Haystack 的一些用途示例：

通过利用可用的矢量数据库之一并自定义您的 LLM 交互来构建检索增强生成 (RAG) ，天空是极限
以自然语言执行问答，以在文档中找到详细的答案。
执行语义搜索并根据含义检索文档。
构建可以做出复杂决策以回答复杂查询的应用程序：例如可以解决复杂客户查询的系统，对许多断开连接的资源进行知识搜索等。
使用检索器和生产规模组件扩展到数百万个文档。
使用现成的模型或根据您的数据对其进行微调。
使用用户反馈来评估、基准测试并持续改进您的模型。

提示

您是否正在寻找可从 Haystack 中受益的托管解决方案？ deepset Cloud 是我们完全托管的端到端平台，用于将 LLM 与您的数据集成，它使用 Haystack 作为 LLM 管道架构。

可视化管道编辑器

使用deepset Studio直观地创建 Haystack 管道架构并将其导出为 YAML 或 Python 代码。请在我们的公告帖子中了解更多相关信息。

工作室

加入候补名单！

遥测

Haystack 收集管道组件的匿名使用统计信息。每次初始化这些组件时，我们都会收到一个事件。这样，我们就知道哪些组件与我们的社区最相关。

在 Haystack 文档中阅读有关 Haystack 遥测的更多信息或如何选择退出。

？社区

如果您有功能请求或错误报告，请随时在 Github 中提出问题。我们会定期检查这些内容，您可以期待快速回复。如果您想讨论某个主题，或者获得有关如何使 Haystack 适用于您的项目的更一般性建议，您可以在 Github 讨论或我们的 Discord 频道中发起话题。我们还检查？ (Twitter) 和 Stack Overflow。