llm chain

LLM链

llm-chain是一组Rust Crate的集合，旨在帮助您创建高级LLM应用程序，例如聊天机器人，代理等。作为一个全面的LLM-OPS平台，我们对云和本地托管的LLM都有强有力的支持。我们还为及时的模板提供了强大的支持，并在多步链中将提示链在一起，从而实现了LLM无法在一个步骤中处理的复杂任务。我们还提供矢量商店集成，使您可以轻松地提供模型的长期记忆和主题知识。这使您能够构建复杂的应用程序。

例子

为了帮助您入门，这是一个示例，展示了如何使用llm-chain 。您可以在存储库中的示例文件夹中找到更多示例。

 let exec = executor ! ( ) ? ;
let res = prompt ! (
    "You are a robot assistant for making personalized greetings" ,
    "Make a personalized greeting for Joe"
)
. run ( parameters ( ) ! , & exec )
. await ? ;
println ! ( "{}" , res ) ;

➡️教程：开始使用LLM链➡️快速启动：基于我们的模板创建项目

特征 ？

• 提示模板：创建可重复使用且易于自定义的提示模板，以与LLMS保持一致且结构化的交互。
• 链：建立强大的提示链，使您可以逐步执行更复杂的任务，从而利用LLM的全部潜力。
• CHATGPT支持：支持ChatGPT模型，并计划将来添加OpenAI的其他型号。
• Llama支持：与Llama模型无缝集成，从而通过Facebook的研究模型实现自然语言理解和发电任务。
• 羊驼支持：纳入对斯坦福大学羊驼模型的支持，扩大了用于高级AI应用程序的可用语言模型范围。
• llm.rs支持：在RUST中使用LLM，而无需依赖于C ++代码，我们对llm.rs的支持
• 工具：通过使他们可以访问各种工具，例如运行bash命令，执行Python脚本或执行Web搜索，从而增强您的AI代理的功能，从而实现了更复杂和更强大的交互。
• 可扩展性：考虑到可扩展性的设计，使得随着生态系统的增长，可以轻松整合其他LLM。
• 社区驱动：我们欢迎并鼓励社区的贡献，以帮助改善和扩大llm-chain的能力。

入门

要开始使用llm-chain ，请将其添加为Cargo.toml中的依赖项（您需要Rust 1.65.0或更新）：

[ dependencies ]
llm-chain = " 0.12.0 "
llm-chain-openai = " 0.12.0 "

llm-chain-openai的示例要求您设置OPENAI_API_KEY环境变量，您可以这样做：

 export OPENAI_API_KEY= " sk-YOUR_OPEN_AI_KEY_HERE "

然后，请参阅文档和示例，以了解如何创建及时的模板，链条等。

贡献？

我们热烈欢迎所有人的贡献！如果您有兴趣帮助改善llm-chain ，请查看我们的CONTRIBUTING.md文件以获取准则和最佳实践。

执照 ？

llm-chain已获得MIT许可证的许可。

与我们联系

如果您有任何疑问，建议或反馈，请随时打开问题或加入我们的社区不和谐。我们总是很高兴收到用户的来信，并了解您在llm-chain中的经历。

我们希望您喜欢使用llm-chain来解锁项目中大型语言模型的全部潜力。愉快的编码！ ？