awesome llmops

很棒的 LLMOps

目录

• 目录
• 什么是 LLMOps？
• 及时工程
• 型号
• 优化
• 工具 (GitHub)
• 工具（其他）
• RLHF
• 惊人的
• 贡献

什么是 LLMOps？

LLMOps 是 MLOps 实践的一部分，是 MLOps 的特殊形式，专注于管理大型语言模型 (LLM) 的整个生命周期。

从2021年开始，随着LLM的快速发展和技术的成熟，我们开始关注高效管理LLM的实践，LLMOps（传统MLOPs实践对LLM的适应）开始被谈论。

LLMOps 与 MLOps

	LLMOps	MLOps
定义	专门用于开发和部署大型语言模型的工具和基础设施	适用于一般机器学习工作流程的工具和基础设施
重点	大型语言模型的独特要求和挑战	一般机器学习工作流程
关键技术	语言模型、Transformers 库、人机交互注释平台	Kubeflow、MLflow、TensorFlow 扩展
关键技能	NLP 专业知识、大语言模型知识、文本数据的数据管理	数据工程、DevOps、软件工程、机器学习专业知识
主要挑战	管理和标记大量文本数据，针对特定任务微调基础模型，确保语言模型的公平性和道德性	管理复杂的数据管道，确保模型的可解释性和可解释性，解决模型偏差和公平性
行业采用	新兴，越来越多的初创公司和公司专注于 LLMOps	已建立，拥有庞大的可用工具和框架生态系统
未来展望	随着大型语言模型变得更加普遍和强大，LLMOps 预计将成为一个越来越重要的研究领域	MLOps 将继续成为机器学习行业的关键组成部分，重点是提高效率、可扩展性和模型可靠性

⬆️ 回到顶部

及时工程

• PromptBase - 即时工程市场
• PromptHero - 提示工程网站
• Prompt Search - 提示工程的搜索引擎
• Prompt Perfect - 自动提示优化器
• Learn Prompting - 提示工程的教程网站
• 博客：探索即时注入攻击
• 博客：提示泄漏
• 论文：前缀调优：优化生成的连续提示

⬆️ 回到顶部

型号

姓名	参数尺寸	公告日期
BERT-大 (336M)	3.36亿	2018年
T5（11B）	110亿	2020年
地鼠 (280B)	2800亿	2021年
GPT-J (6B)	60亿	2021年
拉姆达 (137B)	1370亿	2021年
威震天-图灵 NLG (530B)	5300亿	2021年
T0 (11B)	110亿	2021年
金刚鹦鹉 (11B)	110亿	2021年
格拉姆 (1.2T)	1.2万亿	2021年
T5 法兰 (540B)	5400亿	2022年
OPT-175B (175B)	1750亿	2022年
聊天GPT (175B)	1750亿	2022年
GPT 3.5 (175B)	1750亿	2022年
AlexaTM (20B)	200亿	2022年
绽放 (176B)	1760亿	2022年
诗人	尚未公布	2023年
通用技术4	尚未公布	2023年
字母代码 (41.4B)	414亿	2022年
龙猫(70B)	700亿	2022年
麻雀 (70B)	700亿	2022年
帕LM (540B)	5400亿	2022年
NLLB (54.5B)	545亿	2022年
亚历克斯TM（20B）	200亿	2022年
卡拉狄加 (120B)	1200亿	2022年
UL2（20B）	200亿	2022年
侏罗纪-1 (178B)	1780亿	2022年
美洲驼 (65B)	650亿	2023年
斯坦福羊驼 (7B)	70亿	2023年
GPT-NeoX 2.0 (20B)	200亿	2023年
彭博GPT	500亿	2023年
多莉	60亿	2023年
侏罗纪2	尚未公布	2023年
OpenAssistant LLaMa	300亿	2023年
考拉	130亿	2023年
骆驼毛	130亿	2023年
帕LM2	尚未公布，比PaLM1小	2023年
利马	650亿	2023年
MPT	70亿	2023年
鹘	400亿	2023年
骆驼2	700亿	2023年
谷歌双子座	尚未公布	2023年
微软Phi-2	27亿	2023年
格罗克-0	330亿	2023年
格罗克-1	3140亿	2023年
太阳的	107亿	2024年
芽	70亿	2024年
格罗克-1.5	尚未公布	2024年
数据库接收	1320亿	2024年
克劳德 3	尚未公布	2024年
杰玛1.1	70亿	2024年
骆驼3	700亿	2024年

⬆️ 回到顶部

优化

• 博客：使用 Hugging Face Transformers、Accelerate 和 BitsandBytes 大规模介绍 Transformer 的 8 位矩阵乘法
• 博客：在 24GB 消费级 GPU 上使用 RLHF 微调 20B LLM
• 博客：处理大型模型进行推理
• 博客：如何针对任何语言微调羊驼模型 | ChatGPT 替代方案
• 论文：LLM.int8()：大规模 Transformer 的 8 位矩阵乘法
• 要点：用不同数量的分片分解/重组 LLAMA LLM 模型的脚本

⬆️ 回到顶部

工具 (GitHub)

• Stanley Alpaca - 斯坦福 Alpaca 项目的存储库，该模型是在 52K 指令跟踪演示上根据 LLaMA 7B 模型进行微调的模型。
• LoRA - “LoRA：大型语言模型的低阶适应”的实现。
• Dolly - 在 Databricks 机器学习平台上训练的大型语言模型。
• DeepSpeed - 一个深度学习优化库，使分布式训练和推理变得简单、高效、有效。
• LMFlow - 用于大型基础模型微调和推理的可扩展工具包。适合所有人的大模型。
• Promptify - 用于提示工程的实用程序/takeit。
• Auto-GPT - 一项让 GPT-4 完全自治的实验性开源尝试。
• Jarvis - 将 LLM 与 ML 社区连接的系统，通过 LLM 接口的复合模型连接器。
• dalai - - 在本地计算机上运行 LLaMA 的 cli 工具。
• haystack - 一个开源 NLP 框架，使用 Transformer 模型和 LLM 与数据进行交互。
• langchain - - 协助法学硕士开发应用程序的库。
• langflow - LangChain 的 UI，使用 React-flow 设计，提供一种轻松的方法来实验和原型流程。
• deeplake - 用于深度学习的数据湖。构建、管理、查询、版本化和可视化数据集。
• alpaca-lora - - 在消费类硬件上指导调整 LLaMA。
• bosquet - 用于基于大型语言模型的应用程序的 LLMOps。
• llama_index - - 一个提供中央接口以将法学硕士与外部数据连接起来的项目。
• gradio - - 机器学习模型的 UI 助手。
• sharegpt - 一款开源 Chrome 扩展，可让您一键分享最疯狂的 ChatGPT 对话。
• keras-nlp - - 一个自然语言处理库，为用户的整个开发周期提供支持。
• Snowkel AI - - 基础模型的数据平台。
• Promptflow - 一个工具包，可简化基于 LLM 的 AI 应用程序的开发，从构思到部署。

⬆️ 回到顶部

工具（其他）

• PaLM2 API - 一项 API 服务，使 PaLM2、大型语言模型 (LLM) 可用于 Google Cloud Vertex AI。
• Perspective API - 一种可以帮助减轻毒性并确保健康在线对话的工具。

⬆️ 回到顶部

RLHF

• evals - 带有人类反馈资源的强化学习精选列表。
• trlx - 通过人类反馈进行强化学习的分布式语言模型训练的存储库。 (RLHF)
• PaLM-rlhf-pytorch - - 在 PaLM 架构之上实现 RLHF（带有人类反馈的强化学习）。

⬆️ 回到顶部

惊人的

• Hannibal046/Awesome-法学硕士
• 肯尼森·塞耶/awesome-llm
• f/awesome-chatgpt-提示
• Prompt-Engineering/Awesome-Prompt-Engineering
• 张索弦/awesome-open-source-llmops
• opendilab/awesome-RLHF

⬆️ 回到顶部

贡献

我们欢迎对 Awesome LLMOps 列表做出贡献！如果您想建议添加或更正，请遵循以下准则：

1. 分叉存储库并为您的贡献创建一个新分支。
2. 对 README.md 文件进行更改。
3. 确保您的贡献与 LLMOps 主题相关。
4. 使用以下格式添加您的贡献：

 [ Name of Resource ] (Link to Resource) - Description of resource

5. 按字母顺序将您的贡献添加到其类别中。
6. 确保您的贡献尚未列出。
7. 提供资源的简要描述并解释其与 LLMOps 相关的原因。
8. 创建一个拉取请求，其中包含清晰的标题和更改说明。

我们感谢您的贡献，并感谢您帮助使 Awesome LLMOps 列表变得更加精彩！

⬆️ 回到顶部