awesome llmops

很棒的 LLMOps

目錄

• 目錄
• 什麼是 LLMOps？
• 及時工程
• 型號
• 最佳化
• 工具 (GitHub)
• 工具（其他）
• RLHF
• 驚人的
• 貢獻

什麼是 LLMOps？

LLMOps 是 MLOps 實踐的一部分，是 MLOps 的特殊形式，專注於管理大型語言模型 (LLM) 的整個生命週期。

從2021年開始，隨著LLM的快速發展和技術的成熟，我們開始關注高效管理LLM的實踐，LLMOps（傳統MLOPs實踐對LLM的適應）開始被談論。

LLMOps 與 MLOps

	LLMOps	MLOps
定義	專門用於開發和部署大型語言模型的工具和基礎設施	適用於一般機器學習工作流程的工具和基礎設施
重點	大型語言模型的獨特要求與挑戰	一般機器學習工作流程
關鍵技術	語言模型、Transformers 函式庫、人機互動註解平台	Kubeflow、MLflow、TensorFlow 擴充
關鍵技能	NLP 專業知識、大語言模型知識、文字資料的資料管理	資料工程、DevOps、軟體工程、機器學習專業知識
主要挑戰	管理和標記大量文字數據，針對特定任務微調基礎模型，確保語言模型的公平性和道德性	管理複雜的數據管道，確保模型的可解釋性和可解釋性，解決模型偏差和公平性
業界採用	新興，越來越多的新創公司和公司專注於 LLMOps	已建立，擁有龐大的可用工具和框架生態系統
未來展望	隨著大型語言模型變得更加普遍和強大，LLMOps 預計將成為一個越來越重要的研究領域	MLOps 將繼續成為機器學習產業的關鍵組成部分，重點是提高效率、可擴展性和模型可靠性

⬆️ 回到頂部

及時工程

• PromptBase - 即時工程市場
• PromptHero - 提示工程網站
• Prompt Search - 提示工程的搜尋引擎
• Prompt Perfect - 自動提示優化器
• Learn Prompting - 提示工程的教學網站
• 部落格：探索即時注入攻擊
• 部落格：提示洩漏
• 論文：前綴調優：最佳化產生的連續提示

⬆️ 回到頂部

型號

姓名	參數尺寸	公告日期
BERT-大 (336M)	3.36億	2018年
T5（11B）	110億	2020年
地鼠 (280B)	2800億	2021年
GPT-J (6B)	60億	2021年
拉姆達 (137B)	1370億	2021年
威震天-圖靈 NLG (530B)	5300億	2021年
T0 (11B)	110億	2021年
金剛鸚鵡 (11B)	110億	2021年
格拉姆 (1.2T)	1.2兆	2021年
T5 法蘭 (540B)	5400億	2022年
OPT-175B (175B)	1750億	2022年
聊天GPT (175B)	1750億	2022年
GPT 3.5 (175B)	1750億	2022年
AlexaTM (20B)	200億	2022年
綻放 (176B)	1760億	2022年
詩人	尚未公佈	2023年
通用技術4	尚未公佈	2023年
字母代碼 (41.4B)	414億	2022年
龍貓(70B)	700億	2022年
麻雀 (70B)	700億	2022年
帕LM (540B)	5400億	2022年
NLLB (54.5B)	545億	2022年
亞歷克斯TM（20B）	200億	2022年
卡拉狄加 (120B)	1200億	2022年
UL2（20B）	200億	2022年
侏羅紀-1 (178B)	1780億	2022年
美洲駝 (65B)	650億	2023年
史丹佛羊駝 (7B)	70億	2023年
GPT-NeoX 2.0 (20B)	200億	2023年
彭博GPT	500億	2023年
多莉	60億	2023年
侏羅紀2	尚未公佈	2023年
OpenAssistant LLaMa	300億	2023年
無尾熊	130億	2023年
駱駝毛	130億	2023年
帕LM2	尚未公佈，比PaLM1小	2023年
利馬	650億	2023年
MPT	70億	2023年
鷸	400億	2023年
駱駝2	700億	2023年
Google雙子座	尚未公佈	2023年
微軟Phi-2	27億	2023年
格羅克-0	330億	2023年
格羅克-1	3140億	2023年
太陽的	107億	2024年
芽	70億	2024年
格羅克-1.5	尚未公佈	2024年
資料庫接收	1320億	2024年
克勞德 3	尚未公佈	2024年
傑瑪1.1	70億	2024年
駱駝3	700億	2024年

⬆️ 回到頂部

最佳化

• 部落格：使用 Hugging Face Transformers、Accelerate 和 BitsandBytes 大規模介紹 Transformer 的 8 位元矩陣乘法
• 部落格：在 24GB 消費級 GPU 上使用 RLHF 微調 20B LLM
• 部落格：處理大型模型進行推理
• 部落格：如何針對任何語言微調羊駝模型 | ChatGPT 替代方案
• 論文：LLM.int8()：大規模 Transformer 的 8 位元矩陣乘法
• 重點：用不同數量的分片分解/重組 LLAMA LLM 模型的腳本

⬆️ 回到頂部

工具 (GitHub)

• Stanley Alpaca - 史丹佛 Alpaca 計畫的儲存庫，該模型是在 52K 指令追蹤演示上根據 LLaMA 7B 模型進行微調的模型。
• LoRA - “LoRA：大型語言模型的低階適應”的實現。
• Dolly - 在 Databricks 機器學習平台上訓練的大型語言模型。
• DeepSpeed - 一個深度學習最佳化庫，讓分散式訓練和推理變得簡單、有效率、有效。
• LMFlow - 用於大型基礎模型微調和推理的可擴展工具包。適合所有人的大模型。
• Promptify - 用於提示工程的實用程式/takeit。
• Auto-GPT - 讓 GPT-4 完全自主的實驗性開源嘗試。
• Jarvis - 將 LLM 與 ML 社群連接的系統，透過 LLM 介面的複合模型連接器。
• dalai - - 在本機電腦上執行 LLaMA 的 cli 工具。
• haystack - 一個開源 NLP 框架，使用 Transformer 模型和 LLM 與資料互動。
• langchain - - 協助法學碩士開發應用程式的函式庫。
• langflow - LangChain 的 UI，使用 React-flow 設計，提供一種輕鬆的方法來實驗和原型流程。
• deeplake - 用於深度學習的資料湖。建置、管理、查詢、版本化和視覺化資料集。
• alpaca-lora - - 在消費性硬體上指導調整 LLaMA。
• bosquet - 用於基於大型語言模型的應用程式的 LLMOps。
• llama_index - - 一個提供中央介面以將法學碩士與外部資料連接起來的專案。
• gradio - - 機器學習模型的 UI 助理。
• sharegpt - 一款開源 Chrome 擴展，可讓您一鍵分享最瘋狂的 ChatGPT 對話。
• keras-nlp - - 一個自然語言處理庫，為使用者的整個開發週期提供支援。
• Snowkel AI - - 基礎模型的資料平台。
• Promptflow - 一個工具包，可簡化基於 LLM 的 AI 應用程式的開發，從構思到部署。

⬆️ 回到頂部

工具（其他）

• PaLM2 API - 一項 API 服務，使 PaLM2、大型語言模型 (LLM) 可用於 Google Cloud Vertex AI。
• Perspective API - 一種可以幫助減輕毒性並確保健康線上對話的工具。

⬆️ 回到頂部

RLHF

• evals - 帶有人類回饋資源的強化學習精選清單。
• trlx - 透過人類回饋進行強化學習的分散式語言模型訓練的儲存庫。 (RLHF)
• PaLM-rlhf-pytorch - - 在 PaLM 架構之上實現 RLHF（具有人類回饋的強化學習）。

⬆️ 回到頂部

驚人的

• Hannibal046/Awesome-法學碩士
• 肯尼森·塞耶/awesome-llm
• f/awesome-chatgpt-提示
• Prompt-Engineering/Awesome-Prompt-Engineering
• 張索弦/awesome-open-source-llmops
• opendilab/awesome-RLHF

⬆️ 回到頂部

貢獻

我們歡迎對 Awesome LLMOps 清單做出貢獻！如果您想建議新增或更正，請遵循以下準則：

1. 分叉儲存庫並為您的貢獻建立一個新分支。
2. 對 README.md 檔案進行更改。
3. 確保您的貢獻與 LLMOps 主題相關。
4. 使用以下格式新增您的貢獻：

 [ Name of Resource ] (Link to Resource) - Description of resource

5. 按字母順序將您的貢獻添加到其類別中。
6. 確保您的貢獻尚未列出。
7. 提供資源的簡要描述並解釋其與 LLMOps 相關的原因。
8. 建立一個拉取請求，其中包含清晰的標題和更改說明。

我們感謝您的貢獻，並感謝您幫助使 Awesome LLMOps 清單變得更加精彩！

⬆️ 回到頂部