self learn llms

自學法學碩士

這個儲存庫包含我將用來學習大型語言模型的一些資源。當我在這個自學之旅中前進時，我也會嘗試制定路線圖，因為帶有里程碑的清晰路線圖將是以適當的方式學習法學碩士的最佳方式之一。

為此，我將提供理論和實踐的實踐資源相結合的學習資源。

PS：需要讓這個更直觀

編輯：2024 年 11 月 6 日

• 需要主要重構儲存庫。

• 刪除不相關的課程或資源。

• 在模型競賽中，我們不能繼續在儲存庫中列出模型，因為很難追蹤模型，而且更新將使以前的模型變得毫無用處。需要想出更好的方式來組織模型動物園。

• 也許添加 1-2 個貢獻者或打開存儲庫以提供幫助。

• 我們怎麼能讓它成為一個很棒的學習體驗，託管筆記和教程，開放討論，網頁？

課程

自然語言處理基礎知識

1. CS224N 深度學習自然語言處理，史丹佛大學

2. 自然語言處理專業，Coursera

變形金剛

1. HuggingFace NLP + 變形金剛課程

2. CS25：變形金剛 V2，史丹佛 CS25，2021 年秋季版本

大型語言模型

工業和開源課程

1. Activeloop Learn，這項舉措 GenAI360 提供了 3 個關於 RAG、微調 LLM、LangChain 和 VectorDB 的免費課程。

2. Maxime Labonne 的法學碩士課程，透過路線圖和 Colab 筆記本進入大型語言模型 (LLM) 的課程。

3. 實踐LLM課程，透過設計、培訓和部署即時財務顧問LLM系統原始碼+視訊和閱讀材料，免費了解LLM、LLMOps和Vector DB。

4. 全端深度學習最初是一個深度學習訓練營，並於 2023 年 4 月左右演變為法學碩士訓練營，現在可以免費參加。

5. Cohere 的法學碩士課程由 8 個模組組成，由著名的 Luis Serrano 教授，他以簡單且具有視覺吸引力的方式教授概念而聞名。課程包含基礎知識、部署、語義搜尋和 RAG 等主題。

6. Deeplearning.ai 短期課程，DL.AI 關於法學碩士和生成人工智慧各個領域的短期課程。這些短期課程非常有用，因為它們完美地融合了理論和實踐課程。這些課程通常是與 Hugging Face、Mistral、OpenAI、Microsoft、Meta、Google 等公司合作製作的。

7. LLM Zoomcamp by DataTalksClub，LLM Zoomcamp - 關於建立問答系統的免費線上課程。

8. Aishwarya N Reganti 的 2024 年應用法學碩士掌握課程，為期 10 週的免費課程，提供明確的路線圖，從法學碩士基礎知識、工具和技術、部署和評估到挑戰和未來趨勢。

9. 權重和偏差課程，提供有關 MLOps、LLM 支援的應用程式等的不同課程。

10. LLM 模型課程，DataBricks x ed，DataBricks 專業認證。

11. Deeplearning.ai 提供各種關於法學碩士的短期課程，例如用於法學碩士應用程式開發的 LangChain、使用 AWS Bedrock 的無伺服器法學碩士、微調法學碩士、使用語義搜尋的法學碩士等。

12. 生成式 AI 學習路徑簡介，Google Cloud。

13. Arize 大學舉辦 llm 評估、llm 代理工具和鏈、llm 可觀察性等課程。

大學課程

1. [CS 324，史丹佛大學](https://stanford-cs324.github.io/winter2022/) 2. [COMP790-101：大型語言模型，北卡羅來納大學教堂山分校](https://github. com/craffel/ llm-seminar) 3. [大型語言模型S-23，蘇黎世聯邦理工學院](https://rycolab.io/classes/llm-s23/) 4. [大型語言模型基礎，滑鐵盧大學] (https://rycolab.io/classes/llm-s23/) /uwaterloo.ca/watspeed/programs-and-courses/foundations-large-language-models）

圖書

1. 使用 Transformers 進行自然語言處理圖書

2. 
   

部落格和指南

Langchain 博客

1. AIMultiple 關於大型語言模型的部落格：2023 年完整指南

2. 一致文檔

3. FutureSmart AI 部落格：使用 LangChain 和 ChatGPT 建立聊天機器人

4. 利用 GPT-4、Pinecone 和 LangChain 實現多種應用的任務驅動型自治代理

重要論文

1. 大型語言模型調查 另請查看此儲存庫：https://github.com/RUCAIBox/LLMSurvey

2. 理解大型語言模式—變革性閱讀清單，Sebastian Raschka

3. 
   

閱讀小組

1. Wiki CLSP，NLP 閱讀小組，NLP 相關閱讀小組列表，更新頻繁。

教程和講座

TED演講

1. ChatGPT 驚人潛力的內幕 |格雷格·布羅克曼 |泰德

2. 為什麼人工智慧極為聰明，卻又極為愚蠢？崔藝珍 |泰德

即將舉行的會談

1. 2023 年 4 月 25 日，阿里澤：觀察

2. 2023 年 4 月 27 日，使用 PyTorch 2.0 和 ChatGPT 微調法學碩士

資料集、筆記本和空間

數據集

筆記型電腦

空間

1. H2O 組織、HuggingFaces

2. OpenAssistant 組織、HuggingFaces

3. DataBricks 組織、HuggingFaces

4. 大科學組織，HugingFaces

5. EleutherAI 組織，HuggingFaces

6. NomicAI 組織、HugingFaces

7. Cerebras 組織、HugingFaces

庫、框架和工具包

1. LLMStudio、H2O AI

2. 美洲駝指數

3. NeMo Guardrails，NVIDIA，防止幻覺並添加可編程護欄

4. MLC LLM，在每個人的設備上本地開發最佳化和部署 LLM）

5. 拉米尼法學碩士

語言模型

1. ChatGPT、OpenAI，2022 年 11 月 30 日發布

2. Google Bard，2023 年 3 月 21 日發布

3. 統一錢文人工智慧，阿里巴巴，2023 年 4 月 11 日發布

4. StableLM，穩定性 AI，於 2023 年 4 月 20 日發布

5. 亞馬遜泰坦

6. HuggingChat、HuggingFaces，於 2023 年 4 月 25 日發布

7. H2OGPT

8. Bloom 模型，RAIL 允許商業用途

9. GPT-J、EleutherAI、Apache 2.0

10. GPT-NeoX、EleutherAI、Apache 2.0

11. GPT4All、NomicAI、MIT 許可證

12. GPT4All-J、NomicAI、MIT 許可證

13. Pythia、EleutherAI、MIT 許可證

14. GLM-130B

15. 帕姆、谷歌

16. OPT，元

17. 法蘭-T5

18. 駱駝，元

19. 羊駝，史丹佛大學

20. 駱駝毛，lm-sys

社群

用例

1. 分享GPT

項目和想法

向量資料庫

1. 松果

2. 韋維阿特

3. 米爾烏斯

4. 色度資料庫

自主代理

1. 寶貝AGI

2. 自動GPT

法學碩士影響者

您絕對應該關注的人，以隨時了解法學碩士的最新資訊。參與 LLM 製作/研究/開發的研究人員/創始人/開發人員/AI 內容創作者

1. Sebastian Raschka，他是一位傳奇人物，將透過他令人驚嘆的推文、部落格和教學來打破你炒作的法學碩士泡沫。訂閱他的電子報 Ahead of AI

2. 安德烈·卡帕蒂(Andrej Karpathy)，這位在Tesla 工作的傳奇人物，休息了一段時間，開設了他的YouTube 頻道來教授基礎知識，並用他從頭開始實施GPT 的精彩視頻讓我們所有人震驚，最後重新加入了OpenAI。我想你不能失去一個傳奇：D

3. Jay Alammar，是的，如果您不了解他關於《變形金剛》的 ELI 博客，請先閱讀該博客，並確保關注他以獲取更新。

4. Tomaz Bratanic，他是著名書籍《數據科學圖演算法》的作者，目前在 Medium 上撰寫與 GPT、Langchain 等相關的精彩部落格。