awesome llms fine tuning

很棒的法學碩士微調

歡迎來到微調大型語言模型 (LLM)（如 GPT、BERT、RoBERTa 及其眾多變體）的精選資源集合！在這個人工智慧時代，使預訓練模型適應特定任務和領域的能力已成為研究人員、資料科學家和機器學習從業者不可或缺的技能。

在海量資料集上訓練的大型語言模型可以捕捉廣泛的知識和語言細微差別。然而，為了在特定應用中充分發揮其潛力，在目標資料集上對其進行微調至關重要。此過程不僅增強了模型的效能，還確保它們與當前任務的特定上下文、術語和要求保持一致。

在這個很棒的清單中，我們精心編制了一系列資源，包括教程、論文、工具、框架和最佳實踐，以幫助您完成微調之旅。無論您是希望擴展專業知識的經驗豐富的從業者，還是渴望進入法學碩士世界的初學者，該存儲庫都旨在提供寶貴的見解和指南，以簡化您的工作。

目錄

• GitHub 項目
• 文章和博客
• 線上課程
• 圖書
• 研究論文
• 影片
• 工具和軟體
• 會議與活動
• 投影片和簡報
• podcast

GitHub 項目

• LlamaIndex ?：LLM 應用程式的資料框架。 （23010 顆星）
• Petals ?：在家中以 BitTorrent 方式運行法學碩士。微調和推理速度比卸載快 10 倍。 （7768 顆星）
• LLaMA-Factory：一個易於使用的LLM微調框架（LLaMA-2、BLOOM、Falcon、Baichuan、Qwen、ChatGLM3）。 （5532 顆星）
• lit-gpt：基於 nanoGPT 的最先進的開源 LLM 的可破解實作。支援 Flash Attention、4 位元和 8 位元量化、LoRA 和 LLaMA-Adapter 微調、預訓練。 Apache 2.0 授權。 （3469 顆星）
• H2O LLM Studio：用於微調 LLM 的框架和無程式碼 GUI。文件：https://h2oai.github.io/h2o-llmstudio/（2880顆星）
• Phoenix：AI 可觀察性和評估 - 在筆記本中評估、排除故障並微調您的 LLM、CV 和 NLP 模型。 （1596 顆星）
• LLM-Adapters：EMNLP 2023 論文的程式碼：「LLM-Adapters：用於大型語言模型參數高效微調的適配器系列」。 （769 顆星）
• Platypus：使用 LoRA 微調 Platypus fam LLM 的程式碼。 （589 顆星）
• xtuner：用於高效能微調LLM（InternLM、Llama、Baichuan、QWen、ChatGLM2）的工具包。 （540 顆星）
• DB-GPT-Hub：包含DB-GPT 的模型、資料集和微調技術的儲存庫，旨在增強模型效能，特別是在文字到SQL 方面，並在以下方面實現了比GPT-4 更高的執行權限13B LLM 的蜘蛛評估使用了這個項目。 （422 顆星）
• LLM-Finetuning-Hub：包含 LLM 微調和部署腳本以及我們的研究成果的儲存庫。第416章
• Finetune_LLMs ：用於微調休閒 LLM 的儲存庫。第391章
• MFTCoder ：針對 Code LLM 的高精度、高效多任務微調框架； 建立第一個、高效率、多任務、多模型支援、多訓練演算法，大模型程式碼能力架構。第337章
• llmware ：提供企業級基於LLM的開發框架、工具和微調模型。第289章
• LLM-Kit：最新LLM的WebUI整合平台| 兩大語言模型的全流程工具WebUI整合套件。工具。第232章
• h2o-wizardlm ：WizardLM 的開源實現，用於將文件轉換為 Q:A 對以進行 LLM 微調。 228
• hcgf：人性化聊天產生模型微調 |法學碩士。 196
• llm_qlora ：使用 QLoRA 微調 LLM。 136
• Awesome-llm- human-preference-datasets ：用於 LLM 微調、RLHF 和評估的人類偏好資料集的精選清單。 124
• llm_finetuning ：方便的包裝器，用於使用多種量化技術（GTPQ、bitsandbytes）對大型語言模型（LLM）進行微調和推理。 114

文章和博客

• 2024 年使用 Hugging Face：TRL 和 Flash Attention 微調 LLM？
• LLM 初學者微調完整指南：一本綜合指南，解釋了針對新任務微調預訓練模型的過程，涵蓋關鍵概念並提供具體範例。
• 微調大型語言模型 (LLM)：這篇部落格文章概述了微調預訓練的 LLM，討論了重要概念並提供了 Python 程式碼的實際範例。
• 創建領域專家 LLM：微調指南：一篇文章深入探討了使用 OpenAI 的 API 進行微調的概念，展示了微調大型語言模型以理解 Handel 歌劇情節的範例。
• LLM 微調初學者指南？ ：涵蓋 LLM 微調過程的指南，包括使用 QLoRA 等工具來配置和微調模型。
• 知識圖與法學碩士：微調與調整檢索增強生成：這篇部落格文章探討了法學碩士的局限性，並提供了結合知識圖對其進行微調的見解。
• 根據您的個人資料微調LLM：創建一個「指環王」故事講述者✏️：一篇文章演示瞭如何在個人資料上訓練您自己的LLM，從而在不依賴OpenAI 的GPT-4 的情況下提供對個人資訊的控制。
• 使用 H2O LLM Studio 微調 LLM 模型以產生 Cypher 語句？ ：這篇部落格文章提供了一個使用 H2O LLM Studio 微調 LLM 模型以產生 Cypher 語句的範例，從而支援具有知識圖的聊天機器人應用程式。
• 在 Colab 筆記本中微調您自己的 Llama 2 模型：LLM 微調的實用介紹，示範如何在 Google Colab 筆記本中實現它以建立您自己的 Llama 2 模型。
• 考慮微調 LLM？在開始之前，請考慮以下 3 個注意事項：本文討論了微調 LLM 時需要考慮的三個想法，包括超越 PEFT 和 LoRA 改進 GPT 的方法，以及明智地投資資源的重要性。
• LLM 與生成式 AI 簡介：第 3 部分 — 帶有指導的 LLM 微調：本文探討了 LLM 在人工智慧應用中的作用，並概述了對其進行微調。
• RAG vs Finetuning — Which Is the Best Tool to Boost Your LLM Application - 一篇部落格文章，討論建立 LLM 應用程式和為您的用例選擇正確方法時需要考慮的方面。 ？
• 微調 LLM：RLHF 和替代方法（第一部分） - 一篇文章展示 RLHF 的替代方法，特別是直接偏好最佳化 (DPO)。
• 什麼時候該對法學碩士進行微調？ - 探索微調開源 LLM 與使用封閉 API 進行大規模 LLM 查詢之間的比較。 ？
• 微調大型語言模型 - 考慮大型語言模型的微調並將其與零和少量的方法進行比較。
• Private GPT: Fine-Tune LLM on Enterprise Data - 探索允許在較小 GPU 上微調 LLM 的訓練技術。
• 使用 Scikit-LLM 微調 Google PaLM 2 - 示範如何使用 Scikit-LLM 微調 Google PaLM 2（Google 最先進的 LLM）。 ？
• 深入探討大型語言模型的微調 - 有關 GPT-4 和 BERT 等 LLM 微調的綜合性博客，提供見解、趨勢和優勢。
• 大型語言模型中的預訓練、微調和上下文學習 - 討論法學碩士中預訓練、微調和上下文學習的概念。
• 開源微調大型語言模型清單 - 可以在您的電腦上本地運行的開源微調 LLM 的精選清單。 ？
• 從業者指南針對特定領域用例微調法學碩士 - 該指南涵蓋了針對特定領域用例微調法學碩士的關鍵知識和結論。
• 在 AWS、GCP 或 Azure 上使用生產堆疊微調 Llama 3.1 - 有關在專為 MLOps 最佳實踐設計的生產設定中微調 Llama 3.1（或 Phi 3.5）的指南和教程。 ？

線上課程

• 微調基礎：釋放法學碩士的潛力 | Udemy：初學者的實用課程，介紹如何建立 chatGPT 風格的模型並使其適應特定的用例。
• 具有大型語言模型的生成人工智慧 | Coursera：透過法學碩士學習生成式人工智慧的基礎知識以及如何在實際應用中部署它們。免費報名。
• 大型語言模型：透過生產進行應用 | edX：為開發人員、資料科學家和工程師提供的高級課程，幫助他們使用流行的框架建立以 LLM 為中心的應用程式並實現端到端的生產準備。
• 微調大型語言模型 | Coursera 指導計畫：一個簡短的指導項目，涵蓋基本的微調概念和大型語言模型的培訓。
• OpenAI 和 ChatGPT API：為開發人員進行專家微調 | Udemy：了解 GPT-3 在創建對話式 AI 解決方案方面的強大功能，包括即時工程、微調、整合和部署 ChatGPT 模型等主題。
• 大語言模型專業證照| edX：了解如何使用基礎模型背後的最新框架、技術和理論來建立和生產基於大型語言模型 (LLM) 的應用程式。
• 超越微調提升法學碩士的表現| Udemy：專為對微調 LLM 模型和探索提高績效的技術感興趣的商業領袖和開發人員而設計的課程。
• 大型語言模型簡介 | Coursera：Google Cloud 提供的入門級微學習課程，解釋大型語言模型 (LLM) 的基礎知識及其用例。免費報名。
• 教學大綱|法學碩士101x | edX：了解如何使用資料嵌入、向量資料庫以及如何使用特定領域的資料微調 LLM 以增強 LLM 管道。
• 性能調優深度學習模型大師班 | Udemy：關於調整深度學習模型的大師班，涵蓋加速學習和優化表現的技術。
• 最佳大型語言模式 (LLM) 課程和認證：精選的 LLM 課程由頂尖教育機構和產業領導者策劃，旨在為希望學習或提高 LLM 微調技能的個人和企業團隊提供優質培訓。
• 掌握語言模式：釋放法學碩士的力量：在這門綜合課程中，您將深入研究 NLP 的基本原理，並探索法學碩士如何重塑人工智慧應用的格局。高級 NLP 和 LLM 的綜合指南。
• 法學碩士掌握：變壓器和生成式人工智慧完整指南：本課程提供了人工智慧歷史的精彩概述，並涵蓋了三個主要法學碩士模型的微調：BERT、GPT 和 T5。適合對生成式人工智慧、法學碩士和生產級應用程式感興趣的人。
• 探索 ChatGPT、GPT4 和 LLM 背後的技術：這是您學習 ChatGPT、GPT4、BERT 等大型語言模型所需的唯一課程。深入了解這些法學碩士背後的技術。
• 大型語言模型的非技術簡介：針對非技術人員的大型語言模型概述，解釋現有的挑戰並提供簡單的解釋，而不使用複雜的術語。
• Large Language Models: Foundation Models from the Ground Up：深入研究法學碩士基礎模型的細節，例如 BERT、GPT 和 T5。了解增強法學碩士功能的最新進展。

圖書

• 使用大型語言模型的生成式 AI — Deeplearning.ai 和 AWS 推出的新實作課程
• 這是一門實踐課程，教授如何使用獎勵模型和強化學習來微調大型語言模型 (LLM)，重點是生成人工智慧。
• 從資料選擇到微調：建立LLM模型的技術指南
• 涵蓋從資料選擇到微調的 LLM 模型建立過程的技術指南。
• LLM 知識食譜：從 RAG 到 QLoRA，再到微調，以及介於兩者之間的所有食譜！
• 這是一本全面的食譜，探討了各種 LLM 模型，包括檢索和生成 (RAG) 和查詢語言表示 (QLoRA) 等技術以及微調過程。
• 法學碩士微調的原則
• 這篇文章揭開了 LLM 微調過程的神秘面紗，並探討了不同的技術，例如情境學習、經典微調方法、參數高效微調和人類回饋強化學習 (RLHF)。
• 從資料選擇到微調：建立LLM模型的技術指南
• 提供有關構建和訓練大型語言模型 (LLM) 的見解的技術指南。
• 實踐大型語言模型
• 這本書涵蓋了由深度學習驅動的語言人工智慧系統的進步，重點關注大型語言模型。
• 在 Amazon SageMaker JumpStart 上微調 Llama 2 以產生文字
• 了解如何使用 Amazon SageMaker JumpStart 微調 Llama 2 模型以最佳化對話產生。
• 使用 AWS Trainium 快速且經濟高效地微調 LLaMA 2
• 一篇部落格文章，介紹如何使用 AWS Trainium 實現 LLaMA 2 模型的快速且經濟高效的微調。
• Fine-tuning - Advanced Deep Learning with Python [Book] ：一本探索 Python 高階深度學習中預訓練任務之後的微調任務的書。
• The LLM Knowledge Cookbook: From, RAG, to QLoRA, to Fine ...：使用大型語言模型 (LLM) 執行各種任務的綜合指南，涵蓋從基礎知識到高級微調技術的所有內容。
• 大型語言模型快速入門指南：策略和最佳...：該指南重點關注BERT、T5 和ChatGPT 等大型語言模型(LLM) 的策略和最佳實踐，展示了它們在各種NLP 任務中前所未有的性能。
• 4. Advanced GPT-4 and ChatGPT Techniques - Developing Apps ...：這一章深入探討了 GPT-4 和 ChatGPT 的高級技術，包括即時工程、零樣本學習、小樣本學習和特定於任務的精細化調整。
• 什麼是大型語言模式？ - LLM AI 解釋 - AWS：對大型語言模型 (LLM) 的解釋，討論小樣本學習和微調的概念，以提高模型效能。

研究論文

• LLM-Adapters：用於參數高效微調的適配器系列？ )。
• 兩階段 LLM 微調，專業化程度較低？
• 透過本體推理微調大型企業語言模型？
• QLoRA：量化 LLM 的高效微調？ ：QLoRA 是一種高效的微調方法，可減少記憶體使用，同時保持任務效能，提供有關量化預訓練語言模型的見解。
• 資源有限的大型語言模型的全參數微調？
• LoRA：大型語言模型的低秩適應？可訓練參數的數量。
• Enhancing LLM with Evolutionary Fine Tuning for News Summary Generation ?：本文提出了一種使用 LLM 產生新聞摘要的新範式，結合了遺傳演算法和強大的自然語言理解能力。
• 語言如何相互影響？研究LLM微調期間的跨語言資料共享？ ：本研究調查了多語言大語言模型（MLLM）微調期間的跨語言資料共享，並分析了不同語言對模型表現的影響。
• 透過前向傳遞微調語言模型？
• Learning to Reason over Scene Graphs: A Case Study of Finetuning LLMs ?：這項工作探討了 GPT-2 LLM 在機器人任務規劃中的適用性，展示了在長期任務規劃場景中使用 LLM 的潛力。
• 私下微調大型語言模型：本文探討了差異隱私的應用，為微調大型語言模型 (LLM) 增加隱私保證。
• DISC-LawLLM：微調智慧法律系統的大型語言模式：本文介紹了 DISC-LawLLM，這是一種智慧法律系統，利用具有法律推理能力的微調 LLM 來提供廣泛的法律服務。
• LLaMa針對特定場景的多任務指令調優：A：論文研究了基礎法學碩士LLaMa在特定寫作任務上的微調效果，證明了寫作能力的顯著提升。
• 訓練語言模型遵循人類回饋的指令：本文提出了一種透過使用人類回饋對語言模型進行微調來使語言模型與使用者意圖保持一致的方法，從而在人類評估中模型優於較大的模型。
• 大型語言模型可以自我改進：該論文證明法學碩士可以透過使用自我生成的解決方案進行微調來自我提高其推理能力，從而在沒有真實標籤的情況下實現最先進的性能。
• 擁抱醫療應用的大型語言模型：本文強調了微調法學碩士在醫療應用、提高診斷準確性和支持臨床決策方面的潛力。
• 擴展指令微調語言模型：本文探討了法學碩士的指令微調，展示了性能和對未見過的任務的泛化方面的顯著改進。
• 十億級語言模型的聯合微調：這項工作引入了 FwdLLM，這是一種聯合學習協議，旨在提高行動裝置上大型 LLM 微調的效率，提高記憶體和時間效率。
• 大型語言模型的綜合概述：本文概述了大型語言模型的發展和應用及其遷移學習能力。
• 微調語言模型以找到人類之間的共識：本文探討了大型法學碩士的微調，以產生共識聲明，最大限度地獲得具有不同意見的群體的認可。

影片

• Andrej Karpathy 介紹大型語言模式：這是一個 1 小時的大型語言模型介紹。它們是什麼、它們的發展方向、與當今作業系統的比較和類比，以及這種新計算範式的一些與安全相關的挑戰。
• 在您自己的資料集上微調 Llama 2 |為您訓練 LLM...：了解如何在自訂資料集上微調 Llama 2 模型。
• 在單 GPU 上使用 QLoRA 微調 LLM：在 ... 上訓練 Falcon-7b：該影片演示了使用 QLoRA 的 Falcon 7b LLM 的微調過程。
• 使用 PEFT 微調 LLM |大語言簡介...：了解如何使用 PEFT 微調 LLM，這是一種需要更少資源的技術。
• LLAMA-2 開源 LLM：自訂微調變得輕鬆...：有關如何在自訂資料集上微調 LLama 2 LLM 模型的逐步指南。
• 新課程：微調大型語言模型 - YouTube：影片介紹了關於微調 LLM 的課程，涵蓋模型選擇、資料準備、訓練和評估。
• Q：如何建立用於微調我的 LLM 的指令資料集...：在本教程中，初學者將了解如何微調 LLM，包括何時、如何以及為何進行微調。
• LLM 模組 4：微調與評估 LLM | 4.13.1 Notebook ...：關於微調和評估 LLM 的筆記本演示。
• Google LLM 微調/適應/自訂 - 入門...：透過逐步指南開始微調 Google 的 PaLM 2 大語言模型。
• LLM 的預訓練、微調與上下文學習 (GPT-x ...：解釋 GPT-x 等 LLM 的預訓練、微調和上下文學習的終極指南。
• 如何使用 PDF 微調 LLM - Langchain 教學 - YouTube：了解如何微調 OpenAI 的 GPT LLM 以使用 Langchain 和 PDF 庫處理 PDF 文件。
• EasyTune 演練 - YouTube - 使用 Falcon-7b 在單一 GPU 上透過 QLoRA 微調 LLM 的演練。
• 釋放 ChatGPT 培訓和精細課程的潛力... - 學生用符號展示法學碩士的教學微調和情境學習。
• AI 新聞：無需代碼即可創建法學碩士！ - YouTube - Maya Akim 討論了您需要了解的 5 個 LLM 微調用例。
• 您需要了解的 5 個 LLM 微調用例 - YouTube - 一個深入的視頻，重點介紹了 5 個 LLM 微調用例，並提供了用於進一步探索的附加連結。
• Clip2 llm emory - YouTube - 了解如何在您自己的資料集上微調 Llama 2 並為您的特定用例訓練法學碩士。
• 在本機上微調 LLAMA-v2 最簡單的方法！ - YouTube - 逐步影片指南，示範在本機電腦上針對自訂資料集微調 LLAMA-v2 的最簡單、最簡單和最快的方法。
• 培訓和微調 LLM：簡介 - YouTube - 介紹 LLM 的培訓和微調，包括重要概念和 NeurIPS LLM 效率挑戰。
• 使用 PEFT 和 LoRA 微調 LLM - YouTube - 一個全面的視頻，探討如何使用 PEFT 微調任何解碼器式 GPT 模型，包括 LoRA 微調和上傳的基礎知識。
• 為 RLHF 和 LLM 微調構建和管理資料集... - 在 Argilla 的贊助下，了解如何為 RLHF（人類反饋強化學習）和 LLM（大型語言模型）微調構建和管理資料集。
• 在 Python 中使用自訂資料微調 LLM (OpenAI GPT) - YouTube - 探索如何透過使用自訂資料集微調 LLM (OpenAI GPT) 來擴展 LLM (OpenAI GPT)，以提供問答、摘要和其他類似 ChatGPT 的功能。

工具和軟體

• LLaMA Efficient Tuning：易於使用的LLM微調框架（LLaMA-2、BLOOM、Falcon）。
• H2O LLM Studio：用於微調 LLM 的框架和無程式碼 GUI。
• PEFT：參數高效微調（PEFT）方法，用於將預先訓練的語言模型有效地適應下游應用。
• ChatGPT 類別模型：在您的裝置上本地運行快速的 ChatGPT 類別模型。
• Petals：協作運行 BLOOM-176B 等大型語言模型，讓您可以載入模型的一小部分並與其他人合作進行推理或微調。 ？
• NVIDIA NeMo：用於建立最先進的對話式 AI 模型的工具包，專為 Linux 設計。
• H2O LLM Studio：一個框架和無程式碼 GUI 工具，用於在 Windows 上微調大型語言模型。 ？
• Ludwig AI：用於建立自訂 LLM 和其他深度神經網路的低程式碼框架。使用聲明性 YAML 設定檔輕鬆訓練最先進的法學碩士。 ？
• bert4torch：變壓器的優雅 PyTorch 實作。載入各種開源大型模型權重以進行推理和微調。
• Alpaca.cpp：在您的裝置上本地運行類似 ChatGPT 的快速模型。 LLaMA 基礎模型和史丹佛羊駝的開放複製品的組合，用於指令調整微調。 ？
• Promptfoo：評估和比較 LLM 輸出、捕捉回歸並使用自動評估和代表性使用者輸入改進提示。

會議與活動

• ML/AI 對話：神經符號人工智慧 - 法學碩士的替代方案 - 本次聚會將討論微調法學碩士的經驗，並探索神經符號人工智慧作為替代方案。
• AI 開發日 - 西雅圖，2023 年 10 月 30 日星期一，下午 5:00 - 一場關於使用向量相似性搜尋的有效 LLM 可觀察性和微調機會的技術講座。
• DeepLearning.AI 活動 - 一系列活動，包括減輕 LLM 幻覺、使用 PyTorch 2.0 和 ChatGPT 微調 LLM 以及 AI 教育計劃。
• AI 開發日 - 紐約，星期四，2023 年 10 月 26 日下午 5:30 - 技術講座，內容涉及 GenAI 應用程式的最佳實踐以及使用法學碩士進行即時個性化通知。
• 聊天法學碩士和人工智慧代理 - 使用 Gen AI 建立人工智慧系統和代理 - 專注於法學碩士、人工智慧代理和鏈數據的活動，並提供透過活動聊天進行互動的機會。
• NYC AI/LLM/ChatGPT Developers Group - 為對 AI、LLM、ChatGPT、NLP、ML、數據等感興趣的開發人員定期舉辦技術講座/研討會。
• 利用 LLM 進行企業數據，2023 年 11 月 14 日，星期二，下午 2:00 - 深入研究為非公共數據應用程式量身定制的基本 LLM 策略，包括即時工程和檢索。
• Bellevue Applied Machine Learning Meetup - 專注於應用機器學習技術以及提高資料科學家和機器學習從業者技能的聚會。
• 人工智慧與即時工程聚會慕尼黑，Do.，5. Okt。 2023 年 18:15 - 引入 H2O LLM Studio，用於微調 LLM 並彙集來自不同背景的 AI 愛好者。
• 西雅圖 AI/ML/資料開發者小組 - 關於評估 LLM 代理程式和透過實作學習 AI/ML/資料的技術講座。
• 數據科學道場 - DC |聚會：這是一個位於華盛頓的聚會小組，面向對教學、學習和分享數據科學知識和理解感興趣的商業專業人士。
• 尋找阿拉伯聯合大公國杜拜的資​​料科學活動和團體：發現阿拉伯聯合大公國杜拜的資​​料科學活動和團體，與志趣相投的人建立聯繫。
• AI 聚會（面對面）：生成式 AI 和法學碩士 - 萬聖節版：加入此 AI 聚會，進行有關生成式 AI 和大型語言模型 (LLM) 的技術講座，包括開源工具和最佳實踐。
• ChatGPT Unleashed：NLP 的現場演示和最佳實踐：此線上活動探索大型語言模型的微調技巧，並展示 ChatGPT 和 LLM 的實際應用。
• 尋找印第安納州浦那的數據科學活動和團體：探索印第安納州浦那與數據科學相關的線上或現場活動和團體。
• DC AI/ML/資料開發人員小組 | Meetup：該小組旨在將華盛頓地區的人工智慧愛好者聚集在一起，學習和實踐人工智慧技術，包括人工智慧、機器學習、深度學習和資料科學。
• 波士頓人工智慧/法學碩士/ChatGPT 開發者小組 |聚會：加入波士頓的這個小組，學習和實踐法學碩士、ChatGPT、機器學習、深度學習和資料科學等人工智慧技術。
• 巴黎 NLP |聚會：本次聚會重點討論自然語言處理 (NLP) 在各個領域的應用，討論傳統和現代 NLP 方法的技術、研究和應用。
• SF AI/LLM/ChatGPT 開發者小組 |聚會：與舊金山/灣區的人工智慧愛好者聯繫，學習和實踐人工智慧技術，包括法學碩士、ChatGPT、NLP、機器學習、深度學習和資料科學。
• AI 聚會（面對面）：GenAI 和法學碩士用於健康：參加這個關於法學碩士在醫療保健中的應用的技術講座，並了解使用法學碩士執行健康相關任務的快速成功。

投影片和簡報

• 微調大型語言模型：討論微調大型語言模型（如 GPT、BERT 和 RoBERTa）的過程的演示。
• LLaMa 2.pptx：介紹 LLaMa 2 的幻燈片，LLaMa 2 是由 Meta AI 開發的強大的大型語言模型後續版本。
• LLM.pdf：探索 Transformer 在 NLP 中的作用（從 BERT 到 GPT-3）的演示。
• 大型語言模型訓練營：訓練營幻燈片涵蓋大型語言模型的各個方面，包括從頭開始訓練和微調。
• CNN 解釋的 LHC：使用 CNN 和微調影像模型解釋 LHC（大型強子對撞機）的幻燈片。
• 在 10 行程式碼中使用大型語言模型：示範如何僅用 10 行程式碼使用大型語言模型。
• LLaMA-Adapter：使用零初始注意力進行語言模型的高效微調.pdf：討論 LLaMA-Adapter 的幻燈片，這是一種使用零初始注意力微調語言模型的有效技術。
• 法學碩士簡介：介紹大型語言模型的介紹，包括基本模型和提示完成對的微調。
• LLM Fine-Tuning (東大松尾研LLM講座Day5資料) - 演講者甲板：用於微調大型語言模型的講座的幻燈片，專門用於東大松尾研尾サマーsukuール2023。
• 使用 ChatGPT 自動化您的工作和業務 #3：示範討論 ChatGPT 的基礎知識及其在工作自動化和業務任務方面的應用程式。
• 釋放生成式 AI 的力量 An Executive's Guide.pdf - 該指南解釋了微調大型語言模型 (LLM) 以根據組織的需求進行定制的過程。
• 微調與部署 Hugging Face NLP 模型 | PPT - 簡報提供了有關如何使用 Hugging Face NLP 建置和部署 LLM 模型的見解。
• 大規模言語モデル時代の人類在環機械學習 - 演講者甲板 - 幻燈片甲板討論微調語言模型的過程，以在具有不同偏好的人類之間找到一致意見。
• AI 與 ML 系列 - 生成式 AI 與法學碩士簡介 | PPT - 介紹生成式人工智慧和法學碩士的演示，包括它們在特定應用中的用法。
• 檢索增強生成實踐：可擴展的 GenAI ... - 討論生成式 AI 的用例、大型語言模型的局限性以及檢索增強生成 (RAG) 和微調技術的使用的演示。
• LLM 期末演講 | PPT - 涵蓋《2013 年兒童與家庭代理法》以及法學碩士背景下的最佳利益原則的簡報。
• LLM Paradigm Adaptations in Recommender Systems.pdf - 解釋基於 LLM 的推薦系統中的微調過程和目標適應的 PDF。
• 對話式人工智慧與 Transformer 模型 | PPT - 強調 Transformer 模型在對話式 AI 應用程式中使用的演示。
• 駱駝索引 | PPT - 關於法學碩士的興起和構建法學碩士支持的應用程序的演示。
• LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention.pdf - 討論使用 LLaMA 對具有零初始注意力的語言模型進行高效微調的 PDF。

podcast

• 實用人工智慧：機器學習、數據科學 - 使人工智慧實用、高效且可供每個人使用。參與人工智慧、機器學習、深度學習、神經網路等的熱烈討論。為初學者和經驗豐富的從業者提供易於理解的見解和現實場景。
• 梯度異議：探索機器學習、人工智慧、深度學習 - 深入幕後，向產業領導者學習他們如何在現實場景中實施深度學習。深入了解機器學習產業並了解最新趨勢。
• Weaviate 播客 - 加入 Connor Shorten 的 Weaviate 播客系列，其中包括專家訪談和人工智慧相關主題的討論。
• Latent Space：AI 工程師播客 — CodeGen、代理、電腦視覺、資料科學、AI UX 和所有軟體 3.0 - 深入了解 AI 工程的世界，涵蓋程式碼生成、電腦視覺、資料科學和最新進展等主題在人工智慧使用者體驗中。
• 無監督學習 - 深入了解快速發展的人工智慧領域及其對企業和世界的影響。探索有關法學碩士申請、趨勢和顛覆性技術的討論。
• TWIML AI 播客（以前稱為「機器學習本週」）- 深入探討 AI 中使用的微調方法、LLM 功能和限制，並向該領域的專家學習。
• Apple 播客上的人工智慧和工作的未來：由 SC Moatti 主持的播客，討論人工智慧對未來工作的影響。
• 實用人工智慧：機器學習、資料科學：微調與 RAG：本集探討了機器學習和資料科學中微調和檢索增強生成之間的比較。
• Apple 播客上的無監督學習：第 20 集採訪了 Anthropic 執行長 Dario Amodei，探討了 AGI 和 AI 的未來。
• 人工智慧論文閱讀 | Spotify 上的播客：此播客讓您了解電腦科學領域的最新趨勢和最佳效能架構。
• Apple 播客上的人工智慧播客中的這一天：該播客涵蓋了各種與人工智慧相關的主題，提供了有關人工智慧世界的令人興奮的見解。
• 關於評估 LLM 應用程式的所有資訊 // Shahul Es // #179 MLOps：在本集中，Shahul Es 分享了他在開源模型評估方面的專業知識，包括有關調試、故障排除和基準測試的見解。
• Apple 播客上的 AI Daily：該播客由 Conner、Ethan 和 Farb 主持，探討與 AI 相關的精彩故事。
• Yannic Kilcher 影片（僅限音訊）| Spotify 上的播客：Yannic Kilcher 討論機器學習研究論文、程式設計以及人工智慧對社會的更廣泛影響。
• LessWrong 精選播客 | Spotify 上的播客：LessWrong Curated 電子報中分享的貼文的音訊版本。
• SAI：Apple 播客上的安全和 AI 播客：重點介紹 OpenAI 網路安全資助計劃的一集。

---

這個初始版本的 Awesome List 是在 Awesome List Generator 的幫助下產生的。它是一個開源 Python 包，利用 GPT 模型的強大功能來自動管理和產生與特定主題相關的資源清單的起點。