awesome llms fine tuning

很棒的法学硕士微调

欢迎来到用于微调大型语言模型 (LLM)（如 GPT、BERT、RoBERTa 及其众多变体）的精选资源集合！在这个人工智能时代，使预训练模型适应特定任务和领域的能力已成为研究人员、数据科学家和机器学习从业者不可或缺的技能。

在海量数据集上训练的大型语言模型可以捕获广泛的知识和语言细微差别。然而，为了在特定应用中充分发挥其潜力，在目标数据集上对其进行微调至关重要。此过程不仅增强了模型的性能，还确保它们与当前任务的特定上下文、术语和要求保持一致。

在这个很棒的列表中，我们精心编制了一系列资源，包括教程、论文、工具、框架和最佳实践，以帮助您完成微调之旅。无论您是希望扩展专业知识的经验丰富的从业者，还是渴望进入法学硕士世界的初学者，该存储库都旨在提供宝贵的见解和指南，以简化您的工作。

目录

• GitHub 项目
• 文章和博客
• 在线课程
• 图书
• 研究论文
• 视频
• 工具和软件
• 会议与活动
• 幻灯片和演示文稿
• 播客

GitHub 项目

• LlamaIndex ?：LLM 应用程序的数据框架。 （23010 星）
• Petals ?：在家中以 BitTorrent 方式运行法学硕士。微调和推理速度比卸载快 10 倍。 （7768 颗星）
• LLaMA-Factory：一个易于使用的LLM微调框架（LLaMA-2、BLOOM、Falcon、Baichuan、Qwen、ChatGLM3）。 （5532 颗星）
• lit-gpt：基于 nanoGPT 的最先进的开源 LLM 的可破解实现。支持 Flash Attention、4 位和 8 位量化、LoRA 和 LLaMA-Adapter 微调、预训练。 Apache 2.0 许可。 （3469 星）
• H2O LLM Studio：用于微调 LLM 的框架和无代码 GUI。文档：https://h2oai.github.io/h2o-llmstudio/（2880星）
• Phoenix：AI 可观察性和评估 - 在笔记本中评估、排除故障并微调您的 LLM、CV 和 NLP 模型。 （1596 星）
• LLM-Adapters：EMNLP 2023 论文的代码：“LLM-Adapters：用于大型语言模型参数高效微调的适配器系列”。 （769 颗星）
• Platypus：使用 LoRA 微调 Platypus fam LLM 的代码。 （589 颗星）
• xtuner：用于高效微调LLM（InternLM、Llama、Baichuan、QWen、ChatGLM2）的工具包。 （540 星）
• DB-GPT-Hub：包含 DB-GPT 的模型、数据集和微调技术的存储库，旨在增强模型性能，特别是在文本到 SQL 方面，并在以下方面实现了比 GPT-4 更高的执行权限13B LLM 的蜘蛛评估使用了这个项目。 （422 星）
• LLM-Finetuning-Hub：包含 LLM 微调和部署脚本以及我们的研究成果的存储库。第416章
• Finetune_LLMs ：用于微调休闲 LLM 的存储库。第391章
• MFTCoder ：面向 Code LLM 的高精度、高效多任务微调框架； 建立第一个、高效率、多任务、多模型支持、多训练算法，大模型代码能力框架。第337章
• llmware ：提供企业级基于LLM的开发框架、工具和微调模型。第289章
• LLM-Kit：最新LLM的WebUI集成平台| 两大语言模型的全流程工具WebUI集成包。支持主流大模型API接口和开源模型。支持知识库、数据库、角色扮演、mj文生图、LoRA和全参数参数、数据集制作、live2d等全流程应用工具。第232章
• h2o-wizardlm ：WizardLM 的开源实现，用于将文档转换为 Q:A 对以进行 LLM 微调。 228
• hcgf：人性化聊天生成模型微调 |法学硕士。 196
• llm_qlora ：使用 QLoRA 微调 LLM。 136
• Awesome-llm- human-preference-datasets ：用于 LLM 微调、RLHF 和评估的人类偏好数据集的精选列表。 124
• llm_finetuning ：方便的包装器，用于使用多种量化技术（GTPQ、bitsandbytes）对大型语言模型（LLM）进行微调和推理。 114

文章和博客

• 2024 年使用 Hugging Face：TRL 和 Flash Attention 微调 LLM？：这篇博文提供了在消费级 GPU (24GB) 上使用 Hugging Face trl 和 Flash Attention 微调 LLM（例如 Llama 2）的综合指南。
• LLM 初学者微调完整指南：一本综合指南，解释了针对新任务微调预训练模型的过程，涵盖关键概念并提供具体示例。
• 微调大型语言模型 (LLM)：这篇博文概述了微调预训练的 LLM，讨论了重要概念并提供了 Python 代码的实际示例。
• 创建领域专家 LLM：微调指南：一篇文章深入探讨了使用 OpenAI 的 API 进行微调的概念，展示了微调大型语言模型以理解 Handel 歌剧情节的示例。
• LLM 微调初学者指南？：涵盖 LLM 微调过程的指南，包括使用 QLoRA 等工具来配置和微调模型。
• 知识图和法学硕士：微调与调整检索增强生成：这篇博文探讨了法学硕士的局限性，并提供了结合知识图对其进行微调的见解。
• 根据您的个人数据微调 LLM：创建一个“指环王”故事讲述者 ✏️：一篇文章演示了如何在个人数据上训练您自己的 LLM，从而在不依赖 OpenAI 的 GPT-4 的情况下提供对个人信息的控制。
• 使用 H2O LLM Studio 微调 LLM 模型以生成 Cypher 语句？：这篇博文提供了一个使用 H2O LLM Studio 微调 LLM 模型以生成 Cypher 语句的示例，从而支持具有知识图的聊天机器人应用程序。
• 在 Colab 笔记本中微调您自己的 Llama 2 模型：LLM 微调的实用介绍，演示如何在 Google Colab 笔记本中实现它以创建您自己的 Llama 2 模型。
• 考虑微调 LLM？在开始之前，请考虑以下 3 个注意事项：本文讨论了微调 LLM 时需要考虑的三个想法，包括超越 PEFT 和 LoRA 改进 GPT 的方法，以及明智地投资资源的重要性。
• LLM 和生成式 AI 简介：第 3 部分 — 带指导的 LLM 微调：本文探讨了 LLM 在人工智能应用中的作用，并概述了对其进行微调。
• RAG vs Finetuning — Which Is the Best Tool to Boost Your LLM Application - 一篇博客文章，讨论构建 LLM 应用程序和为您的用例选择正确方法时需要考虑的方面。 ？‍
• 微调 LLM：RLHF 和替代方法（第一部分） - 一篇文章展示 RLHF 的替代方法，特别是直接偏好优化 (DPO)。
• 你什么时候应该对法学硕士进行微调？ - 探索微调开源 LLM 与使用封闭 API 进行大规模 LLM 查询之间的比较。 ？
• 微调大型语言模型 - 考虑大型语言模型的微调并将其与零和少量的方法进行比较。
• Private GPT: Fine-Tune LLM on Enterprise Data - 探索允许在较小 GPU 上微调 LLM 的训练技术。
• 使用 Scikit-LLM 微调 Google PaLM 2 - 演示如何使用 Scikit-LLM 微调 Google PaLM 2（Google 最先进的 LLM）。 ？
• 深入探讨大型语言模型的微调 - 有关 GPT-4 和 BERT 等 LLM 微调的综合性博客，提供见解、趋势和优势。
• 大型语言模型中的预训练、微调和上下文学习 - 讨论法学硕士中预训练、微调和上下文学习的概念。
• 开源微调大型语言模型列表 - 可以在您的计算机上本地运行的开源微调 LLM 的精选列表。 ？
• 从业者指南针对特定领域用例微调法学硕士 - 该指南涵盖了针对特定领域用例微调法学硕士的关键知识和结论。
• 在 AWS、GCP 或 Azure 上使用生产堆栈微调 Llama 3.1 - 有关在专为 MLOps 最佳实践设计的生产设置中微调 Llama 3.1（或 Phi 3.5）的指南和教程。 ？

在线课程

• 微调基础知识：释放法学硕士的潜力 | Udemy：面向初学者的实用课程，介绍如何构建 chatGPT 风格的模型并使其适应特定的用例。
• 具有大型语言模型的生成人工智能 | Coursera：通过法学硕士学习生成式人工智能的基础知识以及如何在实际应用中部署它们。免费报名。
• 大型语言模型：通过生产进行应用 | edX：为开发人员、数据科学家和工程师提供的高级课程，帮助他们使用流行的框架构建以 LLM 为中心的应用程序并实现端到端的生产准备。
• 微调大型语言模型 | Coursera 指导项目：一个简短的指导项目，涵盖基本的微调概念和大型语言模型的培训。
• OpenAI 和 ChatGPT API：为开发人员进行专家微调 | Udemy：了解 GPT-3 在创建对话式 AI 解决方案方面的强大功能，包括即时工程、微调、集成和部署 ChatGPT 模型等主题。
• 大语言模型专业证书| edX：了解如何使用基础模型背后的最新框架、技术和理论来构建和生产基于大型语言模型 (LLM) 的应用程序。
• 超越微调提高法学硕士的表现| Udemy：专为对微调 LLM 模型和探索提高绩效的技术感兴趣的商业领袖和开发人员而设计的课程。
• 大型语言模型简介 | Coursera：Google Cloud 提供的入门级微学习课程，解释大型语言模型 (LLM) 的基础知识及其用例。免费报名。
• 教学大纲|法学硕士101x | edX：了解如何使用数据嵌入、向量数据库以及如何使用特定领域的数据微调 LLM 以增强 LLM 管道。
• 性能调优深度学习模型大师班 | Udemy：关于调整深度学习模型的大师班，涵盖加速学习和优化性能的技术。
• 最佳大型语言模型 (LLM) 课程和认证：精选的 LLM 课程由顶级教育机构和行业领导者策划，旨在为希望学习或提高 LLM 微调技能的个人和企业团队提供优质培训。
• 掌握语言模型：释放法学硕士的力量：在这门综合课程中，您将深入研究 NLP 的基本原理，并探索法学硕士如何重塑人工智能应用的格局。高级 NLP 和 LLM 的综合指南。
• 法学硕士掌握：变压器和生成式人工智能完整指南：本课程提供了人工智能历史的精彩概述，并涵盖了三个主要法学硕士模型的微调：BERT、GPT 和 T5。适合那些对生成式人工智能、法学硕士和生产级应用程序感兴趣的人。
• 探索 ChatGPT、GPT4 和 LLM 背后的技术：这是您学习 ChatGPT、GPT4、BERT 等大型语言模型所需的唯一课程。深入了解这些法学硕士背后的技术。
• 大型语言模型的非技术简介：针对非技术人员的大型语言模型概述，解释现有的挑战并提供简单的解释，而不使用复杂的术语。
• Large Language Models: Foundation Models from the Ground Up：深入研究法学硕士基础模型的细节，例如 BERT、GPT 和 T5。了解增强法学硕士功能的最新进展。

图书

• 使用大型语言模型的生成式 AI — Deeplearning.ai 和 AWS 推出的新实践课程
• 这是一门实践课程，教授如何使用奖励模型和强化学习来微调大型语言模型 (LLM)，重点是生成人工智能。
• 从数据选择到微调：构建LLM模型的技术指南
• 涵盖从数据选择到微调的 LLM 模型构建过程的技术指南。
• LLM 知识食谱：从 RAG 到 QLoRA，再到微调，以及介于两者之间的所有食谱！
• 这是一本全面的食谱，探讨了各种 LLM 模型，包括检索和生成 (RAG) 和查询语言表示 (QLoRA) 等技术以及微调过程。
• 法学硕士微调的原则
• 这篇文章揭开了 LLM 微调过程的神秘面纱，并探讨了不同的技术，例如上下文学习、经典微调方法、参数高效微调和人类反馈强化学习 (RLHF)。
• 从数据选择到微调：构建LLM模型的技术指南
• 提供有关构建和训练大型语言模型 (LLM) 的见解的技术指南。
• 实践大型语言模型
• 这本书涵盖了由深度学习驱动的语言人工智能系统的进步，重点关注大型语言模型。
• 在 Amazon SageMaker JumpStart 上微调 Llama 2 以生成文本
• 了解如何使用 Amazon SageMaker JumpStart 微调 Llama 2 模型以优化对话生成。
• 使用 AWS Trainium 快速且经济高效地微调 LLaMA 2
• 一篇博客文章，介绍了如何使用 AWS Trainium 实现对 LLaMA 2 模型的快速且经济高效的微调。
• Fine-tuning - Advanced Deep Learning with Python [Book] ：一本探索 Python 高级深度学习中预训练任务之后的微调任务的书。
• The LLM Knowledge Cookbook: From, RAG, to QLoRA, to Fine ...：使用大型语言模型 (LLM) 执行各种任务的综合指南，涵盖从基础知识到高级微调技术的所有内容。
• 大型语言模型快速入门指南：策略和最佳...：该指南重点关注 BERT、T5 和 ChatGPT 等大型语言模型 (LLM) 的策略和最佳实践，展示了它们在各种 NLP 任务中前所未有的性能。
• 4. Advanced GPT-4 and ChatGPT Techniques - Developing Apps ...：这一章深入探讨了 GPT-4 和 ChatGPT 的高级技术，包括即时工程、零样本学习、小样本学习和特定于任务的精细化调整。
• 什么是大型语言模型？ - LLM AI 解释 - AWS：对大型语言模型 (LLM) 的解释，讨论小样本学习和微调的概念，以提高模型性能。

研究论文

• LLM-Adapters：用于参数高效微调的适配器系列？：本文介绍了 LLM-Adapters，这是一个易于使用的框架，它将各种适配器集成到 LLM 中，以便在不同任务上进行参数高效微调 (PEFT)。
• 两阶段 LLM 微调，专业化程度较低？：ProMoT 是一个两阶段微调框架，通过 MOdel Tuning 进行提示调整来解决 LLM 中的格式专业化问题，从而提高其一般的上下文学习性能。
• 通过本体推理微调大型企业语言模型？：本文提出了一种神经符号架构，将大型语言模型（LLM）与企业知识图（EKG）相结合，以实现 LLM 的特定领域微调。
• QLoRA：量化 LLM 的高效微调？：QLoRA 是一种高效的微调方法，可减少内存使用，同时保持任务性能，提供有关量化预训练语言模型的见解。
• 资源有限的大型语言模型的全参数微调？：这项工作引入了 LOMO，一种低内存优化技术，能够在 GPU 资源有限的情况下实现大型 LLM 的全参数微调。
• LoRA：大型语言模型的低秩适应？：LoRA 提出了一种方法，通过将可训练的秩分解矩阵注入到每一层中，使大型预训练模型适应特定任务，从而在保持模型质量的同时减少可训练参数的数量。
• Enhancing LLM with Evolutionary Fine Tuning for News Summary Generation ?：本文提出了一种使用 LLM 生成新闻摘要的新范式，结合了遗传算法和强大的自然语言理解能力。
• 语言如何相互影响？研究LLM微调期间的跨语言数据共享？：本研究调查了多语言大语言模型（MLLM）微调期间的跨语言数据共享，并分析了不同语言对模型性能的影响。
• 通过前向传递微调语言模型？：MeZO 是一种内存高效的零阶优化器，可以对大型语言模型进行微调，同时显着降低内存需求。
• Learning to Reason over Scene Graphs: A Case Study of Finetuning LLMs ?：这项工作探讨了 GPT-2 LLM 在机器人任务规划中的适用性，展示了在长期任务规划场景中使用 LLM 的潜力。
• 私下微调大型语言模型：本文探讨了差异隐私的应用，为微调大型语言模型 (LLM) 添加隐私保证。
• DISC-LawLLM：微调智能法律系统的大型语言模型：本文介绍了 DISC-LawLLM，这是一种智能法律系统，利用具有法律推理能力的微调 LLM 来提供广泛的法律服务。
• LLaMa针对特定场景的多任务指令调优：A：论文研究了基础法学硕士LLaMa在特定写作任务上的微调效果，证明了写作能力的显着提高。
• 训练语言模型遵循人类反馈的指令：本文提出了一种通过使用人类反馈对语言模型进行微调来使语言模型与用户意图保持一致的方法，从而在人类评估中模型优于较大的模型。
• 大型语言模型可以自我改进：该论文证明法学硕士可以通过使用自我生成的解决方案进行微调来自我提高其推理能力，从而在没有真实标签的情况下实现最先进的性能。
• 拥抱医疗应用的大型语言模型：本文强调了微调法学硕士在医疗应用、提高诊断准确性和支持临床决策方面的潜力。
• 扩展指令微调语言模型：本文探讨了法学硕士的指令微调，展示了性能和对未见过的任务的泛化方面的显着改进。
• 十亿级语言模型的联合微调：这项工作引入了 FwdLLM，这是一种联合学习协议，旨在提高移动设备上大型 LLM 微调的效率，提高内存和时间效率。
• 大型语言模型的综合概述：本文概述了大型语言模型的发展和应用及其迁移学习能力。
• 微调语言模型以找到人类之间的共识：本文探讨了大型法学硕士的微调，以生成共识声明，最大限度地获得具有不同意见的群体的认可。

视频

• Andrej Karpathy 介绍大型语言模型：这是一个 1 小时的大型语言模型介绍。它们是什么、它们的发展方向、与当今操作系统的比较和类比，以及这种新计算范式的一些与安全相关的挑战。
• 在您自己的数据集上微调 Llama 2 |为您训练 LLM...：了解如何在自定义数据集上微调 Llama 2 模型。
• 在单 GPU 上使用 QLoRA 微调 LLM：在 ... 上训练 Falcon-7b：该视频演示了使用 QLoRA 的 Falcon 7b LLM 的微调过程。
• 使用 PEFT 微调 ​​LLM |大语言简介...：了解如何使用 PEFT 微调 ​​LLM，这是一种需要更少资源的技术。
• LLAMA-2 开源 LLM：自定义微调变得轻松...：有关如何在自定义数据集上微调 LLama 2 LLM 模型的分步指南。
• 新课程：微调大型语言模型 - YouTube：该视频介绍了关于微调 LLM 的课程，涵盖模型选择、数据准备、训练和评估。
• 问：如何创建用于微调我的 LLM 的指令数据集...：在本教程中，初学者将了解如何微调 LLM，包括何时、如何以及为何进行微调。
• LLM 模块 4：微调和评估 LLM | 4.13.1 Notebook ...：关于微调和评估 LLM 的笔记本演示。
• Google LLM 微调/适应/定制 - 入门...：通过分步指南开始微调 Google 的 PaLM 2 大语言模型。
• LLM 的预训练、微调与上下文学习 (GPT-x ...：解释 GPT-x 等 LLM 的预训练、微调和上下文学习的终极指南。
• 如何使用 PDF 微调 LLM - Langchain 教程 - YouTube：了解如何微调 OpenAI 的 GPT LLM 以使用 Langchain 和 PDF 库处理 PDF 文档。
• EasyTune 演练 - YouTube - 使用 Falcon-7b 在单个 GPU 上通过 QLoRA 微调 LLM 的演练。
• 释放 ChatGPT 培训和精细课程的潜力... - 学生用符号展示法学硕士的教学微调和情境学习。
• AI 新闻：无需代码即可创建法学硕士！ - YouTube - Maya Akim 讨论了您需要了解的 5 个 LLM 微调用例。
• 您需要了解的 5 个 LLM 微调用例 - YouTube - 一个深入的视频，重点介绍了 5 个 LLM 微调用例，并提供了用于进一步探索的附加链接。
• Clip2 llm emory - YouTube - 了解如何在您自己的数据集上微调 Llama 2 并为您的特定用例训练法学硕士。
• 在本地计算机上微调 LLAMA-v2 最简单的方法！ - YouTube - 分步视频指南，演示在本地计算机上针对自定义数据集微调 LLAMA-v2 的最简单、最简单和最快的方法。
• 培训和微调 LLM：简介 - YouTube - 介绍 LLM 的培训和微调，包括重要概念和 NeurIPS LLM 效率挑战。
• 使用 PEFT 和 LoRA 微调 LLM - YouTube - 一个全面的视频，探讨如何使用 PEFT 微调任何解码器式 GPT 模型，包括 LoRA 微调和上传的基础知识。
• 为 RLHF 和 LLM 微调构建和管理数据集... - 在 Argilla 的赞助下，了解如何为 RLHF（人类反馈强化学习）和 LLM（大型语言模型）微调构建和管理数据集。
• 在 Python 中使用自定义数据微调 LLM (OpenAI GPT) - YouTube - 探索如何通过使用自定义数据集微调 LLM (OpenAI GPT) 来扩展 LLM (OpenAI GPT)，以提供问答、摘要和其他类似 ChatGPT 的功能。

工具和软件

• LLaMA Efficient Tuning：易于使用的LLM微调框架（LLaMA-2、BLOOM、Falcon）。
• H2O LLM Studio：用于微调 LLM 的框架和无代码 GUI。
• PEFT：参数高效微调（PEFT）方法，用于将预训练的语言模型有效地适应下游应用程序。
• ChatGPT 类模型：在您的设备上本地运行快速的 ChatGPT 类模型。
• Petals：协作运行 BLOOM-176B 等大型语言模型，允许您加载模型的一小部分并与其他人合作进行推理或微调。 ？
• NVIDIA NeMo：用于构建最先进的对话式 AI 模型的工具包，专为 Linux 设计。
• H2O LLM Studio：一个框架和无代码 GUI 工具，用于在 Windows 上微调大型语言模型。 ？️
• Ludwig AI：用于构建自定义 LLM 和其他深度神经网络的低代码框架。使用声明性 YAML 配置文件轻松训练最先进的法学硕士。 ？
• bert4torch：变压器的优雅 PyTorch 实现。加载各种开源大型模型权重以进行推理和微调。
• Alpaca.cpp：在您的设备上本地运行类似 ChatGPT 的快速模型。 LLaMA 基础模型和斯坦福羊驼的开放复制品的组合，用于指令调整微调。 ？
• Promptfoo：评估和比较 LLM 输出、捕获回归并使用自动评估和代表性用户输入改进提示。

会议与活动

• ML/AI 对话：神经符号人工智能 - 法学硕士的替代方案 - 本次聚会将讨论微调法学硕士的经验，并探索神经符号人工智能作为替代方案。
• AI 开发日 - 西雅图，2023 年 10 月 30 日星期一，下午 5:00 - 一场关于使用向量相似性搜索的有效 LLM 可观察性和微调机会的技术讲座。
• DeepLearning.AI 活动 - 一系列活动，包括减轻 LLM 幻觉、使用 PyTorch 2.0 和 ChatGPT 微调 ​​LLM 以及 AI 教育计划。
• AI 开发日 - 纽约，星期四，2023 年 10 月 26 日下午 5:30 - 技术讲座，内容涉及 GenAI 应用程序的最佳实践以及使用法学硕士进行实时个性化通知。
• 聊天法学硕士和人工智能代理 - 使用 Gen AI 构建人工智能系统和代理 - 专注于法学硕士、人工智能代理和链数据的活动，并提供通过活动聊天进行互动的机会。
• NYC AI/LLM/ChatGPT Developers Group - 为对 AI、LLM、ChatGPT、NLP、ML、数据等感兴趣的开发人员定期举办技术讲座/研讨会。
• 利用 LLM 进行企业数据，2023 年 11 月 14 日，星期二，下午 2:00 - 深入研究为非公共数据应用程序量身定制的基本 LLM 策略，包括即时工程和检索。
• Bellevue Applied Machine Learning Meetup - 专注于应用机器学习技术以及提高数据科学家和机器学习从业者技能的聚会。
• 人工智能与即时工程聚会慕尼黑，Do.，5. Okt。 2023 年 18:15 - 引入 H2O LLM Studio，用于微调 LLM 并汇集来自不同背景的 AI 爱好者。
• 西雅图 AI/ML/数据开发者小组 - 关于评估 LLM 代理和通过实践学习 AI/ML/数据的技术讲座。
• 数据科学道场 - DC |聚会：这是一个位于华盛顿的聚会小组，面向对教学、​​学习和分享数据科学知识和理解感兴趣的商业专业人士。
• 查找阿拉伯联合酋长国迪拜的数据科学活动和团体：发现阿拉伯联合酋长国迪拜的数据科学活动和团体，与志趣相投的人建立联系。
• AI 聚会（面对面）：生成式 AI 和法学硕士 - 万圣节版：加入此 AI 聚会，进行有关生成式 AI 和大型语言模型 (LLM) 的技术讲座，包括开源工具和最佳实践。
• ChatGPT Unleashed：NLP 的现场演示和最佳实践：该在线活动探索大型语言模型的微调技巧，并展示 ChatGPT 和 LLM 的实际应用。
• 查找印第安纳州浦那的数据科学活动和团体：探索印第安纳州浦那与数据科学相关的在线或现场活动和团体。
• DC AI/ML/数据开发人员小组 | Meetup：该小组旨在将华盛顿地区的人工智能爱好者聚集在一起，学习和实践人工智能技术，包括人工智能、机器学习、深度学习和数据科学。
• 波士顿人工智能/法学硕士/ChatGPT 开发者小组 |聚会：加入波士顿的这个小组，学习和实践法学硕士、ChatGPT、机器学习、深度学习和数据科学等人工智能技术。
• 巴黎 NLP |聚会：本次聚会重点讨论自然语言处理 (NLP) 在各个领域的应用，讨论传统和现代 NLP 方法的技术、研究和应用。
• SF AI/LLM/ChatGPT 开发者小组 |聚会：与旧金山/湾区的人工智能爱好者联系，学习和实践人工智能技术，包括法学硕士、ChatGPT、NLP、机器学习、深度学习和数据科学。
• AI 聚会（面对面）：GenAI 和法学硕士用于健康：参加这个关于法学硕士在医疗保健中的应用的技术讲座，并了解使用法学硕士执行健康相关任务的快速成功。

幻灯片和演示文稿

• 微调大型语言模型：讨论微调大型语言模型（如 GPT、BERT 和 RoBERTa）的过程的演示。
• LLaMa 2.pptx：介绍 LLaMa 2 的幻灯片，LLaMa 2 是由 Meta AI 开发的强大的大型语言模型后续版本。
• LLM.pdf：探索 Transformer 在 NLP 中的作用（从 BERT 到 GPT-3）的演示。
• 大型语言模型训练营：训练营幻灯片涵盖大型语言模型的各个方面，包括从头开始训练和微调。
• CNN 解释的 LHC：使用 CNN 和微调图像模型解释 LHC（大型强子对撞机）的幻灯片。
• 在 10 行代码中使用大型语言模型：演示如何仅用 10 行代码使用大型语言模型。
• LLaMA-Adapter：使用零初始注意力进行语言模型的高效微调.pdf：讨论 LLaMA-Adapter 的幻灯片，这是一种使用零初始注意力微调语言模型的有效技术。
• 法学硕士简介：介绍大型语言模型的介绍，包括基本模型和提示完成对的微调。
• LLM Fine-Tuning (东大松尾研LLM讲座Day5资料) - 演讲者甲板：用于微调大型语言模型的讲座的幻灯片，专门用于东大松尾研尾サマーsukuール2023。
• 使用 ChatGPT 自动化您的工作和业务 #3：演示讨论 ChatGPT 的基础知识及其在工作自动化和业务任务方面的应用程序。
• 释放生成式 AI 的力量 An Executive's Guide.pdf - 该指南解释了微调大型语言模型 (LLM) 以根据组织的需求进行定制的过程。
• 微调和部署 Hugging Face NLP 模型 | PPT - 演示文稿提供了有关如何使用 Hugging Face NLP 构建和部署 LLM 模型的见解。
• 大规模言语モデル时代の人类在环机械学习 - 演讲者甲板 - 幻灯片甲板讨论微调语言模型的过程，以在具有不同偏好的人类之间找到一致意见。
• AI 和 ML 系列 - 生成式 AI 和法学硕士简介 | PPT - 介绍生成式人工智能和法学硕士的演示，包括它们在特定应用中的用法。
• 检索增强生成实践：可扩展的 GenAI ... - 讨论生成式 AI 的用例、大型语言模型的局限性以及检索增强生成 (RAG) 和微调技术的使用的演示。
• LLM 期末演讲 | PPT - 涵盖《2013 年儿童与家庭代理法》以及法学硕士背景下的最佳利益原则的演示文稿。
• LLM Paradigm Adaptations in Recommender Systems.pdf - 解释基于 LLM 的推荐系统中的微调过程和目标适应的 PDF。
• 对话式人工智能与 Transformer 模型 | PPT - 强调 Transformer 模型在对话式 AI 应用程序中使用的演示。
• 骆驼索引 | PPT - 关于法学硕士的兴起和构建法学硕士支持的应用程序的演示。
• LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention.pdf - 讨论使用 LLaMA 对具有零初始注意力的语言模型进行高效微调的 PDF。

播客

• 实用人工智能：机器学习、数据科学 - 使人工智能实用、高效且可供每个人使用。参与有关人工智能、机器学习、深度学习、神经网络等的热烈讨论。为初学者和经验丰富的从业者提供易于理解的见解和现实场景。
• 梯度异议：探索机器学习、人工智能、深度学习 - 深入幕后，向行业领导者学习他们如何在现实场景中实施深度学习。深入了解机器学习行业并了解最新趋势。
• Weaviate 播客 - 加入 Connor Shorten 的 Weaviate 播客系列，其中包括专家访谈和人工智能相关主题的讨论。
• Latent Space：AI 工程师播客 — CodeGen、代理、计算机视觉、数据科学、AI UX 和所有软件 3.0 - 深入了解 AI 工程的世界，涵盖代码生成、计算机视觉、数据科学和最新进展等主题在人工智能用户体验中。
• 无监督学习 - 深入了解快速发展的人工智能领域及其对企业和世界的影响。探索有关法学硕士申请、趋势和颠覆性技术的讨论。
• TWIML AI 播客（以前称为“机器学习本周”）- 深入探讨 AI 中使用的微调方法、LLM 功能和限制，并向该领域的专家学习。
• Apple 播客上的人工智能和工作的未来：由 SC Moatti 主持的播客，讨论人工智能对未来工作的影响。
• 实用人工智能：机器学习、数据科学：微调与 RAG：本集探讨了机器学习和数据科学中微调和检索增强生成之间的比较。
• Apple 播客上的无监督学习：第 20 集采访了 Anthropic 首席执行官 Dario Amodei，探讨了 AGI 和 AI 的未来。
• 人工智能论文阅读 | Spotify 上的播客：此播客让您了解计算机科学领域的最新趋势和最佳性能架构。
• Apple 播客上的人工智能播客中的这一天：该播客涵盖了各种与人工智能相关的主题，提供了有关人工智能世界的令人兴奋的见解。
• 关于评估 LLM 应用程序的所有信息 // Shahul Es // #179 MLOps：在本集中，Shahul Es 分享了他在开源模型评估方面的专业知识，包括有关调试、故障排除和基准测试的见解。
• Apple 播客上的 AI Daily：该播客由 Conner、Ethan 和 Farb 主持，探讨与 AI 相关的精彩故事。
• Yannic Kilcher 视频（仅音频）| Spotify 上的播客：Yannic Kilcher 讨论机器学习研究论文、编程以及人工智能对社会的更广泛影响。
• LessWrong 精选播客 | Spotify 上的播客：LessWrong Curated 时事通讯中分享的帖子的音频版本。
• SAI：Apple 播客上的安全和 AI 播客：重点介绍 OpenAI 网络安全资助计划的一集。

---

这个初始版本的 Awesome List 是在 Awesome List Generator 的帮助下生成的。它是一个开源 Python 包，利用 GPT 模型的强大功能来自动管理和生成与特定主题相关的资源列表的起点。