awesome machine learning resources

很棒的机器学习资源

语言: [英文] [中文]

涵盖各种机器学习和深度学习主题的优质资源的精选列表。

该存储库包含 380 多个项目（2021 年 12 月），旨在：

• 帮助beginners了解机器学习的分支和最新发展；
• 帮助researchers遵循新的机器学习研究方向；
• 帮助engineers找到合适的教程和库来解决实际问题。

笔记：

• 如果您喜欢这个项目，请留下一个STAR！
• 贡献：如果您发现任何不正确/不适当/过时的内容，请考虑提出问题或 PR。我们非常感谢您对此列表的贡献！
• 标记： ️表示inactive ，即对应的列表已停止更新（12个月以上），但对于初学者来说仍然是一个很好的参考。

什么是新的：

• [01/2023] 在图学习中添加公平图学习，更新时间序列/流学习部分。
• [08/2022] 在图学习中添加流量基准图。
• [04/2022] 更新图学习部分。
• [12/2021] 更新“聚类”部分。
• [12/2021] 更新自然语言处理 (NLP) 和人工智能公平性部分。
• [12/2021] 中文版现已上线！
• [12/2021] 添加跨学科 - 软件工程 (MLonCode) 部分。
• [12/2021] 添加范式 - 降维（特征选择/提取）部分。
• 更多的

  [12/2021] 令人敬畏的机器学习首次提交！
  

查看zhining 的其他开源项目！

不平衡集成 [PythonLib]

学习不平衡[棒极了]

自定进度合奏 [ICDE]

元采样器 [NeurIPS]

目录

• 目录
• 通用机器学习
• 机器学习范式
  • 半/自监督学习
  • 对比学习
  • 表示学习（嵌入）
  • 度量学习
  • 强化学习
  • 迁移学习
  • 元学习
  • 多任务学习
  • 不平衡/长尾学习
  • 少样本学习
  • 对抗性学习
  • 稳健的学习
  • 主动学习
  • 终身/渐进/持续学习
  • 集成学习
  • 自动机器学习 (AutoML)
  • 联邦学习
  • 异常检测
  • 聚类
  • 降维（特征选择/提取）
• 机器学习任务与应用
  • 计算机视觉（CV）
  • 自然语言处理（NLP）
  • 多模式和跨模式学习
  • 图学习
  • 知识图谱
  • 时间序列/流学习
  • 推荐系统
  • 信息检索
  • 游戏与搜索
• 机器学习模型
  • 预训练和基础模型
    • NLP（BERT、RoBERTa、GPT 等）
    • CV（视觉变形金刚等）
    • 在其他主题中
  • 卷积神经网络（CNN）
  • 循环神经网络（RNN、LSTM、GRU 等）
  • 图神经网络（GNN、GCN、GAT等）
  • 生成模型和生成对抗网络（GAN）
  • 变分自动编码器
  • 基于树的集成模型
• 机器学习的可解释性、公平性和道德
  • 人工智能的可解释性
  • 人工智能的公平性
  • 人工智能伦理
• 跨学科：机器学习+X
  • 系统（MLSys/SysML）
  • 数据库（AIDB/ML4DB）
  • 软件工程（MLonCode）
  • 网络安全
  • 量子计算
  • 医疗保健
  • 生物信息学
  • 生物学与化学
  • 金融与贸易
  • 商业
  • 法律
• 机器学习数据集
• 生产机器学习
  • 开源库
  • 大数据框架
• 致谢
• 贡献者

通用机器学习

• 实践

  • [列表、库] 很棒的机器学习
    • 精彩的机器学习框架、库和软件的精选列表（按语言）。
  • [图书馆] scikit-learn
    • scikit-learn：Python 中的机器学习。

• 研究

  • [列表] 论文-文献-ML-DL-RL-AI
    • 有关 ML/DL/RL/AI 的有影响力且被广泛引用的论文和文献。
  • [列表] 很棒的深度学习[ ️无效]
    • 精彩的深度学习书籍、课程、视频、讲座、教程等精选列表。
  • [列表] 精彩的深度学习论文[ ️无效]
    • 被引用最多的深度学习论文的精选列表（2012-2016）。

机器学习范式

半/自监督学习

• 一般的

  • [列表] 很棒的半监督学习
    • 精彩的半监督学习资源精选列表。
  • [列表] 很棒的自监督学习
    • 精选的精彩自我监督学习资源列表。
  • [列表] 精彩自监督论文
    • 收集有关自监督学习、表征学习的论文。

• 子主题

  • [列表] Awesome Graph 自监督学习
    • 很棒的自监督图形表示学习资源的精选列表。
  • [列表] 很棒的自监督 GNN
    • 关于图神经网络（GNN）自监督学习的论文。

• 实践

  • [图书馆] mmselfsup
    • OpenMMLab 自监督学习工具箱和基准。
  • [图书馆] 大学
    • 跨任务、语言和模式的大规模自我监督预训练。
  • [图书馆] 阿尔伯特
    • 用于语言表示自监督学习的 Lite BERT。

对比学习

• 一般的

  • [列表] PyContrast
    • 该存储库列出了最近的对比学习论文，并包含其中许多论文的代码。
  • [列表] 很棒的对比学习
    • 精彩的对比自监督学习论文的综合列表。
  • [列表] 很棒的对比学习论文和代码
    • 精彩的对比学习论文和代码的综合列表。

• 实践

  • [库]PyGCL
    • PyTorch 的图形对比学习库。

表示学习（嵌入）

• 一般的

  • [列表] Awesome-embedding-models [ ️无效]
    • 精彩嵌入模型教程、项目和社区的精选列表。
  • [列表] Awesome-representation-learning
    • 表征学习主题的阅读清单。

• 子主题

  • [列表] Awesome-sentence-embedding
    • 预训练句子和词嵌入模型的精选列表。
  • [列表] 令人敬畏的隐式神经表示
    • 有关隐式神经表示的精选资源列表。
  • [列表]awesome-2vec
    • 2vec 型嵌入模型的精选列表。
  • [列表] Awesome-VAE
    • 在 VAE、解缠结、表示学习和生成模型方面的出色工作。
  • [列表] 使用 Transformers 进行出色的视觉表示学习
    • 计算机视觉中令人敬畏的变形金刚（自注意力）。
  • [列表] 很棒的深度图表示学习
    • 精彩的深度图表示学习资源的精选列表。
  • [列表] Awesome-network-embedding [ ️无效]
    • 网络表示学习、图嵌入、知识嵌入。
  • [列表] NRL/NE 必读论文。 [ ️无效]
    • NRL：网络表示学习。 NE：网络嵌入。
  • [列表] 解开的表示论文[ ️无效]
    • 关于解缠结（以及偶尔的“传统”）表示学习的论文。
  • [列表] 异构图上的表示学习[ ️无效]
    • 异构图嵌入、异构 GNN 和应用。

度量学习

• 实践
  • [库] pytorch-metric-learning
    • 在应用程序中使用深度度量学习的最简单方法。
  • [图书馆] 度量学习
    • metric-learn：Python 中的度量学习。
  • 【代码合集】Deep-Metric-Learning-Baselines 【 ️无效]
    • 深度度量学习管道的 PyTorch 实现。

强化学习

• 一般的

  • [列表] 很棒的强化学习
    • 专门用于强化学习的精选资源列表。
  • [列表] 精彩的深度学习和强化学习论文及其他资源
    • 有关深度学习和深度强化学习的最新论文列表。
  • [列表] 很棒的深度强化学习
    • 精选的深度强化学习资源列表。
  • [列表] 很棒的强化学习 (中/中文) [ ️无效]
    • 强化学习从入门到放弃的资料

• 子主题

  • [列表] 很棒的离线强化学习
    • 这是离线强化学习的研究和评论论文集。
  • [列表] 很棒的现实世界强化学习
    • 让强化学习在现实生活中发挥作用的丰富资源。论文、项目等等。
  • [列表] 很棒的游戏AI
    • 有关多智能体学习的游戏 AI 资源的精选但不完整列表。
  • [列表] 精彩 RL 比赛
    • 强化学习竞赛集合。
  • [列表] 很棒的机器人
    • 这是机器人技术的各种书籍、课程和其他资源的列表
  • [列表] 用于自然语言处理 (NLP) 的出色 RL [ ️无效]
    • 用于自然语言处理的强化学习资源精选列表。
  • [列表] 出色的网络安全强化学习
    • 专门用于网络安全强化学习的精选资源列表。

• 实践

  • [图书馆] 健身房
    • 用于开发和比较强化学习算法的工具包。
  • [图书馆] trfl
    • TensorFlow 强化学习。
  • [图书馆] rlpyt
    • PyTorch 中的强化学习。
  • [图书馆] rlkit
    • 在 PyTorch 中实现的强化学习框架和算法。
  • [图书馆] 马罗
    • 多代理资源优化 (MARO) 平台是针对现实世界资源优化问题的强化学习即服务 (RaaS) 的一个实例。
  • [图书馆]土匪
    • Multi-Armed Bandits 的 Python 库。
  • [图书馆] BanditLib
    • 上下文强盗算法库。
  • 【教程】强化学习简介
    • Sutton 和 Barto 的书《强化学习：简介》（第二版）的 Python 复制。
  • 【代码合集】强化学习【 ️无效]
    • 强化学习算法的实施。 Python、OpenAI Gym、Tensorflow。
  • [教程]基于tensorflow的强化学习（中英） [ ️无效]
    • 强化学习方法和教程。
  • 【代码合集】强化学习【 ️无效]
    • 最小和干净的强化学习示例。

迁移学习

• 一般的

  • [列表] 迁移学习 迁移学习
    • 关于迁移学习的一切。
  • [列表] 很棒的迁移学习
    • 关于迁移学习、领域适应和领域到领域翻译的精彩论文和酷资源列表。

• 子主题

  • [列表] 很棒的域适应
    • 这个仓库收集了有关领域适应的精彩内容，包括论文、代码等。
  • [列表] 领域泛化
    • 领域泛化论文和数据集。

• 实践

  • [图书馆] 迁移学习图书馆
    • 用于领域适应、任务适应和领域泛化的迁移学习库。
  • 【代码合集】深度迁移学习
    • 深域自适应算法的实现集合
  • [教程]使用Python进行迁移学习实践[ ️无效]
    • 通过使用 Python 深度学习生态系统迁移先前的学习，深度学习得到简化。

元学习

• 一般的

  • [代码合集] Torchmeta
    • 用于 PyTorch 中的少量学习和元学习的扩展和数据加载器的集合。
  • [列表] 元学习论文[ ️无效]
    • 元学习/学会学习/一次性学习/终身学习。
  • [列表] 很棒的元学习[ ️无效]
    • 元学习论文、代码、书籍、博客、视频、数据集和其他资源的精选列表。
  • [列表] Awesome-meta-learning [ ️无效]
    • 元学习资源的精选列表。

• 实践

  • [图书馆] 学习2学习
    • 用于元学习研究的 PyTorch 库。
  • 【代码合集】pytorch-meta
    • 用于 PyTorch 中的少量学习和元学习的扩展和数据加载器的集合。
  • [教程]Python 元学习实践[ ️无效]
    • 通过 Tensorflow 学习使用 One-Shot Learning、MAML、Reptile、Meta-SGD 等进行学习。

多任务学习

• 一般的

  • [列表] 多任务学习
    • 多任务学习学者、论文、调查、幻灯片、会议记录和开源项目。
  • [列表] 很棒的多任务学习
    • 从 ML 角度来看，2021 年最新的多任务学习 (MTL) 论文列表。

• 子主题

  • [列表] Awesome Multi-Task Learning（针对视觉）
    • 关于计算机视觉多任务学习的论文列表。

• 实践

  • 【代码合集】多任务-学习-PyTorch
    • 在 PyTorch 中实现多种多任务学习模型和训练策略。

不平衡/长尾学习

• 一般的

  • [列表] 令人敬畏的不平衡学习
    • 关于不平衡（长尾）学习的一切。框架和库（按编程语言分组）、研究论文（按研究领域分组）、不平衡数据集、算法、实用程序、Jupyter Notebooks 和讲座。
  • [列表] 很棒的长尾学习
    • 总结了相关论文，包括其在计算机视觉（特别是图像分类）和极限多标签学习（XML）（特别是文本分类）中的应用。
  • [列表] 很棒的长尾学习*
    • 精选的精彩深度长尾学习资源列表。

• 子主题

  • [列表] 很棒的长尾识别
    • 长尾识别和相关资源的精选列表。
  • [列表] 令人敬畏的不平衡时间序列分类[ ️无效]
    • 使用深度学习进行不平衡时间序列分类的论文列表。

• 实践

  • [图书馆]不平衡学习
    • 用于解决机器学习中数据集不平衡问题的 Python 包。
  • [图书馆]不平衡-集成（英文&中文）
    • 类别不平衡/长尾机器学习 | Python 中的类不平衡/长尾集成学习

少样本学习

• 一般的

  • [列表] 精彩论文几张
    • 在顶级会议上发表的少量学习论文。

• 子主题

  • [列表] 几篇语义分割论文
    • 有关少样本语义分割的论文。
  • [列表] 令人惊叹的少镜头图像生成
    • 与少样本图像生成相关的论文、数据集和相关链接。

• 实践

  • 【代码合集】Few-shot学习【 ️无效]
    • 干净、可读且经过测试的代码，可重现少量学习研究。

对抗性学习

另请参阅：机器学习模型 ->生成模型和生成对抗网络 (GAN)

• 一般的

  • [列表] 令人敬畏的对抗性机器学习[ ️无效]
    • 精彩的对抗性机器学习资源的精选列表。
  • [列表]深度学习的精彩对抗示例[ ️无效]
    • 深度学习中对抗性示例的惊人资源列表。

• 子主题

  • 【列表】文本对抗性攻防（TAAD）必读论文
  • 【列表】图对抗学习文献
    • 关于图结构数据的对抗性攻击和防御论文的精选列表。

• 实践

  • [库]对抗性鲁棒性工具箱
    • Adversarial Robustness Toolbox (ART) - 用于机器学习安全的 Python 库。
  • [库] AdversarialDNN-Playground
    • 基于网络的对抗性机器学习可视化工具/LiveDemo。

稳健的学习

• 一般的

  • [列表] 干净、可读且经过测试的代码，用于重现少量学习研究。使用标签噪声进行很棒的学习
    • 用于使用嘈杂标签学习的精选资源列表
  • [列表] Robust ML 论文（答辩）
    • 鲁棒机器学习的相关论文（我们主要关注防御）。

• 实践

  • [库]对抗性鲁棒性工具箱
    • Adversarial Robustness Toolbox (ART) - 用于机器学习安全的 Python 库。
  • [图书馆]稳健性-健身房
    • Robustness Gym 是一个机器学习评估工具包。
  • [图书馆] 鲁棒性
    • 用于构建机器学习模型的工具包，该模型可推广到看不见的领域，并且对隐私和其他攻击具有鲁棒性。

主动学习

• 一般的

  • [列表] 很棒的主动学习
    • 以前的主动学习作品被分类。
  • [列表] 很棒的主动学习*
    • 精彩的主动学习精选列表。
  • [列表] 很棒的主动学习**
    • 与机器学习中的主动学习相关的资源列表。

• 实践

  • [图书馆] 模态AL
    • Python 的模块化主动学习框架。
  • [库]libact
    • libact：Python 中基于池的主动学习
  • [库] pytorch_active_learning
    • 用于主动学习的 PyTorch 库与《人在环机器学习》一书配套。
  • 【代码合集】深度主动学习
    • 几种主动学习算法的 Python 实现。
  • 【代码合集】主动学习游乐场【 ️无效]
    • 用于试验不同主动学习算法的 python 模块。

终身/渐进/持续学习

• 一般的

  • [列表] 令人敬畏的渐进学习/终身学习
    • 渐进学习/终身学习论文。
  • [列表]继续学习文献
    • 持续学习论文。
  • [列表] 很棒的持续/终身学习
    • 论文、博客、数据集和软件。
  • [列表] 持续学习论文
    • 持续学习论文列表，由 ContinualAI 策划。
  • [列表]终身学习论文列表[ ️无效]
    • 终身学习/持续学习论文。

• 实践

  • 【代码收集】持续学习
    • PyTorch 实现了用于持续学习的各种方法。
  • 【代码合集】incremental_learning.pytorch
    • 增量学习论文实现的集合。
  • 【代码合集】持续学习-Benchmark 【 ️无效]
    • 使用流行的持续学习算法评估三种类型的任务转移。

集成学习

另请参阅：机器学习模型 ->基于树和集成模型

• 一般的

  • [列表] 很棒的集成学习[ ️无效]
    • 书籍、论文、课程、教程、图书馆、数据集。

• 子主题

  • [列表] 很棒的梯度提升研究论文
    • 梯度和自适应增强论文及其实现的精选列表。
  • [列表] 很棒的随机森林[ ️无效]
    • 有关基于树的方法等的精选资源列表，包括但不限于随机森林、bagging 和 boosting。

• 实践

  • [库]xgboost
    • 可扩展、可移植和分布式梯度提升（GBDT、GBRT 或 GBM）库。
  • [库] LightGBM
    • 快速、分布式、高性能梯度提升（GBT、GBDT、GBRT、GBM 或 MART）框架。
  • [图书馆] 猫升压
    • 快速、可扩展、高性能的决策树梯度提升库。
  • [图书馆] 组合
    • 用于机器学习模型组合的Python工具箱，
  • [图书馆]不平衡-集成（英文&中文）
    • 类别不平衡/长尾机器学习 | Python 中的类不平衡/长尾集成学习
  • [图书馆] 姆伦斯[ ️无效]
    • 用于高性能集成学习的 Python 库。

自动机器学习 (AutoML)

• 一般的

  • [列表] 精彩的 AutoML 论文
    • 自动化机器学习论文、文章、教程、幻灯片和项目。
  • [列表] 很棒的 AutoDL
    • 自动化深度学习相关资源的精选列表。
  • [列表] 很棒的 AutoML
    • 整理 AutoML 相关研究、工具、项目和其他资源的列表。

• 子主题

  • [列表] 很棒的神经架构搜索论文
    • 神经架构搜索论文
  • [列表] 很棒的架构搜索[ ️无效]
    • 很棒的架构搜索和超参数优化资源的精选列表。
  • [列表] 很棒的 AutoML 和轻量级模型[ ️无效]

• 实践

  • [库]NNI（神经网络智能）
    • 一个开源 AutoML 工具包，用于自动化机器学习生命周期，包括特征工程、神经架构搜索、模型压缩和超参数调整。
  • [图书馆] tpot
    • 一种 Python 自动化机器学习工具，可使用遗传编程优化机器学习管道。
  • [图书馆] 路德维希
    • 以数据为中心的声明性深度学习框架。
  • [库]autokeras
    • 用于深度学习的 AutoML 库。
  • [图书馆] automl
    • (Google Brain AutoML) AutoML 相关模型和库的列表。
  • [图书馆] autogluon
    • AutoGluon：用于文本、图像和表格数据的 AutoML
  • [图书馆] 阿达网
    • 快速、灵活的 AutoML，具有学习保证。
  • [图书馆] FLAML
    • 用于 AutoML 和调优的快速库。

联邦学习

• 一般的

  • [列表] 很棒的联邦学习
    • 联合学习出版物的精选列表，从 Arxiv（大部分）重新组织。
  • [列表] 很棒的联邦学习*
    • 与机器学习中的联邦学习和隐私相关的资源列表。
  • [列表] 很棒的联邦学习
    • 联邦学习研究的精选列表。
  • [列表] 联邦学习 联邦学习
    • 关于联邦学习的一切。
  • [列表] 联邦学习
    • 联合学习论文（按主题分组）。

• 子主题

  • [列表] 很棒的联邦计算
    • 以联合方式（分布式；去中心化）进行的 ML 研究论文、代码、教程和博客的集合。
  • [列表] 很棒的关于图和 GNN 的联邦学习论文
    • 图上的联邦学习，特别是 GNN、知识图和私有 GNN。

• 实践

  • [图书馆] 命运
    • 工业级联合学习框架。
  • [图书馆] 联合
    • 用于实施联邦学习（TensorFlow）的框架。
  • [代码]联邦学习-PyTorch
    • 普通联邦学习论文的实现。
  • [图书馆] 花
    • 联合学习、分析和评估的统一方法。联合任何工作负载、任何 ML 框架和任何编程语言。

异常检测

• 一般的

  • [列表] 异常检测学习资源
    • 书籍、学术论文、在线课程、视频、异常数据集、开源和商业图书馆、工具包、重要会议和期刊。
  • [列表] 很棒的异常检测
    • 很棒的异常检测资源的精选列表。
  • [列表] 很棒的异常检测* [ ️无效]
    • 有关异常检测的论文列表。

• 子主题

  • [列表] 很棒的时间序列异常检测
    • 用于时间序列数据异常检测的工具和数据集列表。
  • [列表] 精彩的欺诈检测研究论文
    • 欺诈检测论文的精选列表。
  • [列表] 很棒的视频异常检测
    • 视频异常检测论文，发布代码集。
  • [列表] 精彩的日志分析
    • 有关日志分析、异常检测、故障定位和 AIOps 的出版物和研究人员。

• 实践

  • [图书馆] pyod
    • 用于可扩展异常值检测（异常检测）的 Python 工具箱。
  • [代码] RNN-时间序列-异常检测
    • 在 Pytorch 中实现的基于 RNN 的时间序列异常检测器模型。
  • [库 (R)] 异常检测[ ️无效]
    • 使用 R 进行异常检测。
  • [文库]鲁米诺[ ️无效]
    • 异常检测和关联库。

聚类

• 一般的

  • [列表] 深度聚类
    • 深度聚类：方法和实现

• 子主题

  • [列表] 精彩的社区检测研究论文
    • 社区检测论文集。
  • [列表] 很棒的多视图聚类
    • 最先进 (SOTA) 的集合，新颖的多视图聚类方法（论文、代码和数据集）。
  • [列表] Awesome-Deep-Graph-Clustering
    • 最先进 (SOTA) 的新颖深度图聚类方法（论文、代码和数据集）的集合。

• 实践

  • [图书馆] 费斯
    • 用于高效相似性搜索和密集向量聚类的库。
  • [库] hdbscan
    • HDBSCAN 集群的高性能实现。
  • 【代码合集】时间序列分类与聚类【 ️无效]
    • 用Python编写的时间序列分类和聚类代码。

降维（特征选择/提取）

• 一般的

  • [列表] 很棒的特征工程[ ️无效]
    • 专门用于机器学习特征工程技术的精选资源列表。

• 实践

  • [库] 特征工具
    • 用于自动化特征工程的开源 Python 库。
  • [库] 特征选择器[ ️无效]
    • 特征选择器：Python 中的简单特征选择。
  • [库] scikit-feature [ ️无效]
    • python 中的开源特征选择存储库。
  • [教程]DimensionalityReduction_alo_codes（中文） [ ️无效]
    • xx特征提取/数据降维：PCA、LDA、MDS、LLE、TSNE等降维算法的python实现xxx。
  • [教程]特征工程和特征选择[ ️无效]
    • 特征工程和特征选择指南，包含 Python 中的实现和示例。
  • [教程]机器学习的特征选择[ ️无效]
    • 机器学习预处理过程中特征选择示例的方法。

机器学习任务与应用

计算机视觉（CV）

• 一般的

  • [列表] 很棒的计算机视觉
    • 精彩计算机视觉资源的精选列表。
  • [列表] 很棒的 Visual-Transformer
    • 收集一些 Transformer 与计算机视觉 (CV) 论文。
  • [列表] 令人敬畏的深度视觉[ ️无效]
    • 计算机视觉深度学习资源的精选列表。

• 子主题

  • [列表] 使用 Transformers 进行出色的视觉表示学习
    • 计算机视觉中令人敬畏的变形金刚（自注意力）。
  • [列表] 超棒的人脸识别
    • 人脸检测、分割、对齐和跟踪等。
  • [列表] 令人敬畏的神经辐射场
    • 精选的神经辐射场论文列表。
  • [列表] 很棒的神经渲染
    • 有关神经渲染的资源集合。
  • [列表] 令人敬畏的修复技术
    • 修复论文和资源的精选列表。
  • [列表] 很棒的图像到图像翻译
    • 有关图像到图像翻译的资源集合。
  • [列表] 用于跟踪和检测的深度学习
    • 使用深度学习进行对象检测和跟踪的论文、数据集、代码和其他资源的集合。
  • [列表] 很棒的视频分析深度学习
    • 视频分析，特别是用于视频分析研究的多模态学习。
  • [列表] 图像和视频去模糊
    • 图像和视频去模糊资源的精选列表。
  • [列表] 几篇语义分割论文
    • 有关少样本语义分割的论文。
  • [列表] 令人惊叹的少镜头图像生成
    • 与少样本图像生成相关的论文、数据集和相关链接。
  • [列表] 很棒的视频异常检测
    • 视频异常检测论文，发布代码集。
  • [列表]3D机器学习
    • 从 3D 表示中学习。
  • [列表]awesome-3D-vision（中文）
    • 3D视觉算法、SLAM、vSLAM、计算机视觉
  • [列表] 深度学习方法的 3D 重建
    • 此列表的重点是 Github 上托管的开源项目。
  • [列表]Awsome_Deep_Geometry_Learning
    • 有关 3D 形状处理深度学习解决方案的资源列表。
  • [列表] 很棒的图像分类[ ️无效]
    • 自 2014 年以来深度学习图像分类论文和代码的精选列表。
  • [列表] 很棒的物体检测[ ️无效]
  • [列表] 令人敬畏的面孔[ ️无效]
    • 人脸相关算法、数据集和论文。
  • [列表] 很棒的人体姿势估计[ ️无效]
    • 关于人类提出的相关问题的资源集合。
  • [列表] 很棒的视频生成[ ️无效]
    • 关于视频生成和视频表示学习的精彩工作精选列表（目前有 257 篇论文）。

自然语言处理（NLP）

• 一般的

  • [列表] 很棒的 NLP
    • 专门用于自然语言处理的精选资源列表。
  • [列表] 跟踪自然语言处理的进展
    • 用于跟踪自然语言处理 (NLP) 进展的存储库，包括数据集和最常见 NLP 任务的最新技术。
  • [列表] NLP 中很棒的 BERT 和迁移学习
    • Transformer (BERT)、注意力机制、Transformer 架构/网络以及 NLP 中的迁移学习。
  • 【列表】funNLP：最强大的NLP武器库（中文）
    • NLP民工的乐园：几乎最全的中文NLP资源库
  • 【列表、教程】ML-NLP（中文）
    • 这个项目是机器学习、NLP面试中常考到的知识点和代码实现，也是一个作为算法工程师必会的理论基础知识
  • 【列表】Awesome Chinese NLP（中文） 【 ️无效]
    • 中文自然语言处理相关资料
  • [列表] 很棒的 BERT [ ️无效]
    • 这个仓库是收集BERT相关资源的。

• 子主题

  • [列表] 机器翻译阅读列表
    • 清华自然语言处理组维护的机器翻译阅读清单。
  • [列表] 预训练语言模型 (PLM) 必读论文
    • 列出一些有关 PLM 的代表性工作并用图表显示它们的关系。
  • [列表] 提示论文
    • 关于基于提示的预训练语言模型调优的必读论文。
  • [列表] NRE 必读论文
    • NRE：神经关系提取。
  • [列表] 精彩问答
    • 问答 (QA) 主题的精选列表。
  • 【列表】文本对抗性攻防（TAAD）
    • 关于文本对抗性攻击和防御的必读论文。
  • [列表] 机器阅读理解。
    • 有关机器阅读理解的必读论文。
  • [列表] 法律情报（NLP）
    • 法律情报必读论文。
  • [列表] 精彩的 NLP 公平性论文
    • 关于 NLP 公平性的论文。
  • [列表] 很棒的金融 NLP
    • 金融领域自然语言处理研究。
  • [列表]Graph4NLP文献
    • 有关 NLP 图深度学习的文献列表。
  • [列表] 很棒的中医NLP（中文）
    • 中文医学NLP公开资源整理
  • [列表] NLP4Rec-论文
    • 推荐系统 NLP 论文集。
  • [列表]DataAug4NLP
    • NLP 数据增强的论文和资源集合。
  • [列表] KRL/KE 必读论文。 [ ️无效]
    • KRL：知识表示学习。 KE：知识嵌入。

• 实践

  • [教程] NLP教程
    • nlp-tutorial是为使用 Pytorch 学习 NLP 的人提供的教程。
  • [数据集] NLP数据集
    • 按字母顺序排列的免费/公共领域数据集列表，其中包含用于 NLP 的文本数据。

多模式和跨模式学习

• 多式联运

  • [列表] 很棒的多模态机器学习
    • 多模式机器学习主题的阅读列表。
  • [列表] 很棒的多模式研究
    • 多模态机器学习研究论文。

• 跨模式

  • [列表] 跨模态检索教程
    • 跨模态匹配和检索论文。
  • [列表] 令人惊叹的深度学习视频文本检索
    • 用于视频文本检索的深度学习资源的精选列表。
  • [列表] 很棒的文档理解
    • 与智能文档处理 (IDP) 相关的文档理解 (DU) 主题的精选资源列表。
  • [列表] Awesome-Cross-Modal-Video-Moment-Retrieval（中文）

图学习

另请参阅：机器学习模型 ->图神经网络（GNN、GCN、GAT 等）

• 一般的

  • [列表] 基于图的深度学习文献
    • 基于图的深度学习的会议出版物。
  • [列表]图深度学习文献
    • 这是关于图深度学习的论文列表。
  • [列表] GNN论文
    • GNN 必读论文。

• 基准测试

  • [基准]基于图的深度学习模型用于城市交通预测
    • DL-Traff：城市交通预测深度学习模型的调查和基准

• 子主题

  • [列表] 很棒的图分类
    • 图分类方法的集合，涵盖嵌入、深度学习、图核和分解论文以及参考实现。
  • [列表] 很棒的可解释的图形推理
    • 与图机器学习的可解释性相关的研究论文和软件的集合。
  • [列表] Awesome Graph 自监督学习
    • 很棒的自监督图形表示学习资源的精选列表。
  • 【列表】图对抗学习文献
    • 关于图结构数据的对抗性攻击和防御论文的精选列表。
  • [列表] 化学和生物学中图的深度学习
    • 化学和生物学中图深度学习的论文列表。
  • [列表] 很棒的关于图和 GNN 的联邦学习论文
    • 图上的联邦学习，特别是 GNN、知识图和私有 GNN。
  • [列表] 很棒的深度图表示学习
    • 精彩的深度图表示学习资源的精选列表。
  • [列表]Graph4NLP文献
    • 有关 NLP 图深度学习的文献列表。
  • [列表] GNN4Traffic
    • 这是用于流量预测的图神经网络集合的存储库。
  • [列表] 基于 GNN 的推荐系统
    • 基于图神经网络的推荐算法索引。
  • [列表] Awesome-GNN-推荐
    • 推荐中的 GNN。
  • [列表] 大规模图上出色的 GNN
    • 大规模图数据集/网络。
  • [列表] 很棒的公平图学习
    • 公平图学习 (FairGL) 的论文列表。
  • [列表] NRL/NE 必读论文。 [ ️无效]
    • NRL：网络表示学习。 NE：网络嵌入。
  • [列表] 异构图上的表示学习[ ️无效]
    • 异构图嵌入、异构 GNN 和应用。

• 实践

  • [列表] Awesome-graph
    • 图数据库和图计算工具的精选资源列表。

知识图谱

• 一般的

  • [列表]知识图谱
    • 知识图谱论文、代码、读书笔记合集
  • 【教程】很棒的知识图谱（中文）
    • 整理知识图谱相关学习资料，提供系统化的知识图谱学习路径
  • [列表] 很棒的知识图谱
    • 知识图谱相关的学习资料、数据库、工具等资源。
  • [列表]知识图谱学习
    • 精彩知识图教程、项目和社区的精选列表。

• 子主题

  • [列表] 知识图推理论文
    • 知识图推理论文。
  • [列表]NLP-知识图谱（中文）
    • 自然语言处理、知识图谱、对话系统

• 实践

  • [列表] Awesome-graph
    • 图数据库和图计算工具的精选资源列表。

时间序列/流学习

• 一般的

  • [列表] 精彩时间序列
    • 最先进的论文、代码和其他资源列表集中在时间序列预测上。
  • [列表] 精彩的时间序列
    • 对时间序列领域的全面考察。
  • [列表] 精彩时间序列论文（中英文） [ ️无效]
    • 来自时间序列分析各个研究领域的精彩论文列表。

• 子主题

  • [列表] 很棒的时间序列异常检测
    • 用于时间序列数据异常检测的工具和数据集列表。
  • [列表] 深度学习时间序列预测
    • 使用深度学习进行时间序列预测的资源、代码和实验。
  • [列表] Awesome-基于深度学习的时间序列预测
    • 很棒的基于深度学习的时间序列预测。
  • [列表] 很棒的时间序列分析和数据挖掘
    • 用于时间序列分析或时间序列数据挖掘的学习资源、工具和数据集的集合列表。

• 实践

  • [列表、练习]awesome_time_series_in_python
    • 用于时间序列处理的 Python 库、数据集、框架。
  • [数据集] 很棒的时间序列数据库
    • 时间序列数据库的精选列表。
  • [图书馆] 福斯特
    • 一个易于使用的时间、时空和分层预测工具。

推荐系统

• 一般的

  • [列表] Awesome-RSPapers
    • 顶级会议中的推荐系统论文。
  • [列表] Awesome-RecSys [ ️无效]
    • 很棒的推荐系统（研究）的精选列表。
  • [列表] Awesome-recommender-systems (中文) [ ️无效]
    • 有关推荐系统的精彩资源的精选列表。

• 子主题

  • [列表] 用于工业搜索、推荐和广告的精彩深度学习论文
    • 专注于嵌入、匹配、排名（CTR 预测、CVR 预测）、后排名、迁移和强化学习。
  • [列表] 基于 GNN 的推荐系统
    • 基于图神经网络的推荐算法索引。
  • [列表] NLP4Rec-论文
    • 推荐系统 NLP 论文集。
  • [列表] Awesome-GNN-推荐
    • 推荐中的 GNN。

信息检索

• [列表] 很棒的信息检索
  • 来自网络各地的信息检索和网络搜索资源的精选列表。

游戏和搜索

• [列表] 很棒的蒙特卡罗树搜索论文
  • 蒙特卡罗树搜索论文及其实现的精选列表。

机器学习模型

预训练和基础模型

NLP（BERT、RoBERTa、GPT 等）

• 基础模型

  • [列表] 预训练语言模型 (PLM) 必读论文
    • 在PLM上列出一些代表性的工作，并显示其与图表的关系。
  • [列表]与BERT相关的论文
    • 这是与BERT相关的论文列表。
  • [列表] NLP中很棒的Bert＆Transfer Learning
    • 变形金刚（BERT），注意机制，变压器体系结构/网络和NLP中的转移学习。
  • [列表] PTMS：NLP（中文）中的预训练模型
    • NLP预训练模型的全面总结
  • [列表，模型]很棒的中国NLP型号（中文）
    • 高质量中文预训练模型集合
  • [列表]视觉和语言预处理的模型
    • 视觉和语言预估计模型（VL-PTM）的最新进展。
  • [列表]很棒的伯特[ ️非活性]
    • 该存储库是收集与BERT相关的资源。

• 预算（不是基础）模型

  • [列表，模型]嵌入很棒的句子
    • 经过精心审计的句子和单词嵌入模型的清单。

在简历（视觉变压器等）中

• 基础模型

  • [列表]很棒的视觉转换器
    • 收集一些带有计算机视觉（CV）论文的变压器。
  • [列表]视觉和语言预处理的模型
    • 视觉和语言预估计模型（VL-PTM）的最新进展。
  • [列表] vision变压器
    • 最近的基于变压器的简历及相关工作。
  • [列表]带有变压器的令人敬畏的视觉表示学习
    • 很棒的变压器（自我注意）在计算机视觉中。
  • [列表]计算机中的变压器
    • 最近一些基于变压器的简历作品的纸列表。

• 预算（不是基础）模型

  • [列表，练习] Pytorch图像模型
    • 图像模型，层，实用程序，优化器，调度程序，数据加载器 /增强器以及参考培训 /验证脚本的集合，旨在将各种SOTA模型汇总在一起，具有复制ImageNet培训结果的能力。
  • [列表，模型] CV-retretred模型
    • 计算机视觉预告片模型（不是论文）。
  • [列表，模型]验证的models.pytorch [ ️非活性]
    • Pytorch预审前的视觉模型。
  • [库] Semengeation_Models [ ️非活性]
    • Python库带有神经网络，用于基于Keras和Tensorflow的图像分割。

在其他主题中

• [列表]令人敬畏的预言 - 预先进行回归
  • 与信息检索的预培训模型有关的很棒的论文（又称IR进行预处理）。

卷积神经网络（CNN）

注意：这是一个大主题，几乎所有现有的列表都过时了。有关更多最新信息，请参阅机器学习任务和应用中的计算机视觉（CV） 。

• [基准] Convnet基准测试[ ️非活性]
  • 便于公共开源实现Convnets的基准测试。
• [基准] CNN基准测试[ ️非活性]
  • CPU和不同GPU的流行卷积神经网络模型的基准，带有和没有Cudnn。

经常性神经网络（RNN，LSTM，GRU等）

注意：这是一个大主题，几乎所有现有的列表都过时了。请参阅机器学习任务和应用程序中的时间序列/流学习以获取更多信息。

• [列表]很棒的复发神经网络[ ️非活性]
  • 精心策划的资源清单，专门针对经常性神经网络（与深度学习密切相关）。

图神经网络（GNN，GCN，GAT等）

另请参阅：机器学习任务和应用程序 - >图形学习

• 一般的

  • [列表] gnnpapers
    • 图形神经网络上的必读论文。
  • [列表]基于图的神经网络
    • 有关基于图的神经网络和关系网络的重要材料。
  • [列表]很棒的GCN
    • 该存储库是收集GCN，GAT（图）相关资源。
  • [列表]图神经网络（GNN）进度
    • 必须阅读的论文和图形神经网络（GNN）进度的连续轨道
  • [列表] gnn_review（中文）
    • Gnn综述阅读报告

• 子主题

  • [列表]很棒的自制者
    • 关于图形神经网络（GNNS）的自我监督学习的论文。
  • [列表] gnn4traffic
    • 这是用于流量预测的图神经网络集合的存储库。
  • [列表]基于GNN的推荐系统
    • 基于图神经网络的推荐算法索引。
  • [列表]大规模图上的很棒的gnns
    • 大型图形数据集/网络。

• 实践

  • [教程] GNN-Algorithms（中文） [ ️非活性]
    • 图神经网络相关算法详述及实现教程

生成模型和生成对抗网络（GAN）

另请参阅：机器学习范式 - >对抗性学习

• 一般的

  • [列表]真是令人不愉快
    • 有关生成对抗（神经）网络的论文和其他资源列表。
  • [列表]很棒的生成建模论文
    • 有关生成建模的论文。
  • [列表] gan Zoo [ ️非活性]
    • 所有命名甘斯的清单。
  • [列表] verversarialnetspaper [ ️非活性]
    • 关于生成对抗网络的很棒的论文。大多数论文与图像翻译有关。
  • 很棒的gan应用程序[ ️非活性]
    • 精选的GAN应用程序和演示清单。

• 子主题和应用程序

  • [列表]令人敬畏的医学成像
    • 精心策划的医学成像中的GAN资源清单。
  • [列表]很棒的gan倒入
    • 此存储库是GAN倒置的资源集合。

• 实践

  • [列表]带有张量的巨大甘恩
    • gan的张量实现（生成对抗网络）。
  • [教程] Ganhacks [ ️非活性]
    • 如何训练甘恩？让 GAN 发挥作用的提示和技巧。
  • [教程] gan [ ️非活性]
    • 生成对抗网的资源和实施。
  • [教程] gan_theories [ ️非活性]
    • 如何稳定训练过程并产生高质量的图像。

变分自动编码器

另请参阅：机器学习范式 - >表示学习

• [列表]很棒的vaes
  • 在VAE，分离，表示学习和生成模型上进行的很棒的工作。
• [代码收集] pytorch-vae
  • 在 pytorch 中实现的变分自动编码器 (VAE) 集合，重点关注可重复性。

基于树的合奏模型

另请参阅：机器学习范式 - >合奏学习

• 一般的

  • [清单]很棒的决策树研究论文
    • 策划的分类和回归树研究论文清单，并具有实施。
  • [列表]令人敬畏的梯度增强研究论文
    • 策划的梯度和自适应提升论文的列表，并具有实施方式。
  • [清单]真棒森林[ ️非活性]
    • 有关基于树的方法等的精心策划资源清单，包括但不限于随机森林，行李和增强。
  • [列表]很棒的合奏学习[ ️非活性]
    • 书籍，论文，课程，教程，图书馆，数据集。

• 实践

  • [库] XGBoost
    • 可扩展，便携式和分布式梯度提升（GBDT，GBRT或GBM）库。
  • [库] LightGBM
    • 快速，分布式，高性能梯度提升（GBT，GBDT，GBRT，GBM或MART）框架。
  • [库] catboost
    • 决策树库上的快速，可扩展，高性能梯度提升。
  • [图书馆] Mlens
    • 高性能合奏学习的Python库。
  • [库]组合
    • 用于机器学习模型组合的Python工具箱，
  • [图书馆]不平衡 - 填充（英语和中文）
    • 类别不平衡/长尾机器学习| python中的类不平衡/长尾合奏学习

机器学习可解释性与公平与道德规范

AI中的解释性

• 一般的

  • [列表]很棒的机器学习可解释性
    • 精选的机器学习可解释性资源的列表。
  • [列表]很棒的可解释的AI
    • 该存储库包含有关可解释AI（XAI）的前沿研究，这是一个热门话题。
  • [列表]机器学习解释性
    • H2O.AI机器学习解释性资源。
  • [列表] aveake_deep_learning_interpretability（中文） [ ️非活性]
    • 深度学习近年来关于模型解释性的相关论文。

• 子主题

  • [列表]很棒的可解释图推理
    • 与图形机学习中解释性有关的研究论文和软件的集合。
  • [列表]对抗性可解释的AI
    • 对模型解释和评估方法的对抗性攻击。

• 实践

  • [教程]可解释的ML书籍
    • 关于可解释的机器学习的书。
  • [教程]解释性_machine_learning_with_python
    • 培训可解释的ML模型，解释ML模型的技术示例，并调试ML模型，以进行准确，歧视和安全性。

人工智能的公平性

• 一般的

  • [清单] Fairai
    • 这是与公平性有关的论文和其他资源的集合。
  • [列表] AI中的真棒公平性[ ️非活性]
    • AI资源中令人敬畏的公平性清单列出了一个策划但可能有偏见和不完整的。

• 子主题

  • [列表]很棒的NLP公平论文
    • 关于NLP公平性的论文。

• 实践

  • [教程] fairness_tutorial
    • 处理数据科学系统中的偏见和公平性：实用的动手教程。
  • [图书馆] ml-fairness-gym [ ️非活性]
    • 一组用于构建简单模拟的组件，这些组件探讨了在社交环境中部署基于机器学习的决策系统的潜在长期影响。

人工智能伦理

• 一般的

  • [列表] crialityml [ ️非活性]
    • 迈向道德，透明和公平的AI/ML：工程师，设计师和政策制定者的关键阅读清单。
  • [列表]机器学习道德参考[ ️非活性]
    • 有关机器学习和数据科学歧视，偏见，道德的参考。

• 子主题

  • [清单]很棒的私人**
    • 迈向道德，透明和公平的AI/ML：工程师，设计师和政策制定者的关键阅读清单。

跨学科：机器学习 + x

系统（MLSYS/SYSML）

• [列表]机器学习的很棒的系统
  • 机器学习系统中的研究清单。
• [教程]机器学习系统设计模式
  • 用于生产机器学习系统的培训，服务和操作的系统设计模式。
• [注意] CS-音（中文）
  • mlsys和c ++自学笔记，以及算法、操作系统，后续学习分布式系统，终身更新。，终身更新。
• [注意] hack-sysml（中文）
  • 关于学习和练习SYSML的注释。
• [列表] sysml阅读列表[ ️非活性]
  • 在机器学习与系统交集中进行工作的计算机科学研究清单。
• [教程]潜水 - ininto-ml系统（中文） [ ️非活性]
  • 潜入机器学习系统，从重新发明车轮开始。
• [列表]快速可扩展的机器学习：算法和系统[ ️非活性]
  • 这是有关机器学习和系统最近进展的论文集合，包括分布式机器学习，深度学习和等。

数据库（AIDB/ML4DB）

• [列表] ML4DB-PAPE-LIST（英语和中文）
  • [纸张列表] AIDB / ML4DB /自治数据库 /自动驾驶数据库

软件工程（MLONCODE）

• [列表]源代码上的机器学习（网站）
  • 源代码的机器学习研究。
• [列表]很棒的机器 - 源源代码[ ️非活性]
  • 与源代码（MLONCODE）应用的机器学习有关的酷链接和研究论文。

网络安全

• [列表]很棒的网络安全机器学习
  • 精心策划的令人惊叹的工具和资源列表，与使用机器学习进行网络安全有关。
• [列表]很棒的环保数据
  • 精心策划的令人惊叹的网络安全数据集的列表。
• [列表]用于网络安全的机器学习[ ️非活性]
  • 精心策划的令人惊叹的工具和资源列表，与使用机器学习进行网络安全有关。
• [列表] AI安全[ ️非活性]
  • 有关IDS机器学习的纸质清单。

量子计算

• [列表]很棒的网络安全机器学习
  • 量子机学习领域（机器学习算法在量子设备上运行的机器学习算法）中很棒的论文和凉爽资源的列表。它不包括将经典ML算法用于量子目的。

医疗保健

• [列表] Healthcare_ml
  • 将机器学习应用于医疗保健的相关资源。
• [清单，练习]很棒的中国医疗NLP（中文）
  • 中文医学nlp公开资源整理
• [列表]很棒的医学成像[ ️非活性]
  • 这是我用来在医学成像中进行研究的很棒的软件列表。

生物信息学

• [列表]很棒的生物信息学
  • 精心策划的很棒的生物信息学软件，资源和库的列表。
• [列表]很棒的生物信息学基准
  • 精心策划的生物信息学基准论文和资源清单。
• [教程]生物信息学
  • 在生物信息学（主要是课程）中免费自学教育的途径。
• [代码收集] biocode
  • 这是许多生物信息学脚本的集合，许多人发现有用和代码模块，这些模块使编写新版本速度更快。

生物学与化学

• [列表]深度学习生物学
  • 这是生物学深度学习方法的实施列表。
• [清单]很棒的python化学
  • 精心策划的与化学相关的精彩Python框架，库，软件和资源的清单。
• [列表]化学和生物学图的深度学习
  • 关于化学和生物学图表深度学习的纸质清单。
• [列表]很棒的deepbio [ ️非活性]
  • 在计算生物学领域的精选深度学习应用程序的精心策划清单

财务与贸易

• [库] Qlib
  • Qlib是一个面向AI的定量投资平台，旨在实现潜力，增强研究的能力，并创造AI技术在定量投资中的价值。
• [清单，实践]金融机器学习
  • 策划的实用金融机器学习（FINML）工具和应用程序的清单。
• [清单]金融中的真棒
  • 人们用来击败市场的研究，工具和代码。
• [列表]很棒的财务NLP
  • 金融领域的自然语言处理研究。

商业

• [列表，练习]商业机器学习
  • 精选的应用商业机器学习（BML）和业务数据科学（BDS）示例和库的列表。

法律

• [列表]关于法律情报的必读论文
  • 法律人工智能的论文和数据集。
• [清单，练习]法律文本分析
  • 用于法律文本分析的资源，方法和工具。

机器学习数据集

• [数据集]很棒的公共数据集
  • 这份以主题为中心的公共数据源的列表高质量。
• [数据集] NLP数据集
  • 免费/公共域数据集的字母顺序列表，其中包含文本数据，用于NLP。
• [数据集]很棒的数据集工具
  • 精心策划的很棒的数据集工具列表。
• [数据集]很棒的时间序列数据库
  • 时间序列数据库的精选列表。
• [数据集]很棒的cybersecurity-dataset
  • 精心策划的令人惊叹的网络安全数据集的列表。
• [数据集]很棒的机器人数据集
  • 机器人数据集收集。

生产机器学习

开源库

• [列表，图书馆]很棒的机器学习
  • 精选的机器学习框架，库和软件（按语言）的精选列表。
• [列表，图书馆]很棒的生产机器学习
  • 该存储库包含一个精心策划的开源库的列表，这些库将帮助您部署，监视，版本，扩展和保护生产机器学习

大数据框架

• [清单，练习]很棒的大数据
  • 精选的大数据框架，资源和其他令人敬畏的列表。

致谢

• ？感谢您抽出宝贵的时间阅读，如果您喜欢这个项目，请留下明星！ ？
• 如果您发现任何不正确/不适当/过时的内容，请考虑打开问题/PR。
• ？我们将非常感谢您对此列表的贡献！ ？

贡献者

感谢这些优秀的人（表情符号键）：

刘志宁 ？ ？

Yueliu1999 ？

金·哈玛（Kim Hammar） ？

亚当·纳罗兹尼克（Adam Narozniak） ？

该项目遵循所有贡献者规范。欢迎任何形式的贡献！