oreilly hands on transformers

使用 Transformer 实践 NLP

此存储库包含 O'Reilly Live Online Training for Hands on NLP with Transformers 的代码

本次培训将介绍新颖的 Transformer 架构，该架构目前被认为是现代 NLP 任务的最先进技术。我们将深入探讨 Transformer 处理自然语言（包括注意力和编码器-解码器架构）能力的独特之处。我们将看到几个例子，说明人们和公司如何使用 Transformer 来解决各种 NLP 任务，包括对话保持、图像字幕、阅读理解等。

本培训将介绍几个 Transformer 派生架构的代码驱动示例，包括 BERT、GPT、T5 和 Vision Transformer。我们的每个案例研究都将受到真实用例的启发，并将依靠迁移学习来加快我们的流程，同时使用可行的指标来推动结果。

笔记本电脑

1. BERT——法学硕士的开端
   • BERT简介
   • 使用 BERT 与 ChatGPT 进行分类
     • 在 Colab 中打开
2. XLNET - 进一步推动自动编码模型
   • 使用 XLNET 进行分类
3. T5——教学调整的开始
   • 带有 T5 的现成 NLP
4. GPT - 法学硕士如何学会说话
   • GPT简介
   • 使用 GPT2 生成 LaTeX
     • 在 Colab 中打开
5. 多模式法学硕士
   • 使用 Vision Transformer 进行图像字幕
     • 在 Colab 中打开

讲师

Sinan Ozdemir是 LoopGenius 的创始人兼首席技术官，他使用最先进的人工智能来帮助人们创建和经营自己的业务。他曾在约翰霍普金斯大学讲授数据科学，并撰写了多本关于数据科学、机器学习和生成人工智能的书籍、视频和大量在线课程。他还创立了最近被收购的 Kylie.ai，这是一个具有 RPA 功能的企业级对话人工智能平台。 Sinan 最近发布了大型语言模型快速指南，并推出了播客音频系列《AI Unveiled》。 Ozdemir 拥有约翰·霍普金斯大学纯数学硕士学位。