oreilly hands on transformers

使用 Transformer 實作 NLP

此儲存庫包含 O'Reilly Live Online Training for Hands on NLP with Transformers 的程式碼

本次培訓將介紹新穎的 Transformer 架構，該架構目前被認為是現代 NLP 任務的最先進技術。我們將深入探討 Transformer 處理自然語言（包括注意力和編碼器-解碼器架構）能力的獨特之處。我們將看到幾個例子，說明人們和公司如何使用 Transformer 來解決各種 NLP 任務，包括對話保持、圖像字幕、閱讀理解等。

本訓練將介紹幾個 Transformer 派生架構的程式碼驅動範例，包括 BERT、GPT、T5 和 Vision Transformer。我們的每個案例研究都將受到真實用例的啟發，並將依靠遷移學習來加快我們的流程，同時使用可行的指標來推動結果。

筆記型電腦

1. BERT－法學碩士的開端
   • BERT簡介
   • 使用 BERT 與 ChatGPT 進行分類
     • 在 Colab 中打開
2. XLNET - 進一步推動自動編碼模型
   • 使用 XLNET 進行分類
3. T5－教學調整的開始
   • 帶有 T5 的現成 NLP
4. GPT - 法學碩士如何學會說話
   • GPT簡介
   • 使用 GPT2 產生 LaTeX
     • 在 Colab 中打開
5. 多模式法學碩士
   • 使用 Vision Transformer 進行影像字幕
     • 在 Colab 中打開

講師

Sinan Ozdemir是 LoopGenius 的創始人兼首席技術官，他使用最先進的人工智慧來幫助人們創建和經營自己的業務。他曾在約翰霍普金斯大學教授數據科學，並撰寫了多本關於數據科學、機器學習和生成人工智慧的書籍、影片和大量線上課程。他還創立了最近被收購的 Kylie.ai，這是一個具有 RPA 功能的企業級對話人工智慧平台。 Sinan 最近發布了大型語言模型快速指南，並推出了播客音訊系列《AI Unveiled》。 Ozdemir 擁有約翰霍普金斯大學純數學碩士學位。