ลงมือสร้างภาษาธรรมชาติและ GPT

พื้นที่เก็บข้อมูลนี้มีโค้ดสำหรับ O'Reilly Live Online Training for Hands on Natural Language Generation และ GPT

การฝึกอบรมนี้จะมุ่งเน้นไปที่วิธีการใช้แบบจำลองตระกูล GPT สำหรับงาน NLP รวมถึงการสรุปข้อความเชิงนามธรรมและการสร้างภาษาธรรมชาติ การฝึกอบรมจะเริ่มต้นด้วยการแนะนำแนวคิดที่จำเป็น รวมถึงความสนใจในตนเองแบบสวมหน้ากาก แบบจำลองภาษา และหม้อแปลงไฟฟ้า จากนั้นต่อยอดแนวคิดเหล่านั้นเพื่อแนะนำสถาปัตยกรรม GPT จากนั้น เราจะมาดูวิธีการใช้ GPT สำหรับงานการประมวลผลภาษาธรรมชาติหลายๆ ภาษา พร้อมตัวอย่างการใช้งานจริงของโมเดล GPT-2 ที่ได้รับการฝึกล่วงหน้า รวมถึงการปรับแต่งโมเดลเหล่านี้อย่างละเอียดใน Corpora ที่กำหนดเอง

โมเดล GPT คือสถาปัตยกรรม NLP บางส่วนที่เกี่ยวข้องมากที่สุดในปัจจุบัน และมีความเกี่ยวข้องอย่างใกล้ชิดกับโมเดลการเรียนรู้เชิงลึก NLP ที่สำคัญอื่นๆ เช่น BERT ทั้งสองโมเดลนี้ได้มาจากสถาปัตยกรรมหม้อแปลงไฟฟ้าที่ประดิษฐ์ขึ้นใหม่และแสดงถึงจุดเปลี่ยนในวิธีที่เครื่องจักรประมวลผลภาษาและบริบท

ชุดการฝึกอบรมออนไลน์การประมวลผลภาษาธรรมชาติด้วยสถาปัตยกรรมหม้อแปลงยุคหน้าให้ภาพรวมที่ครอบคลุมของแบบจำลองการประมวลผลภาษาธรรมชาติ (NLP) ที่ล้ำสมัย รวมถึง GPT และ BERT ซึ่งได้มาจากสถาปัตยกรรมหม้อแปลงที่ขับเคลื่อนด้วยความสนใจสมัยใหม่และ แอพพลิเคชั่นเหล่านี้ถูกนำมาใช้ในการแก้ปัญหาในปัจจุบัน การฝึกอบรมทั้งหมดในซีรีส์นี้ผสมผสานทฤษฎีและการประยุกต์ผ่านการผสมผสานระหว่างคำอธิบายทางคณิตศาสตร์ด้วยภาพ ตัวอย่าง Python ที่ใช้งานได้ตรงไปตรงมาในการสาธิตสมุดบันทึก Jupyter แบบลงมือปฏิบัติจริง และกรณีศึกษาที่ครอบคลุมซึ่งมีปัญหาสมัยใหม่ที่แก้ไขได้ด้วยแบบจำลอง NLP

โน๊ตบุ๊ค

ความรู้เบื้องต้นเกี่ยวกับ GPT2

การกลืนกินคลังข้อมูลใหม่

การเรียนรู้แบบหลายงานด้วย GPT2

โน๊ตบุ๊คดอลลี่ไลท์

ลิงก์ไปยังบล็อกต้นฉบับ: ที่นี่

พร้อมวิศวกรรม 101

โมเดล GPT ที่ได้รับการปรับแต่งโดยบุคคลที่สามเพิ่มเติม

อาจารย์ผู้สอน

Sinan Ozdemir เป็นผู้ก่อตั้งและ CTO ของ LoopGenius โดยที่เขาใช้ AI อันล้ำสมัยเพื่อช่วยให้ผู้คนสร้างและดำเนินธุรกิจของตน Sinan เป็นอดีตอาจารย์ด้าน Data Science ที่ Johns Hopkins University และเป็นผู้เขียนหนังสือเรียนเกี่ยวกับวิทยาศาสตร์ข้อมูลและการเรียนรู้ของเครื่องหลายเล่ม นอกจากนี้ เขาเป็นผู้ก่อตั้ง Kylie.ai ซึ่งเป็นแพลตฟอร์ม AI การสนทนาระดับองค์กรที่มีความสามารถ RPA ที่เพิ่งได้มา เขาสำเร็จการศึกษาระดับปริญญาโทสาขาคณิตศาสตร์บริสุทธิ์จากมหาวิทยาลัยจอห์น ฮอปกินส์ และประจำอยู่ในซานฟรานซิสโก รัฐแคลิฟอร์เนีย

ขยาย

ข้อมูลเพิ่มเติม