LM reasoning
1.0.0
พื้นที่เก็บข้อมูลนี้ประกอบด้วยคอลเลกชันของเอกสารและทรัพยากรเกี่ยวกับ การให้เหตุผลในโมเดลภาษาขนาดใหญ่
สำหรับรายละเอียดเพิ่มเติม โปรดดูที่ Towards Reasoning in Large Language Models: A Survey
โปรดแจ้งให้เราทราบเกี่ยวกับเอกสารที่ขาดหายไป (ปัญหาหรือคำขอดึง)
ผู้เขียน: เจี๋ยหวง @UIUC
ขอขอบคุณ Kevin Chen-Chuan Chang @UIUC, Jason Wei @Google Brain, Denny Zhou @Google Brain สำหรับการสนทนาและข้อเสนอแนะที่ลึกซึ้ง
เจีย ฮวง, เควิน เฉิน-ฉวน ชาง
เจสัน เหว่ย, ยี เทย์, ริชิ บอมมาซานี, โคลิน ราฟเฟล, บาร์เร็ต ซอฟ, เซบาสเตียน บอร์จัวด์, ดานี โยกาทามา, มาร์เทน บอสมา, เดนนี่ โจว, โดนัลด์ เมตซ์เลอร์, เอ็ด เอช. ชิ, ทัตสึโนริ ฮาชิโมโตะ, โอเรียล วินยาลส์, เพอร์ซี เหลียง, เจฟฟ์ ดีน, วิลเลียม เฟดัส
เดวิด โดฮาน, วินนี่ ซู, ไอตอร์ ลิวโควีซ, เจค็อบ ออสติน, เดวิด บีเบอร์, ราฟาเอล กอนติโจ โลเปส, ยูฮวย วู, เฮนรีค มิชาเลฟสกี้, ริฟ เอ. ซอรัส, จาสชา โซห์ล-ดิกสไตน์, เควิน เมอร์ฟี่, ชาร์ลส ซัตตัน
เหยาฟู่ ห่าวเป็ง ทูชาร์ช็อต
ซัวเฟย เฉียว, ยี่ซิน โอว, จางหนิงหยู่, เซียง เฉิน, หยุนจือ เหยา, ชูหมินเติ้ง, ฉวนฉี ตัน, เฟย ฮวง, ฮวาจุน เฉิน
ปันหลู่, เหลียงชิว, เหวินห่าวหยู, ฌอน เวลเลค, ไค-เว่ยฉาง
ชิงซิ่วตง, เล่ย ลี่, ต้าไม ได, เซ เจิ้ง, จือหยง อู๋, เป่าเปา ฉาง, ซู ซุน, จิงจิง ซู, เล่ย ลี่, จือฟาง ซุย
จงลิน หยาง, ซินหยา ตู้, รุ่ย เหมา, จินเจี๋ย หนี่, เอริค แคมเบรีย
เฟย หยู่, หงโป จาง, เปินโหยว หวาง
เราเน้นไปที่เทคนิคที่นำไปประยุกต์ใช้ในการปรับปรุงหรือกระตุ้น "การใช้เหตุผล" เป็นหลักในโมเดลภาษา ขนาดใหญ่ เช่น GPT-3 (175B)
เอกสารในกระบวนทัศน์นี้มีความแตกต่างกันอย่างมาก และมักจะอิงตามโมเดล ขนาดเล็ก ที่ได้รับการฝึกอบรมเกี่ยวกับชุดข้อมูลเฉพาะ เราแสดงรายการเอกสารหลายฉบับที่นี่เพื่อใช้อ้างอิง (นั่นคือ รายการไม่สมบูรณ์) โปรดดูแบบสำรวจของเราสำหรับการสนทนา
นาซนีน ฟาเตมา ราจานี, ไบรอัน แม็กแคนน์, ไคหมิง ซิออง, ริชาร์ด โซเชอร์
อลอน ทัลมอร์, ออยวินด์ ทาฟจอร์ด, ปีเตอร์ คลาร์ก, โยอาฟ โกลด์เบิร์ก, โจนาธาน เบแรนท์
แดน เฮนดริกส์, คอลลิน เบิร์นส์, ซอราฟ คาดาวาธ, อกุล อาโรรา, สตีเวน บาซาร์, เอริค แทง, Dawn Song, เจค็อบ สไตน์ฮาร์ด
แม็กซ์เวลล์ ไนย์, อันเดอร์ส โยฮัน แอนเดรียสเซ่น, กาย กูร์-อารี, เฮนรีค มิชาเลฟสกี้, เจค็อบ ออสติน, เดวิด บีเบอร์, เดวิด โดฮาน, ไอตอร์ ลิวโควีซ, มาร์เทน บอสมา, เดวิด ลวน, ชาร์ลส์ ซัตตัน, ออกัสตัส โอเดน่า
โซเมีย ซันยาล, ฮาร์มาน ซิงห์, เซียง เหริน
เจสัน เหว่ย, ซู่จือ หวาง, เดล ชูร์มานส์, มาร์เทน บอสมา, ไบรอัน อิชเตอร์, เฟย เซีย, เอ็ด ชี, ก๊วก เลอ, เดนนี่ โจว
ป๋อซือหวาง, เซียงเติ้ง, เฮือนซุน
ทาเคชิ โคจิมะ, ชิเซียง เชน กู, มาเชล รีด, ยูทากะ มัตสึโอะ, ยูสุเกะ อิวาซาวะ
เบน พริสตอว์สกี้, พอล ธิโบโด, โนอาห์ กู๊ดแมน
เฟรดา ชิ, มิรัค ซุซกุน, มาร์คุส ไฟรแทก, ซู่จือ หวาง, ซูราช ศรีวาตส์, โซรุช โวซูฮี, ฮยอง วอน ชุง, ยี่ ไตย์, เซบาสเตียน รูเดอร์, เดนนี่ โจว, ดิปันจัน ดาส, เจสัน เว่ย
เหวินหู เฉิน
อามาน มาดาน, ชูหยาน โจว, อูริ อาลอน, ยี่หมิง หยาง, เกรแฮม นอยบิก
หลู่ยู่ เกา*, อามาน มาดาน*, ชูหยาน โจว*, อูริ อาลอน, เผิงเฟย หลิว, ยี่หมิง หยาง, เจมี คัลลัน, เกรแฮม นอยบิก
เหวินหู เฉิน, เสวี่ยกวง หม่า, ซินยี่ หวาง, วิลเลียม ดับเบิลยู. โคเฮน
ฮั่นเฟิงเหอ, หงหมิงจาง, แดนรอธ
คาร์ล ค็อบบ์, วีเน็ต โคซาราจู, โมฮัมหมัด บาวาเรียน, มาร์ค เฉิน, ฮีวู จุน, ลูคาสซ์ ไคเซอร์, แมทเธียส พลาเพิร์ต, เจอร์รี่ ทูเรค, เจค็อบ ฮิลตัน, เรอิจิโร นากาโนะ, คริสโตเฟอร์ เฮสส์, จอห์น ชูลแมน
ซือจือ หวาง, เจสัน เหว่ย, เดล ชูร์มานส์, ก๊วก เลอ, เอ็ด ชี, ชารัน นารัง, อาคังชา เชาเดรี, เดนนี่ โจว
ยี่เฟย ลี, เจ๋อฉี หลิน, จางฉือจู๋, เฉียงฟู่, เป่ย เฉิน, เจี้ยนกวงโหลว, เว่ยจู้ เฉิน
เหยาฟู่, ห่าวเผิง, อาชิช ซาบาวาล, ปีเตอร์ คลาร์ก, ทูชาร์ ค็อต
โจวเฉิง จาง, แอสตัน จาง, มู่ลี่, อเล็กซ์ สโมลา
แฮตตี้ โจว, อาซาด โนวา, ฮูโก้ ลาโรเชล, อารอน คูร์วิลล์, เบห์นัม เนย์ชาเบอร์, ฮานี่ เซดกี้
ยี่ซวน เวง, มินจุน จู้, ชิจู้ เหอ, คัง หลิว, จุน จ้าว
เดนนี่ โจว, นาธานาเอล แชร์ลี, เลอ ฮาว, เจสัน เว่ย, นาธาน สเกลส์, เสวี่ยจือ หวาง, เดล ชูร์มานส์, แคลร์ ชุย, โอลิวิเยร์ บูสเกต์, ก๊วก เลอ, เอ็ด ชี
แอนดรูว์ ดรอซดอฟ, นาธานาเอล เชอร์ลี, เอคิน อาคิวเรค, นาธาน สเกลส์, ซินหยิง ซ่ง, ซินหยุน เฉิน, โอลิวิเยร์ บูสเกต์, เดนนี่ โจว
ทูชาร์ ค็อต, ฮาร์ช ทริเวดี, แมทธิว ฟินเลย์สัน, เหยา ฟู, ไคล์ ริชาร์ดสัน, ปีเตอร์ คลาร์ก, อาชิช ซับฮาร์วาล
Ofir Press, มูรู จาง, เซวอน มิน, ลุดวิก ชมิดต์, โนอาห์ เอ. สมิธ, ไมค์ ลูอิส
ดีรู ดูอา, ชิวานชู กุปตะ, ซาเมียร์ ซิงห์, แมตต์ การ์ดเนอร์
หยุนหู เย่, ปินหยวน ฮุย, มิน หยาง, ปินฮัว ลี่, เฟย ฮวง, หยงปิน ลี่
เหวินหลง ฮวง, ปีเตอร์ แอบบีล, ดีพัค พาทัก, อิกอร์ มอร์แดทช์
อันโทเนีย เครสเวลล์, เมอร์เรย์ ชานาฮาน, อิรินา ฮิกกินส์
แจฮุน จุง, เหลียนฮุย ฉิน, ฌอน เวลเลค, เฟซ พราหมณ์, จันทรา ภะคะวะตุลา, โรนัน เลอ บราส, เยจิน ชอย
แอนโทเนีย เครสเวลล์, เมอร์เรย์ ชานาฮาน
ปัน หลู, สวารุป มิชรา, โทนี่ เซีย, เหลียง ชิว, ไค-เว่ย ชาง, ซง-ชุน จู, ออยวินด์ ทาฟจอร์ด, ปีเตอร์ คลาร์ก, แอชวิน คาลยัน
ซือหยาง ลี, เจียนชู เฉิน, เย่หลง เซิน, จี้หยู เฉิน, ซินหลู่ จาง, ซีคุน หลี่, หง หวาง, จิงเฉียน, เป่าหลิน เผิง, ยี่ เหมา, เหวินหู เฉิน, ซีเฟิง หยาน
คูมาร์ ชริธาร์, อเลสซานโดร สโตลโฟ, มรินมายา ซาชาน
Lucie Charlotte Magister, Jonathan Mallinson, Jakub Adamek, Eric Malmi, Aliaksei Severyn
เซเยด เมห์ราน คาเซมิ, นาจุง คิม, ดีปตี บาเทีย, ซิน ซู, ดีพัค รามาจันดราน
ซือโบ ห่าว, ยี่กู่, เฮาตี้หม่า, โจชัว เจียหัว หง, เจิ้น หวาง, เดซี่ เจ้อ หวาง, จื้อถิง หู
ซินหยู่ ปี่, เฉียน หลิว, เป่ย เฉิน, มอร์เทซ่า ซิยาตี้, เจ๋อกี หลิน, เฉียงฟู่, เหยียนเกา, เจียนกวงโหลว, เว่ยจู้ เฉิน
ไอตอร์ ลิวโควีซ, อันเดอร์ส อันเดอร์สเซ่น, เดวิด โดฮาน, อีธาน ดายเออร์, เฮนรีค มิชาเลฟสกี้, วิเนย์ ราเมช, แอมโบรส สโลน, เซม อานิล, อิมานอล ชแลก, ธีโอ กุตมัน-โซโล, ยูฮัย วู, เบห์นัม เนย์ชาบูร์, กาย กูร์-อารี, เวดันท์ มิสรา
เซม อานิล, ยูฮวย วู, แอนเดอร์ส แอนเดอร์สเซน, ไอตอร์ ลิวโควีซ, เวดันท์ มิสรา, วิเนย์ ราเมช, แอมโบรส สโลน, กาย กูร์-อารี, อีธาน ดายเออร์, เบห์นัม เนย์ชาเบอร์
ฮยอน วอน ชุง, เลอ ฮาว, เชย์น ลองเปร, บาร์เร็ต ซอฟ, ยี เทย์, วิลเลียม เฟดุส, หยุนซวน ลี, ซู่จือ หวาง, มอสตาฟา เดห์กานี, สิทธัตถะ บราห์มา, อัลเบิร์ต เว็บสัน, ชิเซียง เชน กู, จูยัน ไต, มิรัค ซุซกุน, ซินหยุน เฉิน, อาคังชา เชาวรี, อเล็กซ์ คาสโตร-รอส, มารี เพลลัท, เควิน โรบินสัน, ดาชา วัลเตอร์, ชารัน นารัง, เการาฟ มิชรา, อดัมส์ หยู, วินเซนต์ จ้าว, หยานผิง ฮวง, แอนดรูว์ ได, หงคุน หยู, สลาฟ เปตรอฟ, เอ็ด เอช. ชี, เจฟฟ์ ดีน, เจค็อบ เดฟลิน, อดัม โรเบิร์ตส์, เดนนี่ โจว, ก๊วก วี. เลอ, เจสัน เหว่ย
รอสส์ เทย์เลอร์, มาร์ซิน คาร์ดาส, กีเลม คูคุรัลล์, โธมัส สเชียลอม, แอนโทนี่ ฮาร์ทชอร์น, เอลวิส ซาราเวีย, แอนดรูว์ โพลตัน, วิคเตอร์ เคอร์เคซ, โรเบิร์ต สโตยนิค
ปิง หยู่, เทียนลู่ หวาง, โอลก้า โกลอฟเนวา, บาดร์ อัลคามิสซี, การ์กี กอช, โมนา ดิอับ, อัสลี เซลิคิลมาซ
เอริก เซลิกแมน, อวี้ฮวย วู, เจสซี มู, โนอาห์ ดี. กู๊ดแมน
แพทริค ฮาลัพโซค, แมทธิว โบเวอร์ส, อดัม เทามาน คาไล
เจียซิน ฮวง, ชิเซียง เชน กู่, เลอโหว, เยว่ซิน วู, เสวี่ยจือ หวาง, หงคุน หยู, เจียเว่ย ฮั่น
อาร์คิล ปาเทล, สัตวิก ภัตตามิชรา, นาวิน โกยัล
ยาซามาน ราเซกี, โรเบิร์ต แอล. โลแกนที่ 4, แมตต์ การ์ดเนอร์, ซาเมียร์ ซิงห์
เจีย ฮวง, ฮันหยิน เฉา, เควิน เฉิน-ฉวน ชาง
คาร์ทิค วัลมีกัม, อัลเบอร์โต โอลโม, ซารัธ ศรีธารัน, ซับบาเรา กัมภมปติ
เซม อานิล, ยูฮวย วู, แอนเดอร์ส แอนเดอร์สเซน, ไอตอร์ ลิวโควีซ, เวดันท์ มิสรา, วิเนย์ ราเมช, แอมโบรส สโลน, กาย กูร์-อารี, อีธาน ดายเออร์, เบห์นัม เนย์ชาเบอร์
อิชิตา ดาสกุปต้า, แอนดรูว์ เค. แลมพิเนน, สเตฟานี ไซ ชาน, อันโตเนีย เครสเวลล์, ดาร์ชาน คูมารัน, เจมส์ แอล. แมคคลีแลนด์, เฟลิกซ์ ฮิลล์
ซิเมง ฮัน, เฮลีย์ โชเอลคอปฟ์, ยี่หลุน จ้าว, เจิ้นถิง ฉี, มาร์ติน ริดเดลล์, ลุค เบนสัน, ลูซี่ ซัน, เอคาเทรินา ซูโบวา, ยู่เจี๋ย เฉียว, แมทธิว เบอร์เทลล์, เดวิด เผิง, โจนาธาน ฟาน, ยี่ซิน หลิว, ไบรอัน หว่อง, มัลคอล์ม เซเลอร์, อันซง หนี่, ลินหยง หนาน , จุงโก คาไซ, เทา หยู, รุย จาง, ชาฟิค โจตี้, อเล็กซานเดอร์ อาร์ ฟาบบรี, วอจเซียค คริสซินสกี้, ซี วิกตอเรีย ลิน, ไคหมิง ซง, ดราโกเมียร์ ราเดฟ
อบุลแฮร์ ซาปารอฟ, ฮิฮิ
มิรัค ซุซกุน, นาธาน สเกลส์, นาธานาเอล เชอร์ลี, เซบาสเตียน เกห์มานน์, ยี เทย์, ฮยอง วอน ชุง, อาคังชา เชาเดอรี, ก๊วก วี. เลอ, เอ็ด เอช. ชิ, เดนนี่ โจว, เจสัน เหว่ย
ลอร่า รุยส์, อัคบีร์ ข่าน, สเตลลา ไบเดอร์แมน, ซารา ฮุกเกอร์, ทิม ร็อคเทสเชล, เอ็ดเวิร์ด เกรเฟนสเต็ตต์
โอลก้า โกลอฟเนวา, โมยา เฉิน, สเปนเซอร์ ปอฟฟ์, มาร์ติน คอร์เรดอร์, ลุค เซตเทิลมอยเออร์, มารียัม ฟาเซล-ซารานดี้, อัสลี เซลิคิลมาซ
โบชี หวาง, เซวอน มิน, เซียง เติ้ง, เจียหมิง เสิน, โหยว วู, ลุค เซตเทิลมอยเออร์, ฮวน ซุน
หากคุณพบว่า repo นี้มีประโยชน์ โปรดอ้างอิงแบบสำรวจของเรา:
@article{huang2022towards,
title={Towards Reasoning in Large Language Models: A Survey},
author={Huang, Jie and Chang, Kevin Chen-Chuan},
journal={arXiv preprint arXiv:2212.10403},
year={2022}
}
