บรรณาธิการของ Downcodes ได้เรียนรู้ว่า Groq เพิ่งเปิดตัวกลไก LLM ที่น่าทึ่ง ซึ่งมีความเร็วในการประมวลผลเกินความคาดหมายของอุตสาหกรรม ทำให้นักพัฒนาได้รับประสบการณ์โต้ตอบแบบจำลองภาษาขนาดใหญ่อย่างที่ไม่เคยมีมาก่อน เอ็นจิ้นนี้ใช้ LLama3-8b-8192LLM แบบโอเพ่นซอร์สของ Meta และรองรับรุ่นอื่น ๆ ความเร็วในการประมวลผลสูงถึง 1256.54 เครื่องหมายต่อวินาที ซึ่งเหนือกว่าชิป GPU จากบริษัทอย่าง Nvidia อย่างมาก การพัฒนาที่ก้าวหน้านี้ไม่เพียงแต่ดึงดูดความสนใจอย่างกว้างขวางจากนักพัฒนาเท่านั้น แต่ยังนำประสบการณ์การใช้งานแอปพลิเคชัน LLM ที่รวดเร็วและยืดหยุ่นมากขึ้นมาสู่ผู้ใช้ทั่วไปอีกด้วย
เมื่อเร็วๆ นี้ Groq ได้เปิดตัวกลไก LLM ที่รวดเร็วปานสายฟ้าบนเว็บไซต์ ช่วยให้นักพัฒนาสามารถสืบค้นและดำเนินการงานในโมเดลภาษาขนาดใหญ่ได้โดยตรง
เอ็นจิ้นนี้ใช้โอเพ่นซอร์ส LLama3-8b-8192LLM ของ Meta รองรับรุ่นอื่นๆ ตามค่าเริ่มต้น และรวดเร็วอย่างน่าทึ่ง จากผลการทดสอบ เครื่องยนต์ของ Groq สามารถรองรับ 1,256.54 เครื่องหมายต่อวินาที ซึ่งเหนือกว่าชิป GPU จากบริษัทอย่าง Nvidia มาก การเคลื่อนไหวดังกล่าวดึงดูดความสนใจอย่างกว้างขวางทั้งจากนักพัฒนาและผู้ที่ไม่ใช่นักพัฒนา ซึ่งแสดงให้เห็นถึงความเร็วและความยืดหยุ่นของแชทบอท LLM
Jonathan Ross ซีอีโอของ Groq กล่าวว่าการใช้ LLM จะเพิ่มขึ้นอีก เนื่องจากผู้คนค้นพบว่าการใช้งานบนเครื่องมือที่รวดเร็วของ Groq นั้นง่ายเพียงใด จากการสาธิต ผู้คนจะเห็นว่างานต่างๆ สามารถสำเร็จได้อย่างง่ายดายด้วยความเร็วระดับนี้ เช่น การสร้างโฆษณารับสมัครงาน การแก้ไขเนื้อหาบทความ เป็นต้น เอ็นจิ้นของ Groq ยังสามารถดำเนินการสืบค้นตามคำสั่งเสียง ซึ่งแสดงให้เห็นถึงพลังและความเป็นมิตรต่อผู้ใช้
นอกเหนือจากการให้บริการปริมาณงาน LLM ฟรีแล้ว Groq ยังให้คอนโซลแก่นักพัฒนาที่ช่วยให้พวกเขาสลับแอปพลิเคชันที่สร้างบน OpenAI เป็น Groq ได้อย่างง่ายดาย
วิธีการเปลี่ยนอย่างง่ายนี้ดึงดูดนักพัฒนาจำนวนมาก และปัจจุบันมีผู้คนมากกว่า 280,000 คนใช้บริการของ Groq รอสส์ ซีอีโอกล่าวว่าภายในปีหน้า การคำนวณอนุมานมากกว่าครึ่งหนึ่งของโลกจะดำเนินการบนชิปของ Groq ซึ่งแสดงให้เห็นถึงศักยภาพและโอกาสของบริษัทในด้าน AI
ไฮไลท์:
Groq เปิดตัวเอ็นจิ้น LLM ที่รวดเร็วปานสายฟ้า ประมวลผล 1256.54 มาร์คต่อวินาที ซึ่งเร็วกว่าความเร็วของ GPU มาก
เอ็นจิ้นของ Groq แสดงให้เห็นถึงความเร็วและความยืดหยุ่นของแชทบอท LLM ซึ่งดึงดูดความสนใจของนักพัฒนาและผู้ที่ไม่ใช่นักพัฒนาเหมือนกัน
? Groq ให้บริการปริมาณงาน LLM ฟรีซึ่งมีนักพัฒนามากกว่า 280,000 ราย คาดว่าครึ่งหนึ่งของการคำนวณอนุมานทั่วโลกจะทำงานบนชิปของบริษัทในปีหน้า
ไม่ต้องสงสัยเลยว่ากลไก LLM ที่รวดเร็วของ Groq นำความเป็นไปได้ใหม่ๆ มาสู่วงการ AI อย่างไม่ต้องสงสัย และประสิทธิภาพสูงและใช้งานง่ายจะช่วยส่งเสริมการประยุกต์ใช้เทคโนโลยี LLM ในวงกว้างมากขึ้น บรรณาธิการของ Downcodes เชื่อว่าการพัฒนา Groq ในอนาคตคุ้มค่ากับการรอคอย!