Startup Pipeshift ได้เปิดตัวแพลตฟอร์มแบบ end-to-end ใหม่ที่ออกแบบมาเพื่อช่วยให้องค์กรฝึกอบรมปรับใช้และปรับขนาดโมเดล AI โอเพนซอร์สที่มีประสิทธิภาพมากขึ้น แพลตฟอร์มนี้เข้ากันได้กับสภาพแวดล้อมคลาวด์ที่หลากหลายและ GPU ในสถานที่ปรับปรุงความเร็วการอนุมานอย่างมีนัยสำคัญและลดต้นทุนการแก้ปัญหาการสลับอย่างมีประสิทธิภาพระหว่างหลายรุ่นโดยองค์กร มันใช้เฟรมเวิร์กเอ็นจิ้นการอนุมานแบบแยกส่วนซึ่งช่วยให้การผสมผสานที่ยืดหยุ่นของส่วนประกอบการอนุมานที่แตกต่างกันเพื่อเพิ่มประสิทธิภาพการอนุมานโดยไม่ต้องทำงานด้านวิศวกรรมที่น่าเบื่อ นี่เป็นประโยชน์อย่างมากสำหรับองค์กรที่ต้องเผชิญกับความท้าทายในการปรับใช้และจัดการโมเดล AI
เมื่อเร็ว ๆ นี้ PIPESHIFT เริ่มต้นเปิดตัวแพลตฟอร์มแบบ end-to-end ใหม่ที่ออกแบบมาเพื่อช่วยให้องค์กรฝึกอบรมปรับใช้และปรับขนาดโมเดล AI โอเพนซอร์สที่มีประสิทธิภาพมากขึ้น แพลตฟอร์มไม่เพียง แต่ทำงานบนสภาพแวดล้อมคลาวด์หรือ GPU ในสถานที่เท่านั้น แต่ยังช่วยเพิ่มความเร็วในการอนุมานและลดต้นทุนอย่างมีนัยสำคัญ
ด้วยการพัฒนาอย่างรวดเร็วของเทคโนโลยี AI ทำให้หลาย บริษัท กำลังเผชิญกับความท้าทายในการสลับระหว่างหลายรุ่นอย่างมีประสิทธิภาพ ตามเนื้อผ้าทีมจำเป็นต้องสร้างระบบ MLOPS ที่ซับซ้อนซึ่งเกี่ยวข้องกับการเชื่อมโยงหลายอย่างเช่นการได้มาซึ่งทรัพยากรการคำนวณการฝึกอบรมแบบจำลองการปรับแต่งและการปรับใช้ระดับการผลิต เพื่อการจัดการโครงสร้างพื้นฐาน
Arko Chattopadhyay ผู้ร่วมก่อตั้งและซีอีโอของ Pipeshift ตั้งข้อสังเกตว่าการพัฒนาเครื่องยนต์ให้เหตุผลที่ยืดหยุ่นและเป็นแบบแยกส่วนมักจะใช้เวลาหลายปีและโซลูชั่นของ Pipeshift ได้รับการออกแบบมาเพื่อทำให้กระบวนการนี้ง่ายขึ้น แพลตฟอร์มใช้กรอบการทำงานที่เรียกว่า Magic (GPU การอนุมานคลัสเตอร์สถาปัตยกรรมโมดูลาร์) ซึ่งช่วยให้ทีมสามารถรวมส่วนประกอบการอนุมานที่แตกต่างกันได้อย่างยืดหยุ่นตามข้อกำหนดของเวิร์กโหลดที่เฉพาะเจาะจง
ตัวอย่างเช่น บริษัท ค้าปลีก Fortune 500 หลังจากใช้แพลตฟอร์ม Pipeshift รวมสี่รุ่นที่ต้องการอินสแตนซ์ GPU อิสระสี่อินสแตนซ์เพื่อทำงานบนอินสแตนซ์ GPU เดียว ด้วยวิธีนี้ บริษัท ไม่เพียง แต่เพิ่มความเร็วในการใช้เหตุผลเพิ่มขึ้นห้าเท่าเท่านั้น แต่ยังลดต้นทุนโครงสร้างพื้นฐานลดลง 60% ความสำเร็จนี้ช่วยให้ บริษัท ต่างๆสามารถแข่งขันได้ในตลาดที่กำลังเติบโตอย่างรวดเร็ว
Pipeshift ได้บรรลุข้อตกลงการออกใบอนุญาตประจำปีกับ 30 บริษัท และวางแผนที่จะเปิดตัวเครื่องมือเพื่อช่วยให้ทีมสร้างและปรับขนาดชุดข้อมูลในอนาคต สิ่งนี้จะช่วยเร่งกระบวนการทดลองและการเตรียมข้อมูลและปรับปรุงประสิทธิภาพการทำงานของลูกค้า
ทางเข้าอย่างเป็นทางการ: https://pipeshift.com/
คะแนน:
เอ็นจิ้นการอนุมานแบบแยกส่วนของ Pipeshift สามารถลดการใช้ GPU ของการอนุมาน AI ได้อย่างมีนัยสำคัญและลดต้นทุนได้มากถึง 60%
ผ่านกรอบเวทมนตร์องค์กรสามารถรวมส่วนประกอบการอนุมานได้อย่างรวดเร็วปรับปรุงความเร็วการอนุมานและลดภาระทางวิศวกรรม
Pipeshift ได้ร่วมมือกับหลาย บริษัท และจะเปิดตัวเครื่องมือเพิ่มเติมในอนาคตเพื่อช่วยให้ บริษัท ต่างๆจัดการปริมาณงาน AI ได้อย่างมีประสิทธิภาพมากขึ้น
ด้วยคุณสมบัติที่มีประสิทธิภาพยืดหยุ่นและประหยัดค่าใช้จ่ายแพลตฟอร์ม Pipeshift ให้บริการโซลูชั่นที่มีประสิทธิภาพเพื่อลดความซับซ้อนของการปรับใช้และการจัดการของโมเดล AI ซึ่งคุ้มค่าที่จะให้ความสนใจ การพัฒนาในอนาคตและการเปิดตัวเครื่องมือใหม่ก็คุ้มค่าที่จะรอคอย