higress
v2.0.3
เว็บไซต์อย่างเป็นทางการ | . บล็อก | . แนวทางการ พัฒนา
อังกฤษ |. จีน |. ญี่ปุ่น
Higress เป็นเกตเวย์ API บนคลาวด์ แกนหลักนั้นใช้ Istio และ Envoy ปลั๊กอินสามารถเขียนด้วย Go/Rust/JS ฯลฯ และมีปลั๊กอินทั่วไปสำเร็จรูปหลายสิบรายการ เช่นเดียวกับ คอนโซลที่แกะกล่อง (สาธิตคลิกที่นี่)
Higress ถือกำเนิดขึ้นภายใน Alibaba เพื่อแก้ปัญหาความเสียหายของการโหลดซ้ำของ Tengine ต่อบริการที่มีการเชื่อมต่อระยะไกล และการขาดความสามารถในการปรับสมดุลโหลด gRPC/Dubbo
Alibaba Cloud ได้สร้างผลิตภัณฑ์เกตเวย์ API แบบเนทีฟบนคลาวด์โดยอิงจาก Higress ทำให้ลูกค้าองค์กรจำนวนมากได้รับความสามารถในการให้บริการที่รับประกันความพร้อมใช้งานสูงของเกตเวย์ 99.99%
Higress ขึ้นอยู่กับความสามารถของเกตเวย์ AI และสนับสนุนธุรกิจ AI เช่น แอป Tongyi Qianwen, Bailian โมเดลขนาดใหญ่ API และแพลตฟอร์ม PAI การเรียนรู้ของเครื่อง ในเวลาเดียวกัน เราให้บริการบริษัท AIGC ชั้นนำในประเทศ (เช่น Zero One Thousand Things) รวมถึงผลิตภัณฑ์ AI (เช่น FastGPT)
Higress ต้องการเพียง Docker ในการเริ่มต้น ซึ่งสะดวกสำหรับนักพัฒนาแต่ละรายในการสร้างและเรียนรู้ในพื้นที่ หรือสร้างไซต์แบบง่าย:
# 创建一个工作目录
mkdir higress ; cd higress
# 启动 higress，配置文件会写到工作目录下
docker run -d --rm --name higress-ai -v ${PWD} :/data
-p 8001:8001 -p 8080:8080 -p 8443:8443
higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latestคำอธิบายพอร์ตการฟังมีดังนี้:
อิมเมจ Docker ทั้งหมดของ Higress จะใช้คลังสินค้าเฉพาะของตัวเองมาโดยตลอด และไม่ได้รับผลกระทบจากการเข้าถึง Docker Hub ภายในประเทศแบบจำกัด
สำหรับวิธีการติดตั้งอื่นๆ เช่น การใช้งาน Helm ภายใต้ K8 โปรดดูเอกสาร Quick Start อย่างเป็นทางการ
หากคุณกำลังปรับใช้บนคลาวด์ ขอแนะนำให้ใช้เวอร์ชันองค์กรสำหรับสภาพแวดล้อมการใช้งานจริง สำหรับการพัฒนาและการทดสอบ คุณสามารถใช้เวอร์ชันชุมชนเพียงคลิกเดียวต่อไปนี้:
เกตเวย์ AI :
Higress สามารถใช้โปรโตคอลแบบรวมเพื่อเชื่อมต่อกับผู้ผลิตโมเดล LLM ในประเทศและต่างประเทศทั้งหมด และมีความสามารถในการสังเกต AI ที่หลากหลาย การปรับสมดุลโหลด/ทางเลือกสำรองหลายโมเดล การควบคุมโฟลว์โทเค็น AI การแคช AI และความสามารถอื่น ๆ:
เกตเวย์ทางเข้า Kubernetes :
Higress สามารถใช้เป็นเกตเวย์ทางเข้า Ingress สำหรับคลัสเตอร์ K8s และเข้ากันได้กับคำอธิบายประกอบ K8s Nginx Ingress จำนวนมาก ช่วยให้สามารถโยกย้ายจาก K8s Nginx Ingress ไปยัง Higress ได้อย่างรวดเร็วและราบรื่น
รองรับมาตรฐาน Gateway API และรองรับการโยกย้ายผู้ใช้จาก Ingress API ไปยัง Gateway API ได้อย่างราบรื่น
เมื่อเปรียบเทียบกับ ingress-nginx ค่าใช้จ่ายด้านทรัพยากรจะลดลงอย่างมาก และการเปลี่ยนแปลงเส้นทางจะมีผลเร็วขึ้นสิบเท่า:
ไมโครเซอร์วิสเกตเวย์ :
Higress สามารถทำหน้าที่เป็นไมโครเซอร์วิสเกตเวย์ และสามารถเชื่อมต่อกับศูนย์การลงทะเบียนหลายประเภทเพื่อค้นหาเส้นทางการกำหนดค่าบริการ เช่น Nacos, ZooKeeper, Consul, Eureka เป็นต้น
มีการผสานรวมอย่างลึกซึ้งกับสแต็กเทคโนโลยีไมโครเซอร์วิส เช่น Dubbo, Nacos และ Sentinel และอิงตามประสิทธิภาพที่ยอดเยี่ยมของคอร์เกตเวย์ Envoy C++ เมื่อเทียบกับไมโครเซอร์วิสเกตเวย์แบบเดิมที่ใช้ Java จะสามารถลดการใช้ทรัพยากรและลดต้นทุนได้อย่างมาก
เกตเวย์การป้องกันความปลอดภัย :
Higress สามารถทำหน้าที่เป็นเกตเวย์การป้องกันความปลอดภัย มอบความสามารถ WAF และรองรับกลยุทธ์การตรวจสอบสิทธิ์ที่หลากหลาย เช่น key-auth, hmac-auth, jwt-auth, basic-auth, oidc เป็นต้น
เกรดการผลิต
เกิดจากผลิตภัณฑ์ภายในของอาลีบาบาที่ผลิตและตรวจสอบมานานกว่าสองปี โดยรองรับสถานการณ์ขนาดใหญ่ที่มีคำขอหลายแสนคำขอต่อวินาที
กำจัดความกระวนกระวายใจของการรับส่งข้อมูลที่เกิดจากการรีโหลด Nginx โดยสมบูรณ์ การเปลี่ยนแปลงการกำหนดค่าจะมีผลในหน่วยมิลลิวินาที และธุรกิจจะไม่ได้รับผลกระทบ เป็นมิตรอย่างยิ่งกับสถานการณ์การเชื่อมต่อระยะยาว เช่น ธุรกิจ AI
สตรีมมิ่ง
ปลั๊กอิน Wasm สนับสนุนเนื้อหาคำขอ/การตอบกลับสตรีมมิ่งแบบเต็มอย่างแท้จริง โดยสามารถปรับแต่งการประมวลผลข้อความของโปรโตคอลการสตรีม เช่น SSE (เหตุการณ์ที่เซิร์ฟเวอร์ส่ง) ได้อย่างง่ายดาย
ในสถานการณ์ที่มีแบนด์วิธขนาดใหญ่ เช่น บริการ AI ค่าใช้จ่ายด้านหน่วยความจำจะลดลงอย่างมาก
ง่ายต่อการขยาย
มอบไลบรารีปลั๊กอินอย่างเป็นทางการที่สมบูรณ์ ครอบคลุมฟังก์ชันทั่วไป เช่น AI การจัดการการรับส่งข้อมูล การป้องกันความปลอดภัย ฯลฯ ซึ่งตอบสนองความต้องการของสถานการณ์ทางธุรกิจมากกว่า 90%
โดยมุ่งเน้นไปที่ส่วนขยายปลั๊กอิน Wasm รับประกันความปลอดภัยของหน่วยความจำผ่านการแยกแซนด์บ็อกซ์ รองรับภาษาการเขียนโปรแกรมหลายภาษา อนุญาตให้อัปเกรดเวอร์ชันปลั๊กอินอย่างอิสระ และบรรลุการอัปเดตลอจิกเกตเวย์ที่ไม่ต้องรับส่งข้อมูล
ปลอดภัยและใช้งานง่าย
ตามมาตรฐาน Ingress API และ Gateway API มีคอนโซล UI แบบสำเร็จรูป, ปลั๊กอินป้องกัน WAF และปลั๊กอินป้องกัน IP/Cookie CC
รองรับการเชื่อมต่อด้วย Let's Encrypt เพื่อออกและต่ออายุใบรับรองฟรีโดยอัตโนมัติ และสามารถใช้งานได้โดยไม่ต้องใช้ K8 สามารถเริ่มต้นด้วยคำสั่ง Docker หนึ่งบรรทัด ทำให้สะดวกสำหรับนักพัฒนาแต่ละรายในการใช้งาน
จาก OpenAI ไปสู่โมเดลขนาดใหญ่อื่นๆ การโยกย้ายจะเสร็จสิ้นภายใน 30 วินาที
ที่น่าสังเกตมากมาย
ให้ความสามารถในการสังเกตได้ทันทีที่แกะกล่อง Grafana & Prometheus สามารถใช้แบบบิวท์อินหรือเชื่อมต่อกับแบบที่สร้างขึ้นเองได้
กลไกส่วนขยายปลั๊กอิน
อย่างเป็นทางการมีปลั๊กอินที่หลากหลาย ผู้ใช้ยังสามารถพัฒนาปลั๊กอินของตนเอง สร้างลงในอิมเมจ docker/oci และกำหนดค่าบนคอนโซลได้ ตรรกะของปลั๊กอินสามารถเปลี่ยนแปลงได้แบบเรียลไทม์โดยไม่มีความเสียหายต่อ การจราจร.
การค้นพบบริการที่หลากหลาย
การค้นพบบริการของ K8 นั้นมีให้ตามค่าเริ่มต้น โดยสามารถเชื่อมต่อกับศูนย์การลงทะเบียน เช่น Nacos/ZooKeeper เพื่อค้นพบบริการ หรือสามารถค้นพบตาม IP แบบคงที่หรือ DNS ได้
ชื่อโดเมนและใบรับรอง
คุณสามารถสร้างและจัดการใบรับรอง TLS และกำหนดค่าลักษณะการทำงานของ HTTP/HTTPS ของชื่อโดเมนได้ นโยบายชื่อโดเมนรองรับปลั๊กอินที่มีผลกับชื่อโดเมนที่ระบุ
ความสามารถในการกำหนดเส้นทางที่หลากหลาย
ด้วยกลไกการค้นพบบริการที่กำหนดไว้ข้างต้น บริการที่ค้นพบจะปรากฏในรายการบริการ เมื่อสร้างเส้นทาง เลือกชื่อโดเมน กำหนดกลไกการจับคู่เส้นทาง จากนั้นเลือกบริการเป้าหมายสำหรับการกำหนดเส้นทาง ที่มีผลกับเส้นทางเฉพาะ
Higress จะเป็นไปไม่ได้เลยหากไม่มีงานโอเพ่นซอร์สของ Envoy และ Istio และฉันอยากจะแสดงความเคารพอย่างจริงใจต่อทั้งสองโครงการนี้
บัญชีสาธารณะ WeChat:
↑ กลับไปด้านบน ↑
