higress
v2.0.3
Sitio web oficial | Documentación | Blog | Libro electrónico | Directrices de desarrollo |
Inglés | Chino | Japonés
Higress es una puerta de enlace API nativa de la nube. El núcleo se basa en los complementos de Istio y Wasm que se pueden escribir con Go/Rust/JS, etc., y proporciona docenas de complementos generales listos para usar. una consola lista para usar (demostración, haga clic aquí)
Higress nació dentro de Alibaba para resolver el problema del daño de la recarga de Tengine a los servicios de conexión larga y la falta de capacidades de equilibrio de carga de gRPC/Dubbo.
Alibaba Cloud ha creado un producto de puerta de enlace API nativo de la nube basado en Higress, que proporciona a una gran cantidad de clientes empresariales capacidades de servicio garantizadas de alta disponibilidad de puerta de enlace del 99,99%.
Higress se basa en capacidades de puerta de enlace de IA y admite empresas de IA como la aplicación Tongyi Qianwen, la API de modelo grande de Bailian y la plataforma PAI de aprendizaje automático. Al mismo tiempo, prestamos servicios a empresas AIGC líderes en el país (como Zero One Thousand Things), así como a productos de inteligencia artificial (como FastGPT).
Higress solo requiere que Docker se inicie, lo cual es conveniente para que los desarrolladores individuales creen y aprendan localmente, o para crear sitios simples:
# 创建一个工作目录
mkdir higress ; cd higress
# 启动 higress，配置文件会写到工作目录下
docker run -d --rm --name higress-ai -v ${PWD} :/data
-p 8001:8001 -p 8080:8080 -p 8443:8443
higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latestLa descripción del puerto de escucha es la siguiente:
Todas las imágenes Docker de Higress siempre han utilizado su propio almacén exclusivo y no se ven afectadas por el acceso doméstico restringido de Docker Hub.
Para otros métodos de instalación, como la implementación de Helm en K8, consulte la documentación oficial de Inicio rápido.
Si está implementando en la nube, se recomienda usar la versión empresarial para el entorno de producción. Para el desarrollo y las pruebas, puede usar la siguiente implementación con un solo clic de la versión comunitaria:
Puerta de enlace de IA :
Higress puede utilizar un protocolo unificado para conectarse a todos los fabricantes de modelos LLM nacionales y extranjeros, y tiene una rica observabilidad de IA, equilibrio/retroceso de carga multimodelo, control de flujo de tokens de IA, almacenamiento en caché de IA y otras capacidades:
Puerta de entrada de Kubernetes :
Higress se puede utilizar como puerta de entrada de Ingress para clústeres de K8 y es compatible con una gran cantidad de anotaciones de Nginx Ingress de K8, lo que permite una migración rápida y fluida de Nginx Ingress de K8 a Higress.
Admite el estándar API de Gateway y admite la migración fluida de usuarios desde la API de Ingress a la API de Gateway.
En comparación con ingress-nginx, la sobrecarga de recursos se reduce significativamente y los cambios de enrutamiento surten efecto diez veces más rápido:
Puerta de enlace de microservicio :
Higress puede servir como puerta de enlace de microservicios y puede conectarse a múltiples tipos de centros de registro para descubrir rutas de configuración de servicios, como Nacos, ZooKeeper, Consul, Eureka, etc.
Está profundamente integrado con pilas de tecnología de microservicios como Dubbo, Nacos y Sentinel, y se basa en el excelente rendimiento del núcleo de puerta de enlace Envoy C++. En comparación con las puertas de enlace de microservicios tradicionales basadas en Java, puede reducir significativamente el uso de recursos y los costos.
Puerta de enlace de protección de seguridad :
Higress puede servir como puerta de enlace de protección de seguridad, proporcionar capacidades WAF y admitir múltiples estrategias de autenticación, como key-auth, hmac-auth, jwt-auth, basic-auth, oidc, etc.
grado de producción
Nacido a partir del producto interno de Alibaba que se ha producido y verificado durante más de dos años, admite escenarios a gran escala con cientos de miles de solicitudes por segundo.
Elimine por completo la inestabilidad del tráfico causada por la recarga de Nginx, los cambios de configuración entran en vigor en milisegundos y el negocio no se ve afectado. Es particularmente amigable para escenarios de conexión a largo plazo, como los negocios de IA.
transmisión
Al admitir un verdadero cuerpo de solicitud/respuesta de transmisión completa, el complemento Wasm puede personalizar fácilmente el procesamiento de mensajes de protocolos de transmisión como SSE (Eventos enviados por servidor).
En escenarios de gran ancho de banda, como los servicios de IA, la sobrecarga de memoria se puede reducir significativamente.
Fácil de ampliar
Proporciona una rica biblioteca de complementos oficiales, que cubre funciones comunes como inteligencia artificial, gestión del tráfico y protección de seguridad, y satisface las necesidades de más del 90% de los escenarios empresariales.
Se centra en las extensiones de complementos de Wasm, garantiza la seguridad de la memoria a través del aislamiento de la zona de pruebas, admite múltiples lenguajes de programación, permite que las versiones de los complementos se actualicen de forma independiente y logra una actualización en caliente sin tráfico de la lógica de la puerta de enlace.
Seguro y fácil de usar
Basado en los estándares Ingress API y Gateway API, proporciona una consola de interfaz de usuario lista para usar, un complemento de protección WAF y un complemento de protección IP/Cookie CC.
Admite la conexión con Let's Encrypt para emitir y renovar automáticamente certificados gratuitos y se puede implementar sin K8. Se puede iniciar con una línea de comando Docker, lo que lo hace conveniente para que lo utilicen los desarrolladores individuales.
De OpenAI a otros modelos grandes, la migración se completa en 30 segundos
Observables ricos
Proporciona observabilidad lista para usar. Grafana y Prometheus pueden usar dispositivos integrados o conectarse a dispositivos de construcción propia.
Mecanismo de extensión enchufable
El funcionario proporciona una variedad de complementos. Los usuarios también pueden desarrollar sus propios complementos, integrarlos en imágenes de Docker/oci y configurarlos en la consola. La lógica del complemento se puede cambiar en tiempo real sin dañar la consola. tráfico.
Descubrimiento de múltiples servicios
El descubrimiento de servicios del servicio K8 se proporciona de forma predeterminada a través de la configuración, se puede conectar a centros de registro como Nacos/ZooKeeper para realizar el descubrimiento de servicios. También se puede descubrir en función de IP estática o DNS.
Nombre de dominio y certificado
Puede crear y administrar certificados TLS y configurar el comportamiento HTTP/HTTPS del nombre de dominio. La política de nombres de dominio admite complementos que surten efecto en nombres de dominio específicos.
Ricas capacidades de enrutamiento
A través del mecanismo de descubrimiento de servicios definido anteriormente, los servicios descubiertos aparecerán en la lista de servicios al crear una ruta, seleccionará el nombre de dominio, definirá el mecanismo de coincidencia de rutas y luego seleccionará el servicio de destino para el enrutamiento; que surten efecto en rutas específicas.
Higress no sería posible sin el trabajo de código abierto de Envoy e Istio, y me gustaría expresar mi más sincero respeto a estos dos proyectos.
Cuenta pública de WeChat:
↑ Volver arriba ↑
