AI Gateway

AI Native API Gateway

Build Status

官网|文档|博客|电子书|开发指引| AI插件

English | 中文| 日本语

Higress 是一款云原生API 网关，内核基于Istio 和Envoy，可以用Go/Rust/JS 等编写Wasm 插件，提供了数十个现成的通用插件，以及开箱即用的控制台（demo 点这里）

Higress 在阿里内部为解决Tengine reload 对长连接业务有损，以及gRPC/Dubbo 负载均衡能力不足而诞生。

阿里云基于Higress 构建了云原生API 网关产品，为大量企业客户提供99.99% 的网关高可用保障服务能力。

Higress 基于AI 网关能力，支撑了通义千问APP、百炼大模型API、机器学习PAI 平台等AI 业务。同时服务国内头部的AIGC 企业（如零一万物），以及AI 产品（如FastGPT）

Summary

快速开始
功能展示
使用场景
核心优势
社区

快速开始

Higress 只需Docker 即可启动，方便个人开发者在本地搭建学习，或者用于搭建简易站点:

 # 创建一个工作目录
mkdir higress ; cd higress
# 启动 higress，配置文件会写到工作目录下
docker run -d --rm --name higress-ai -v ${PWD} :/data 
        -p 8001:8001 -p 8080:8080 -p 8443:8443  
        higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest

监听端口说明如下：

8001 端口：Higress UI 控制台入口
8080 端口：网关HTTP 协议入口
8443 端口：网关HTTPS 协议入口

Higress 的所有Docker 镜像都一直使用自己独享的仓库，不受Docker Hub 境内访问受限的影响

K8s 下使用Helm 部署等其他安装方式可以参考官网Quick Start 文档。

如果您是在云上部署，生产环境推荐使用企业版，开发测试可以使用下面一键部署社区版：

使用场景

AI 网关:
Higress 能够用统一的协议对接国内外所有LLM 模型厂商，同时具备丰富的AI 可观测、多模型负载均衡/fallback、AI token 流控、AI 缓存等能力：
Kubernetes Ingress 网关:
Higress 可以作为K8s 集群的Ingress 入口网关, 并且兼容了大量K8s Nginx Ingress 的注解，可以从K8s Nginx Ingress 快速平滑迁移到Higress。
支持Gateway API 标准，支持用户从Ingress API 平滑迁移到Gateway API。
相比ingress-nginx，资源开销大幅下降，路由变更生效速度有十倍提升：
微服务网关:
Higress 可以作为微服务网关, 能够对接多种类型的注册中心发现服务配置路由，例如Nacos, ZooKeeper, Consul, Eureka 等。
并且深度集成了Dubbo, Nacos, Sentinel 等微服务技术栈，基于Envoy C++ 网关内核的出色性能，相比传统Java 类微服务网关，可以显着降低资源使用率，减少成本。
安全防护网关:
Higress 可以作为安全防护网关，提供WAF 的能力，并且支持多种认证鉴权策略，例如key-auth, hmac-auth, jwt-auth, basic-auth, oidc 等。

核心优势

生产等级
脱胎于阿里巴巴2年多生产验证的内部产品，支持每秒请求量达数十万级的大规模场景。
彻底摆脱Nginx reload 引起的流量抖动，配置变更毫秒级生效且业务无感。对AI 业务等长连接场景特别友好。
流式处理
支持真正的完全流式处理请求/响应Body，Wasm 插件很方便地自定义处理SSE （Server-Sent Events）等流式协议的报文。
在AI 业务等大带宽场景下，可以显着降低内存开销。
便于扩展
提供丰富的官方插件库，涵盖AI、流量管理、安全防护等常用功能，满足90%以上的业务场景需求。
主打Wasm 插件扩展，通过沙箱隔离确保内存安全，支持多种编程语言，允许插件版本独立升级，实现流量无损热更新网关逻辑。
安全易用
基于Ingress API 和Gateway API 标准，提供开箱即用的UI 控制台，WAF 防护插件、IP/Cookie CC 防护插件开箱即用。
支持对接Let's Encrypt 自动签发和续签免费证书，并且可以脱离K8s 部署，一行Docker 命令即可启动，方便个人开发者使用。

功能展示

AI 网关Demo 展示

从OpenAI 到其他大模型，30 秒完成迁移

Higress UI 控制台

丰富的可观测
提供开箱即用的可观测，Grafana&Prometheus 可以使用内置的也可对接自建的
插件扩展机制
官方提供了多种插件，用户也可以开发自己的插件，构建成docker/oci 镜像后在控制台配置，可以实时变更插件逻辑，对流量完全无损。
多种服务发现
默认提供K8s Service 服务发现，通过配置可以对接Nacos/ZooKeeper 等注册中心实现服务发现，也可以基于静态IP 或者DNS 来发现
域名和证书
可以创建管理TLS 证书，并配置域名的HTTP/HTTPS 行为，域名策略里支持对特定域名生效插件
丰富的路由能力
通过上面定义的服务发现机制，发现的服务会出现在服务列表中；创建路由时，选择域名，定义路由匹配机制，再选择目标服务进行路由；路由策略里支持对特定路由生效插件