openai api proxy

Operai-api-proxy

Proxy simple para la API de OpenAI a través de un comando Docker de una línea

?

• La función de implementación de la función de la nube de Tencent Tencent Cloud Function ha admitido SSE en toda la región desde el 25 de abril. Se recomienda usarla.
• Instrucciones chinas simplificadas
• "Cómo desarrollar rápidamente una aplicación Operai/GPT: Notas del desarrollador nacional"

?

Lo siguiente es traducido por GPT. El siguiente inglés fue traducido por GPT.

️ Este es el lado del servidor del proxy, no el lado del cliente.

Características

1. Admite la salida de transmisión de SSE
2. Moderación de texto incorporada (requiere configuración de tecla de nube de tencent)
3. ?

Implementación de nodejs

Puede implementar ./app.js en cualquier entorno que admita NodeJS 14+, como funciones en la nube y plataformas de informática de borde.

1. Copiar app.js y paquete.json al directorio
2. Instalar dependencias con hilo instalación
3. Inicie el servicio con Node App.js

Implementación de Docker

 docker run -p 9000:9000 easychen/ai.level06.com:latest

La dirección proxy es http: // $ {ip}: 9000

Variables de entorno disponibles

1. Puerto: puerto de servicio
2. Proxy_key: clave de acceso proxy, utilizada para restringir el acceso
3. Tiempo de espera: Tiempo de espera de solicitud, predeterminado 30 segundos
4. Tencent_cloud_sid: Tencent Cloud Secret_id
5. Tencent_cloud_skey: Tencent Cloud Secret_key
6. Tencent_cloud_ap: Tencent Cloud Region (por ejemplo, AP-Singapur Singapur)

Uso de API

1. Cambie el dominio/IP (con el número de puerto) de la dirección de solicitud de OpenAI en el proyecto original (por ejemplo, https://api.openai.com) al dominio/IP de este proxy.
2. Si se establece proxy_key, agregue :<PROXY_KEY> Después de la tecla OpenAI.
3. Moderación: True habilita la moderación, falso desactiva la moderación
4. Modation_Level: Alto interrumpe todas las oraciones cuyo resultado de moderación no es pasar, bajo solo interrumpe las oraciones cuyo resultado de moderación es el bloque.

Notas

1. Solo admite métodos GET y POST, no interfaces relacionadas con los archivos.
2. SSE no es compatible actualmente, por lo que las opciones relacionadas con la transmisión deben desactivarse Ahora apoyado.

Ejemplo de uso del lado del cliente

Usando https://www.npmjs.com/package/chatgpt como ejemplo:

 chatApi = new gpt . ChatGPTAPI ( {
    apiKey : 'sk.....:<proxy_key_here>' ,
    apiBaseUrl : "http://localhost:9001/v1" , // Replace with proxy domain/IP
} ) ;
   

Expresiones de gratitud

1. Referencia de SSE al código relacionado con el proyecto CHATGPT-API