Unduh openai api proxy - Unduh Kode Sumber openai api proxy

openai api proxy

Kode sumber lainnya

1.0.0

Unduh

OpenAI-API-Proxy

Proxy Sederhana untuk OpenAI API melalui perintah Docker satu baris

Jika Anda terlalu malas untuk membangunnya sendiri, Anda dapat mencoba layanan API openai pihak ketiga yang dapat diakses di Cina dan dapat diisi ulang di WeChat: API2D.com, yang mendukung obrolan, OpenCat, Nextweb, dan plug-in vScode.

Tencent Cloud Function Deployment Tutorial Tencent Cloud Function telah mendukung SSE di seluruh wilayah sejak 25 April. Disarankan untuk menggunakannya.
Instruksi Cina yang disederhanakan
"Cara Mengembangkan Aplikasi OpenAI/GPT dengan cepat: Catatan Pengembang Domestik"

?

Berikut ini diterjemahkan oleh GPT. Bahasa Inggris berikut diterjemahkan oleh GPT.

️ Ini adalah sisi server dari proxy, bukan sisi klien.

Fitur

Mendukung output streaming SSE
Moderasi teks bawaan (membutuhkan konfigurasi kunci cloud tencent)
Output streaming SSE mendukung moderasi teks, itulah yang kuat.

Penempatan NodeJS

Anda dapat menggunakan ./app.js ke lingkungan apa pun yang mendukung NodeJs 14+, seperti fungsi cloud dan platform komputasi tepi.

Salin app.js dan package.json ke direktori
Instal dependensi dengan instalasi benang
Mulai Layanan dengan Node App.js

Penyebaran Docker

 docker run -p 9000:9000 easychen/ai.level06.com:latest

Alamat proxy adalah http: // $ {ip}: 9000

Variabel lingkungan yang tersedia

Port: Port layanan
Proxy_key: Kunci akses proxy, digunakan untuk membatasi akses
Timeout: Minta batas waktu, default 30 detik
Tencent_cloud_sid: tencent cloud secret_id
Tencent_Cloud_skey: Tencent Cloud Secret_key
Tencent_Cloud_ap: Tencent Cloud Region (misalnya AP-Singapore Singapura)

Penggunaan API

Ubah domain/IP (dengan nomor port) dari alamat permintaan openai di proyek asli (misalnya https://api.openai.com) ke domain/IP proxy ini.
Jika proxy_key disetel, tambahkan :<PROXY_KEY> Setelah kunci OpenAi.
moderasi: true memungkinkan moderasi, false menonaktifkan moderasi
Moderation_level: Tinggi mengganggu semua kalimat yang hasil moderasinya tidak lulus, rendah hanya mengganggu kalimat yang hasil moderasinya adalah blok.

Catatan

Hanya dukungan Get and Posting, bukan antarmuka terkait file.
~~SSE saat ini tidak didukung, jadi opsi terkait stream perlu dimatikan~~ Sekarang didukung.

Contoh penggunaan sisi klien

Menggunakan https://www.npmjs.com/package/chatgpt sebagai contoh:

 chatApi = new gpt . ChatGPTAPI ( {
    apiKey : 'sk.....:<proxy_key_here>' ,
    apiBaseUrl : "http://localhost:9001/v1" , // Replace with proxy domain/IP
} ) ;