freegpt35 다운로드 - freegpt35 소스 코드 다운로드

freegpt35

AI 소스 코드

1.0.0

다운로드

freegpt35

무제한 무료 GPT-3.5 터보 API 서비스.
저자 소개 »

특징 · 예시 · 참고자료 · 라이센스

특징

스트리밍 API . freegpt35를 사용하면 응답을 청크 단위로 증분적으로 다시 보낼 수 있습니다.
쉬운 배포 . 컨테이너화되어 있으며 docker compose를 사용하여 몇 초 만에 시작됩니다.
로그인은 무료입니다 . 인증 내역을 걱정할 필요 없이 한눈에 사용하세요.

예

사용법 개요

mkdir freegpt35 && cd freegpt35
curl -O https://raw.githubusercontent.com/hominsu/freegpt35/main/deploy/docker-compose.yml

그런 다음 필요한 경우 환경을 추가합니다. 자세한 내용은 다음 사용자 정의 부분을 확인하세요.

 docker compose up -d

배포가 완료되면 다음 명령을 사용하여 모든 것이 제대로 작동하는지 확인합니다.

curl -X POST " http://localhost:3000/v1/chat/completions " 
     -H " Authorization: Bearer anything_or_your_key " 
     -H " Content-Type: application/json " 
     -d ' {
           "model": "gpt-3.5-turbo",
           "messages": [{"role": "user", "content": "Hello"}],
         } '

{ "id" : " chatcmpl-********* " , "created" : 9999999999 , "model" : " gpt-3.5-turbo " , "object" : " chat.completion " , "choices" :[{ "finish_reason" : " stop " , "index" : 0 , "message" :{ "content" : " Hi there! How can I assist you today? " , "role" : " assistant " }}], "usage" :{ "prompt_tokens" : 1 , "completion_tokens" : 10 , "total_tokens" : 11 }}

Nginx 템플릿

다음은 참조할 수 있는 Nginx conf 템플릿입니다. NGINX Docker 설정에 대한 자세한 내용은 다음 게시물을 확인하세요.

 upstream freegpt35 {
    server 127.0.0.1:3000
}

server {
    listen 80 ;
    listen [::]:80;
    server_name your.domain.name;

    return 301 https:// $server_name$request_uri ;
}

server {
    listen 443 ssl;
    listen [::]:443 ssl;
    server_name your.domain.name;

    ssl_certificate /etc/nginx/ssl/your.domain.name/full.pem;
    ssl_certificate_key /etc/nginx/ssl/your.domain.name/key.pem;

    ssl_session_timeout 5m ;

    add_header Strict-Transport-Security "max-age=31536000; includeSubDomains" always;

    ssl_protocols TLSv1.2 TLSv1.3;
    ssl_ciphers TLS13_AES_128_GCM_SHA256:TLS13_AES_256_GCM_SHA384:TLS13_CHACHA20_POLY1305_SHA256:ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-ECDSA-AES256-GCM-SHA384:ECDHE-ECDSA-CHACHA20-POLY1305;
    ssl_prefer_server_ciphers on ;

    location /v1/chat/completions {
       proxy_set_header Host $host ;
       proxy_set_header X-Real-IP $remote_addr ;
       proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for ;
       proxy_set_header X-Forwarded-Proto "https" ;
       proxy_pass http://freegpt35;

       proxy_buffering  off ;
       proxy_cache      off ;

       send_timeout               600 ;
       proxy_connect_timeout      600 ;
       proxy_send_timeout         600 ;
       proxy_read_timeout         600 ;
       chunked_transfer_encoding  on ;
    }
    error_page   500 502 503 504  /50x.html;
}

베르셀

Vercel을 구독하는 경우 이 배포 방법을 시도해 볼 수 있습니다. 그렇지 않으면 시간을 낭비하지 마세요. Hobby 계획을 사용하면 서버리스 API 경로가 5초 동안만 처리될 수 있고 경로가 FUNCTION_INVOCATION_TIMEOUT 오류로 응답하기 때문입니다.

배포되면 컬을 사용하여 다시 테스트할 수 있습니다.

curl -X POST " https://freegpt35.vercel.app/v1/chat/completions " 
     -H " Authorization: Bearer anything_or_your_key " 
     -H " Content-Type: application/json " 
     -d ' {
           "model": "gpt-3.5-turbo",
           "messages": [{"role": "user", "content": "Hello"}]
         } '

{ "id" : " chatcmpl-********** " , "created" : 9999999999 , "model" : " gpt-3.5-turbo " , "object" : " chat.completion " , "choices" :[{ "finish_reason" : " stop " , "index" : 0 , "message" :{ "content" : " Hey there! How's it going? " , "role" : " assistant " }}], "usage" :{ "prompt_tokens" : 1 , "completion_tokens" : 8 , "total_tokens" : 9 }}

사용자 정의

특정 경우에 대해 환경 변수를 정의할 수도 있습니다.

환경변수	설명
`NEXT_BASE_URL`	ChatGPT의 기본 URL(미러 사이트를 사용하는 경우 수정함)
`NEXT_API_URL`	자신이 하고 있는 일을 정말로 알지 않는 한 수정하지 마십시오 .
`NEXT_API_KEY`	API에 접근하기 위한 인증에 사용되는 API 키입니다.
`NEXT_MAX_RETRIES`	실패 시 API 요청에 대한 최대 재시도 횟수입니다.
`NEXT_USER_AGENT`	서버에서 보낸 요청 헤더에 사용되는 사용자 에이전트 문자열입니다.
`NEXT_PROXY`	http(s) 프록시를 활성화합니다(예: `http://127.0.0.1:7890` ). 여러 프록시가 필요한 경우 각 프록시를 로 구분하세요 `,` 예 `https://user:password@proxy-1:10000,https://user:password@proxy-2:10001`