fgpt

Бесплатный обратный прокси-сервер и инструмент CLI для OpenAI GPT-3.5-turbo.

Он позволяет вам использовать API GPT-3.5 без необходимости регистрировать ключ API или платить за использование.

? OpenAI GPT-3.5-turbo можно использовать бесплатно, без какой-либо учетной записи или ключа API.
? НЕ ИСПОЛЬЗОВАТЬ В ПРОИЗВОДСТВЕ, ТОЛЬКО ДЛЯ ЛИЧНОГО ИСПОЛЬЗОВАНИЯ/ТЕСТИРОВАНИЯ

Функции

• Режим REPL : вы можете вводить вопросы и получать ответы в интерактивном режиме.
• Режим обратного прокси , вы можете использовать OpenAI OpenAPI с локальным сервером.
• Режим CLI , с каналом оболочки, вводом файлов, выводом кода и т. д.
• ? Поддержка https-прокси и Socks5-прокси.

Загрузите предварительно скомпилированный двоичный файл

• Исполняемый двоичный файл Linux x64
• Исполняемый двоичный файл Mac M1/M2
• Windows (скоро)
• Или через Докер
• Или собрать из исходников (см. ниже, требуется груз)

  cargo install fgpt

Как использовать

 # To get answers from GPT-3.5
fgpt " How to get a domain's MX record on linux shell? "

# Output plain code -c/--code
fgpt -c " Write python code to reverse a string "

# With pipe
cat README.md | fgpt " summarize for reddit post "

# With stdin
fgpt " Convert the follow csv data to json, without any description " < contacts.csv

# With file -f/--file
fgpt -f contacts.csv  " Convert the follow csv data to json, without any description "

# REPL mode
fgpt
>> Write a javascript code to reverse a string
...

С http-прокси

Если вы не можете подключиться, вы можете попробовать использовать прокси. Поддерживаются прокси-серверы HTTP и SOCKS5. Например:

 # 1. pass the proxy address by -p/--proxy
fgpt -p ' socks5://127.0.0.1:9080 ' " Linux command to list files in a directory "

# 2. pass the proxy address by environment variable
export HTTPS_PROXY= ' socks5://127.0.0.1:9080 '
fgpt " Linux command to list files in a directory "

# 3. use alias to set the proxy address
alias fgpt= ' fgpt -p "socks5://127.0.0.1:9080" '
fgpt " Linux command to list files in a directory "

Сбросить статистику

fgpt --stats " Linux command to list files in a directory " 

Использование докером

docker run -it --rm shenjinti/fgpt " Linux command to list files in a directory " 

Как использовать обратный прокси

Предлагает бесплатный доступ к ChatGPT через API на собственном хостинге. Это полезно, если вы хотите использовать API OpenAI без необходимости регистрации ключа API.

1. Запустите сервер

fgpt -s 127.0.0.1:4090

Теперь ваш локальный сервер будет запущен и доступен по адресу: http://127.0.0.1:4090/v1/chat/completions

2. Пример использования библиотек OpenAI

 import openai
import sys
openai . api_key = 'nothing'
openai . base_url = "http://127.0.0.1:4090/v1/"

completion = openai . chat . completions . create (
    model = "gpt-3.5-turbo" ,
    messages = [
        { "role" : "user" , "content" : "Write a javascript simple code" },
    ],
    stream = True ,
)

for chunk in completion :
    print ( chunk . choices [ 0 ]. delta . content , end = '' )
    sys . stdout . flush ()

print ()

или протестируйте с помощью Curl:

curl -X POST -H " Content-Type: application/json " -d ' {"model":"gpt-3.5-turbo",
"messages":[{"role":"user","content":"Write a javascript simple code"}], 
"stream":true} ' 
http://127.0.0.1:4090/v1/chat/completions

curl -X POST -H " Content-Type: application/json " -d ' {"model":"gpt-3.5-turbo",
"messages":[{"role":"user","content":"Write a javascript simple code"}]} ' 
http://127.0.0.1:4090/v1/chat/completions