gpinterface

GPinterface (Antarmuka Prompt Generatif)

Apa itu gpinterface?

Dengan gpinterface , Anda dapat dengan mudah membuat API untuk petunjuk Anda.

Demo

Demo langsung tersedia di gpinterface.com.

Berikut adalah beberapa contoh spesifik dari apa yang dapat dilakukan gpinterface :

• Ringkasan teks
• Terjemahan
• Koreksi Teks

Bagaimana cara kerjanya?

Anda dapat memilih model LLM dan menambahkan konteks. Setelah dikerahkan, Anda akan mendapatkan titik akhir untuk:

1. Interaksi obrolan satu kali

2. Pembuatan Sesi Obrolan

3. Percakapan yang sedang berlangsung dalam suatu sesi

4. Pengambilan Percakapan dari Sesi

Fitur

Ini adalah alat yang kuat yang dirancang untuk merampingkan pengujian dan penyebaran permintaan generatif di beberapa model bahasa besar (LLM). Dengan antarmuka web yang mudah digunakan, gpinterface memungkinkan konfigurasi dan eksperimen yang cepat.

• Penyebaran Sederhana : Menyebarkan prompt yang dikonfigurasi Anda, membuat titik akhir yang dapat diakses secara instan.
• Pengujian Prompt Mudah : Memanfaatkan antarmuka web untuk menguji petunjuk dengan berbagai konfigurasi dengan mudah.
• Dukungan untuk beberapa LLM : mengintegrasikan dengan mulus dan menggunakan model bahasa besar yang berbeda untuk memastikan aplikasi Anda serbaguna dan kuat.

LLMS yang didukung

gpinterface saat ini mendukung berbagai model bahasa besar terkemuka, termasuk:

• AI21 Jamba
• Antropik Claude
• Perintah cohere
• Google Gemini
• Meta llama
• Mistral AI Mistral
• Openai Chatgpt

Dukungan yang beragam ini memungkinkan Anda untuk memilih model terbaik untuk kebutuhan dan persyaratan spesifik Anda.

Tidak melihat model favoritmu? Jangan ragu untuk membuka PR atau hubungi saya!

Mengembangkan

Database

Aplikasi membutuhkan database PostgreSQL. Mulai database menggunakan Docker:

 cd backend
docker-compose up -d

Backend menggunakan prisma untuk mengelola skema dan migrasi basis data. Jalankan perintah berikut pada inisialisasi database:

npm run prisma:migrate

Untuk menyemai database dengan data awal untuk setiap model bahasa besar yang didukung, jalankan perintah berikut:

npx ts-node prisma/seed

Variabel Lingkungan

Backend

Backend membutuhkan variabel lingkungan berikut untuk ditetapkan:

CLIENT_URL= " http://localhost:3003 "
DATABASE_URL= " postgresql://postgres:[email protected]:5432/postgres " # can be replaced with your DB endpoint
AI21_API_KEY= " YOUR_AI21_API_KEY "
ANTHROPIC_API_KEY= " YOUR_ANTHROPIC_API_KEY "
COHERE_API_KEY= " YOUR_COHERE_API_KEY "
GOOGLE_API_KEY= " YOUR_GOOGLE_API_KEY "
MISTRAL_API_KEY= " YOUR_MISTRAL_API_KEY "
OPENAI_API_KEY= " YOUR_OPENAI_API_KEY "
AWS_ACCESS_KEY_ID= " AWS_ACCESS_KEY " # you need Llama model access in AWS Bedrock
AWS_SECRET_ACCESS_KEY= " AWS_SECRET_KEY " # you need Llama model access in AWS Bedrock
JWT_SECRET= " SECURE_RANDOM_STRING "
COOKIE_SECRET= " SECURE_RANDOM_STRING "
NODE_ENV= " development " # for development logging

Pastikan variabel -variabel ini diatur dalam file .env di direktori backend sebelum memulai aplikasi.

frontend

Aplikasi Frontend membutuhkan variabel lingkungan berikut:

NEXT_PUBLIC_API_ENDPOINT= " http://localhost:3000 "
NEXT_PUBLIC_CHAT_ENDPOINT= " http://localhost:3001 "
NEXT_PUBLIC_HOSTNAME= " http://localhost:3003 "
NEXT_PUBLIC_GOOGLE_OAUTH_CLIENT_KEY= " "

Ini harus dikonfigurasi agar sesuai dengan titik akhir di mana layanan backend tersedia, memastikan frontend dapat berkomunikasi dengan backend dengan benar.

Pengembangan Lokal

Untuk menjalankan komponen aplikasi secara terpisah untuk tujuan pengembangan:

Jalankan backend

  cd backend && npm run dev

Jalankan frontend

  cd frontend && npm run dev

Membangun

Untuk membangun semua komponen untuk penyebaran produksi, ikuti langkah -langkah ini secara berurutan

 cd shared
npm run build
cd ../backend
npm run build
cd ../frontend
npm run build

Menjalankan server

Untuk memulai server

Jalankan backend

  cd backend && npm run start

Jalankan server obrolan (server API)

  cd backend && npm run start:chat

Jalankan frontend

  cd frontend && npm run start