gpinterface

gpinterface (생성 프롬프트 인터페이스)

gpinterface 란 무엇입니까?

gpinterface 사용하면 프롬프트에 대한 API를 쉽게 만들 수 있습니다.

데모

라이브 데모는 gpinterface.com에서 제공됩니다.

gpinterface 할 수있는 일에 대한 몇 가지 구체적인 예는 다음과 같습니다.

• 텍스트 요약
• 번역
• 텍스트 수정

어떻게 작동합니까?

LLM 모델을 선택하고 컨텍스트를 추가 할 수 있습니다. 배포되면 다음에 대한 엔드 포인트를 얻을 수 있습니다.

1. 일회성 채팅 상호 작용

2. 채팅 세션 생성

3. 세션 내에서 진행중인 대화

4. 세션에서 대화 검색

특징

여러 LLMS (Lange)에서 생성 프롬프트의 테스트 및 배포를 간소화하도록 설계된 강력한 도구입니다. 사용하기 쉬운 웹 인터페이스를 통해 gpinterface 빠른 구성 및 실험을 가능하게합니다.

• 간단한 배포 : 구성된 프롬프트를 배포하여 액세스 가능한 엔드 포인트를 즉시 생성합니다.
• 쉬운 프롬프트 테스트 : 웹 인터페이스를 활용하여 다양한 구성으로 프롬프트를 쉽게 테스트합니다.
• 여러 LLM에 대한 지원 : 응용 프로그램이 다재다능하고 강력한 지 확인하기 위해 다양한 대형 언어 모델을 원활하게 통합하고 사용합니다.

지원되는 LLM

gpinterface 현재 다음을 포함하여 다양한 주요 대형 언어 모델을 지원합니다.

• AI21 잠바
• 안트로 클로드
• 코셔 명령
• Google Gemini
• 메타 라마
• Mistral ai Mistral
• Openai chatgpt

이 다양한 지원을 통해 특정 요구 사항 및 요구 사항에 가장 적합한 모델을 선택할 수 있습니다.

좋아하는 모델이 보이지 않습니까? PR을 열거나 저에게 연락하십시오!

개발하다

데이터 베이스

응용 프로그램에는 PostgreSQL 데이터베이스가 필요합니다. Docker를 사용하여 데이터베이스를 시작하십시오.

 cd backend
docker-compose up -d

백엔드는 PRISMA를 사용하여 데이터베이스 스키마 및 마이그레이션을 관리합니다. 데이터베이스 초기화에서 다음 명령을 실행하십시오.

npm run prisma:migrate

지원되는 각 대형 언어 모델에 대한 초기 데이터로 데이터베이스를 시드하려면 다음 명령을 실행하십시오.

npx ts-node prisma/seed

환경 변수

백엔드

백엔드에는 다음 환경 변수를 설정해야합니다.

CLIENT_URL= " http://localhost:3003 "
DATABASE_URL= " postgresql://postgres:[email protected]:5432/postgres " # can be replaced with your DB endpoint
AI21_API_KEY= " YOUR_AI21_API_KEY "
ANTHROPIC_API_KEY= " YOUR_ANTHROPIC_API_KEY "
COHERE_API_KEY= " YOUR_COHERE_API_KEY "
GOOGLE_API_KEY= " YOUR_GOOGLE_API_KEY "
MISTRAL_API_KEY= " YOUR_MISTRAL_API_KEY "
OPENAI_API_KEY= " YOUR_OPENAI_API_KEY "
AWS_ACCESS_KEY_ID= " AWS_ACCESS_KEY " # you need Llama model access in AWS Bedrock
AWS_SECRET_ACCESS_KEY= " AWS_SECRET_KEY " # you need Llama model access in AWS Bedrock
JWT_SECRET= " SECURE_RANDOM_STRING "
COOKIE_SECRET= " SECURE_RANDOM_STRING "
NODE_ENV= " development " # for development logging

응용 프로그램을 시작하기 전에 이러한 변수가 백엔드 디렉토리의 .env 파일로 설정되어 있는지 확인하십시오.

프론트 엔드

프론트 엔드 응용 프로그램에는 다음 환경 변수가 필요합니다.

NEXT_PUBLIC_API_ENDPOINT= " http://localhost:3000 "
NEXT_PUBLIC_CHAT_ENDPOINT= " http://localhost:3001 "
NEXT_PUBLIC_HOSTNAME= " http://localhost:3003 "
NEXT_PUBLIC_GOOGLE_OAUTH_CLIENT_KEY= " "

이들은 백엔드 서비스를 사용할 수있는 엔드 포인트와 일치하도록 구성되어야하므로 프론트 엔드가 백엔드와 제대로 통신 할 수 있습니다.

지역 개발

개발 목적으로 응용 프로그램 구성 요소를 별도로 실행하려면 :

백엔드를 실행하십시오

  cd backend && npm run dev

프론트 엔드를 실행하십시오

  cd frontend && npm run dev

짓다

생산 배포를위한 모든 구성 요소를 구축하려면 다음 단계를 순차적으로 따르십시오.

 cd shared
npm run build
cd ../backend
npm run build
cd ../frontend
npm run build

서버 실행

서버를 시작합니다

백엔드를 실행하십시오

  cd backend && npm run start

채팅 서버 실행 (API 서버)

  cd backend && npm run start:chat

프론트 엔드를 실행하십시오

  cd frontend && npm run start