AI tamago 다운로드 - AI tamago 소스코드 다운로드

AI tamago

기타 소스코드

1.0.0

다운로드

AI 타마고 ??

생각, 감정, 피드백을 갖춘 100% 로컬 LLM 생성 및 구동 가상 애완동물입니다. 다마고치에 대한 즐거운 추억을 되살려보세요! https://ai-tamago.fly.dev/

모든 ASCII 애니메이션은 chatgpt(저장소에 프롬프트 포함)를 사용하여 생성됩니다.

질문이 있으신가요? AI Stack 개발자들과 함께 #ai-tamago 채널에서 저를 찾아보세요.

데모 ?

ai-tamago-demo.mov

스택

로컬 모드

? 추론: Ollama(OpenAI 또는 복제 사용 옵션 포함)
? 게임 상태: Ingest
트랜잭션 및 벡터 데이터베이스: Supabase pgVector
? LLM 오케스트레이션: Langchain.js
?️ 앱 로직: Next.js
? 임베딩 생성: Transformer.js 및 all-MiniLM-L6-v2
?️ UI: 매직 패턴 및 Vercel v0

프로덕션 모드

위의 모든 것 외에 다음 사항도 포함됩니다.

? 인증 및 사용자 관리: 서기
☁️ 주최: 플라이
? 속도 제한: Upstash

개요

빠른 시작
배포 가이드

전제 조건

도커 설치

빠른 시작

1. 포크 및 클론 저장소

리포지토리를 Github 계정으로 포크한 후 다음 명령을 실행하여 리포지토리를 복제합니다.

 git clone [email protected]:[YOUR_GITHUB_ACCOUNT_NAME]/AI-tamago.git

2. 종속성 설치

 cd ai-tamago
npm install

모든 클라이언트 측 다마고치 코드는 Tamagotchi.tsx에 있습니다.

3. 올라마 설치

지침은 여기에 있습니다.

4. 로컬에서 Supabase 실행

Supabase CLI 설치

 brew install supabase/tap/supabase

Supabase 시작

/ai-tamago 디렉토리에 있는지 확인하고 다음을 실행하십시오.

 supabase start

팁: 마이그레이션을 실행하거나 데이터베이스를 재설정하려면 - Seed.sql 및 마이그레이션은 supabase db reset 실행합니다.

5. 비밀을 입력하세요

참고: 여기에 있는 비밀은 로컬 superbase 인스턴스에 대한 것입니다.

 cp .env.local.example .env.local

그런 다음 다음을 실행하여 SUPABASE_PRIVATE_KEY 가져옵니다.

 supabase status

service_role key 복사하여 .env.local 에 SUPABASE_PRIVATE_KEY 로 저장합니다.

6. Ingest 설정

npx inngest-cli@latest dev

앱이 실행 중인지 확인하세요. 게임 상태를 구동하는 데 사용되는 Ingest 함수가 자동으로 등록되어야 합니다.

7. 로컬에서 앱 실행

이제 로컬에서 앱을 테스트할 준비가 되었습니다! 이렇게 하려면 프로젝트 루트에서 npm run dev 실행하고 http://localhost:3000 방문하면 됩니다.

배포 가이드

이제 로컬에서 AI 타마고를 가지고 놀았습니다. 이제 언제든지 액세스할 수 있도록 좀 더 영구적인 곳에 배치할 차례입니다!

0. 생산에 사용할 모델을 선택하세요

프로덕션에서 Chatgpt를 사용하여 테스트하려면 .env.local 에서 LLM_MODEL=ollama 제거하고 OPENAI_API_KEY 입력하세요.
복제를 시도하려면 LLM_MODEL=replicate_llama 설정하고 REPLICATE_API_TOKEN 입력하세요.
Ollama를 직접 배포하려면 Scaling Large Language Models to zero with Ollama라는 멋진 가이드를 따르세요. 100gb 볼륨의 performance-4x Fly VM(CPU)에서 Ollama를 실행할 수 있지만 GPU에 액세스할 수 있으면 훨씬 더 빠릅니다. 아직 액세스할 수 없다면 여기에서 Fly의 GPU 대기자 명단에 등록하세요!

1. deploy 분기로 전환 - 이 분기에는 이와 같은 앱을 배포하는 데 필요한 모든 것이 포함되어 있습니다.

git co deploy

이 지점에는 멀티 테넌시 지원(Clerk 덕분에) 앱이 포함되어 있습니다. 즉, 모든 사용자가 자신의 AI-tamago를 얻을 수 있고 토큰 제한이 내장되어 있습니다. 사용자가 앱에서 요청을 보낼 수 있는 횟수를 설정할 수 있습니다. ( ratelimit.ts 참조)

2. Supabase Cloud로 이동:

여기에서 Supabase 프로젝트를 생성한 다음 프로젝트 설정 -> API로 이동하세요. .env.local 에 비밀을 입력하세요.
SUPABASE_URL 은 "프로젝트 URL" 아래의 URL 값입니다.
SUPABASE_PRIVATE_KEY 는 프로젝트 API 키 아래에서 ey 로 시작하는 키입니다.
URL https://supabase.com/dashboard/project/[project-id]에서 찾을 수 있는 Supabase 프로젝트 ID를 복사합니다.

Ai-tamago 프로젝트 루트에서 다음을 실행합니다.

 supabase link --project-ref [insert project-id]
supabase migration up
supabase db reset --linked

3. 속도 제한을 위한 Upstash Redis 인스턴스 생성

이렇게 하면 어떤 사용자도 API를 너무 많이 호출하여 모든 추론 워크로드를 차지하지 않게 됩니다. 여기서는 Upstash의 놀라운 속도 제한 SDK를 사용하고 있습니다.

업스태시에 로그인하세요
상단 탐색 메뉴의 "Redis"에서 "데이터베이스 생성"을 클릭하세요.
이름을 지정한 다음 기본 설정에 따라 지역 및 기타 옵션을 선택하십시오. "만들기"를 클릭하세요
"REST API" 섹션까지 아래로 스크롤하고 ".env"를 클릭합니다. 이제 두 환경 변수( UPSTASH_REDIS_REST_URL 및 UPSTASH_REDIS_REST_TOKEN )를 .env.local에 복사하여 붙여넣을 수 있습니다.

4. 이제 Fly.io에 모든 것을 배포할 준비가 되었습니다!

fly.io에 계정을 등록한 후 flyctl을 설치하세요.
프로젝트 루트에서 fly launch 실행합니다. 그러면 필요한 모든 구성이 포함된 fly.toml 생성됩니다.
fly scale memory 512 실행하여 이 앱의 Fly VM 메모리를 확장합니다.
fly deploy --ha=false 실행하여 앱을 배포합니다. --ha 플래그는 fly가 무료 플랜에 포함된 하나의 인스턴스만 가동하도록 합니다.
localhost가 아닌 다른 환경의 경우 기존 Clerk 개발 인스턴스가 계속 작동해야 합니다. cat .env.local | fly secrets import
이것을 실제 제품으로 만들고 싶다면 현재 Clerk 인스턴스 아래에 prod 환경을 만들어야 합니다. Clerk를 사용하여 프로덕션 앱을 배포하는 방법에 대한 자세한 내용은 여기에서 해당 문서를 확인하세요. 자신의 도메인을 관리하고 프로세스의 일부로 도메인 확인을 수행해야 할 수도 있습니다.
새 파일 .env.prod 로컬로 만들고 모든 프로덕션 환경 비밀을 입력합니다. Clerk의 프로덕션 인스턴스( cat .env.prod | fly secrets import 에서 비밀을 복사하여 NEXT_PUBLIC_CLERK_PUBLISHABLE_KEY 및 CLERK_SECRET_KEY 업데이트해야 합니다. cat .env.prod | fly secrets import .