farfalle

파르팔레

오픈소스 AI 기반 검색 엔진. (퍼플렉시티 클론)

로컬 LLM( llama3 , gemma , mistral , phi3 ), LiteLLM을 통해 사용자 정의 LLM을 실행하거나 클라우드 모델( Groq/Llama3 , OpenAI/gpt4-o )을 사용하세요.

Farfalle-전문가-search.mp4

질문이 있으시면 언제든지 Twitter로 연락하시거나 이슈를 만들어주세요.

라이브 데모

Farfalle.dev(클라우드 모델만 해당)

개요

• 기술 스택
• ??‍♂️ 시작하기
• 배포

?️ 로드맵

• Ollama를 통해 현지 LLM에 대한 지원 추가
• Docker 배포 설정
• Searxng에 대한 지원을 추가합니다. 외부 종속성이 필요하지 않습니다.
• 사전 빌드된 Docker 이미지 생성
• LiteLLM을 통해 사용자 정의 LLM에 대한 지원 추가
• 채팅 기록
• 전문가 검색
• 로컬 파일과 채팅

기술 스택

• 프론트엔드: Next.js
• 백엔드: FastAPI
• 검색 API: SearXNG, Tavily, Serper, Bing
• 로깅: 로그파이어
• 속도 제한: Redis
• 구성요소: shadcn/ui

특징

• 여러 검색 공급자(Tavily, Searxng, Serper, Bing)로 검색
• 클라우드 모델(OpenAI/gpt4-o, OpenAI/gpt3.5-turbo, Groq/Llama3)로 질문에 답변하세요.
• 로컬 모델(llama3, mistral, gemma, phi3)로 질문에 답하세요.
• LiteLLM을 통해 맞춤형 LLM으로 질문에 답변하세요.
• 더 나은 결과를 위해 검색을 계획하고 실행하는 에이전트와 함께 검색하세요.

??‍♂️ 로컬에서 시작하기

전제 조건

• 도커
• Ollama (로컬 모델을 운영하는 경우)
  • 지원되는 모델 중 하나를 다운로드하세요: llama3 , mistral , gemma , phi3
  • ollama 서버 ollama serve 시작

API 키 받기

• 타빌리 (선택)
• 서퍼(선택사항)
• OpenAI(선택사항)
• 빙(선택 사항)
• 그로크(선택사항)

빠른 시작:

 git clone https://github.com/rashadphz/farfalle.git
cd farfalle && cp .env-template .env

API 키로 .env 수정(선택 사항, Ollama를 사용하는 경우 필요하지 않음)

앱을 시작합니다:

 docker-compose -f docker-compose.dev.yaml up -d

앱이 시작될 때까지 기다린 후 http://localhost:3000을 방문하세요.

사용자 정의 설정 지침은 custom-setup-instructions.md를 참조하세요.

배포

백엔드

백엔드가 배포된 후 웹 서비스 URL을 클립보드에 복사합니다. https://some-service-name.onrender.com과 같아야 합니다.

프런트엔드

Vercel로 배포할 때 NEXT_PUBLIC_API_URL 환경 변수에 복사된 백엔드 URL을 사용하세요.

이제 끝났습니다! ?

Farfalle를 검색 엔진으로 사용

Farfalle을 기본 검색 엔진으로 사용하려면 다음 단계를 따르세요.

1. 브라우저 설정을 방문하세요.
2. '검색엔진'으로 이동하세요.
3. 다음 URL을 사용하여 새 검색 엔진 항목을 만듭니다: http://localhost:3000/?q=%s.
4. 검색 엔진을 추가합니다.