farfalle

法法勒

開源人工智慧驅動的搜尋引擎。 （困惑克隆）

運行本地 LLM（ llama3 、 gemma 、 milstra 、 phi3 ）、透過LiteLLM自訂 LLM 或使用雲端模型（ Groq/Llama3 、 OpenAI/gpt4-o ）

Farfalle-專家-搜尋.mp4

如果您有任何疑問，請隨時在 Twitter 上與我聯繫或建立問題。

現場演示

farfalle.dev（僅限雲模式）

概述

• 技術堆疊
• ??‍♂️ 開始使用
• 部署

?️ 路線圖

• 透過 Ollama 增加對本地法學碩士的支持
• Docker 部署設定
• 增加對 searchxng 的支援。消除了對外在依賴的需要。
• 建立預先建置的 Docker 映像
• 透過 LiteLLM 新增對自訂 LLM 的支持
• 聊天記錄
• 專家搜尋
• 與本地文件聊天

技術堆疊

• 前端：Next.js
• 後端：FastAPI
• 搜尋 API：SearXNG、Tavily、Serper、Bing
• 日誌記錄：Logfire
• 速率限制：Redis
• 組件：shadcn/ui

特徵

• 使用多個搜尋提供者（Tavily、Searxng、Serper、Bing）進行搜尋
• 使用雲模型回答問題（OpenAI/gpt4-o、OpenAI/gpt3.5-turbo、Groq/Llama3）
• 使用本地模型回答問題（llama3、mistral、gemma、phi3）
• 透過 LiteLLM 回答任何客製化法學碩士的問題
• 透過規劃和執行搜尋的代理進行搜尋以獲得更好的結果

??‍♂️ 本地入門

先決條件

• 碼頭工人
• Ollama（如果運行本地模型）
  • 下載任何受支援的模型： llama3 、 milstra 、 gemma 、 phi3
  • 啟動 ollama 伺服器ollama serve

取得 API 金鑰

• 塔維利（可選）
• 蛇（可選）
• OpenAI（可選）
• 必應（可選）
• 格羅克（可選）

快速入門：

 git clone https://github.com/rashadphz/farfalle.git
cd farfalle && cp .env-template .env

使用您的 API 金鑰修改 .env（可選，如果使用 Ollama，則不需要）

啟動應用程式：

 docker-compose -f docker-compose.dev.yaml up -d

等待應用程式啟動，然後訪問 http://localhost:3000。

有關自訂設定說明，請參閱 custom-setup-instructions.md

部署

後端

部署後端後，將 Web 服務 URL 複製到剪貼簿。它應該類似於：https://some-service-name.onrender.com。

前端

使用 Vercel 進行部署時，請在NEXT_PUBLIC_API_URL環境變數中使用複製的後端 URL。

你就完成了！ ？

使用 Farfalle 作為搜尋引擎

若要將 Farfalle 用作預設搜尋引擎，請依照下列步驟操作：

1. 造訪您的瀏覽器設定
2. 前往“搜尋引擎”
3. 使用下列 URL 建立新的搜尋引擎項目：http://localhost:3000/?q=%s。
4. 新增搜尋引擎。