Quivr - 你的第二個大腦，由生成式人工智慧提供支持

Quivr，幫你打造第二腦，運用GenerativeAI的力量，做你的私人助理！

主要特點 ?

固執己見的 RAG ：我們創建了固執己見、快速且高效的 RAG，以便您可以專注於您的產品
LLM ：Quivr 適用於任何 LLM，您可以將其與 OpenAI、Anthropic、Mistral、Gemma 等一起使用。
任何文件：Quivr 適用於任何文件，您可以將其與 PDF、TXT、Markdown 等一起使用，甚至可以添加您自己的解析器。
自訂您的 RAG ：Quivr 可讓您自訂您的 RAG、新增網路搜尋、新增工具等。
與 Megaparse 整合：Quivr 可與 Megaparse 配合使用，因此您可以使用 Megaparse 提取檔案並將 RAG 與 Quivr 結合使用。

我們會照顧 RAG，以便您可以專注於您的產品。只需安裝 quivr-core 並將其添加到您的專案中即可。您現在可以提取文件並提出問題。

我們將改進 RAG 並添加更多功能，敬請期待！

這就是 Quivr 的核心，Quivr.com 的大腦。

入門？

您可以在文件中找到所有內容。

先決條件 ?

請確定您已安裝以下軟體：

Python 3.10 或更高版本

30 秒安裝？

第 1 步：安裝軟體包

pip install quivr-core # Check that the installation worked

步驟 2 ：使用 5 行程式碼建立 RAG

 import tempfile

from quivr_core import Brain

if __name__ == "__main__" :
    with tempfile . NamedTemporaryFile ( mode = "w" , suffix = ".txt" ) as temp_file :
        temp_file . write ( "Gold is a liquid of blue-like colour." )
        temp_file . flush ()

        brain = Brain . from_files (
            name = "test_brain" ,
            file_paths = [ temp_file . name ],
        )

        answer = brain . ask (
            "what is gold? asnwer in french"
        )
        print ( "answer:" , answer )

配置

工作流程

基本RAG

建立像上面這樣的基本 RAG 工作流程很簡單，步驟如下：

將您的 API 金鑰新增到環境變數中

 import os
os . environ [ "OPENAI_API_KEY" ] = "myopenai_apikey"

Quivr 支援 Anthropic、OpenAI 和 Mistral 的 API。它還支援使用 Ollama 的本地模型。

建立YAML檔案basic_rag_workflow.yaml並將以下內容複製到其中

 workflow_config :
  name : " standard RAG "
  nodes :
    - name : " START "
      edges : ["filter_history"]

    - name : " filter_history "
      edges : ["rewrite"]

    - name : " rewrite "
      edges : ["retrieve"]

    - name : " retrieve "
      edges : ["generate_rag"]

    - name : " generate_rag " # the name of the last node, from which we want to stream the answer to the user
      edges : ["END"]

# Maximum number of previous conversation iterations
# to include in the context of the answer
max_history : 10

# Reranker configuration
reranker_config :
  # The reranker supplier to use
  supplier : " cohere "

  # The model to use for the reranker for the given supplier
  model : " rerank-multilingual-v3.0 "

  # Number of chunks returned by the reranker
  top_n : 5

# Configuration for the LLM
llm_config :

  # maximum number of tokens passed to the LLM to generate the answer
  max_input_tokens : 4000

  # temperature for the LLM
  temperature : 0.7

使用預設配置建立一個 Brain

 from quivr_core import Brain

brain = Brain . from_files ( name = "my smart brain" ,
                        file_paths = [ "./my_first_doc.pdf" , "./my_second_doc.txt" ],
                        )

發起聊天

 brain . print_info ()

from rich . console import Console
from rich . panel import Panel
from rich . prompt import Prompt
from quivr_core . config import RetrievalConfig

config_file_name = "./basic_rag_workflow.yaml"

retrieval_config = RetrievalConfig . from_yaml ( config_file_name )

console = Console ()
console . print ( Panel . fit ( "Ask your brain !" , style = "bold magenta" ))

while True :
    # Get user input
    question = Prompt . ask ( "[bold cyan]Question[/bold cyan]" )

    # Check if user wants to exit
    if question . lower () == "exit" :
        console . print ( Panel ( "Goodbye!" , style = "bold yellow" ))
        break

    answer = brain . ask ( question , retrieval_config = retrieval_config )
    # Print the answer with typing effect
    console . print ( f"[bold green]Quivr Assistant[/bold green]: { answer . answer } " )

    console . print ( "-" * console . width )

brain . print_info ()