Quivr – Seu segundo cérebro, capacitado por IA generativa

Quivr, ajuda você a construir seu segundo cérebro, utiliza o poder do GenerativeAI para ser seu assistente pessoal!

Principais recursos?

RAG Opinativo : Criamos um RAG opinativo, rápido e eficiente para que você possa focar no seu produto
LLMs : Quivr funciona com qualquer LLM, você pode usá-lo com OpenAI, Anthropic, Mistral, Gemma, etc.
Qualquer arquivo : Quivr funciona com qualquer arquivo, você pode usá-lo com PDF, TXT, Markdown, etc e até adicionar seus próprios analisadores.
Personalize seu RAG : Quivr permite que você personalize seu RAG, adicione pesquisa na Internet, adicione ferramentas, etc.
Integrações com Megaparse : Quivr funciona com Megaparse, então você pode ingerir seus arquivos com Megaparse e usar o RAG com Quivr.

Cuidamos do RAG para que você possa focar no seu produto. Basta instalar o quivr-core e adicioná-lo ao seu projeto. Agora você pode processar seus arquivos e fazer perguntas.*

Estaremos melhorando o RAG e adicionando mais funcionalidades, fique ligado!

Este é o núcleo do Quivr, o cérebro do Quivr.com.

Começando ?

Você pode encontrar tudo na documentação.

Pré-requisitos?

Certifique-se de ter o seguinte instalado:

Python 3.10 ou mais recente

30 segundos Instalação ?

Passo 1 : Instale o pacote

pip install quivr-core # Check that the installation worked

Etapa 2 : Crie um RAG com 5 linhas de código

 import tempfile

from quivr_core import Brain

if __name__ == "__main__" :
    with tempfile . NamedTemporaryFile ( mode = "w" , suffix = ".txt" ) as temp_file :
        temp_file . write ( "Gold is a liquid of blue-like colour." )
        temp_file . flush ()

        brain = Brain . from_files (
            name = "test_brain" ,
            file_paths = [ temp_file . name ],
        )

        answer = brain . ask (
            "what is gold? asnwer in french"
        )
        print ( "answer:" , answer )

Configuração

Fluxos de trabalho

RAG Básico

Criar um fluxo de trabalho RAG básico como o acima é simples, aqui estão as etapas:

Adicione suas chaves de API às variáveis de ambiente

 import os
os . environ [ "OPENAI_API_KEY" ] = "myopenai_apikey"

Quivr oferece suporte a APIs de Anthropic, OpenAI e Mistral. Ele também oferece suporte a modelos locais usando Ollama.

Crie o arquivo YAML basic_rag_workflow.yaml e copie o seguinte conteúdo nele

 workflow_config :
  name : " standard RAG "
  nodes :
    - name : " START "
      edges : ["filter_history"]

    - name : " filter_history "
      edges : ["rewrite"]

    - name : " rewrite "
      edges : ["retrieve"]

    - name : " retrieve "
      edges : ["generate_rag"]

    - name : " generate_rag " # the name of the last node, from which we want to stream the answer to the user
      edges : ["END"]

# Maximum number of previous conversation iterations
# to include in the context of the answer
max_history : 10

# Reranker configuration
reranker_config :
  # The reranker supplier to use
  supplier : " cohere "

  # The model to use for the reranker for the given supplier
  model : " rerank-multilingual-v3.0 "

  # Number of chunks returned by the reranker
  top_n : 5

# Configuration for the LLM
llm_config :

  # maximum number of tokens passed to the LLM to generate the answer
  max_input_tokens : 4000

  # temperature for the LLM
  temperature : 0.7

Crie um Brain com a configuração padrão

 from quivr_core import Brain

brain = Brain . from_files ( name = "my smart brain" ,
                        file_paths = [ "./my_first_doc.pdf" , "./my_second_doc.txt" ],
                        )

Inicie um bate-papo

 brain . print_info ()

from rich . console import Console
from rich . panel import Panel
from rich . prompt import Prompt
from quivr_core . config import RetrievalConfig

config_file_name = "./basic_rag_workflow.yaml"

retrieval_config = RetrievalConfig . from_yaml ( config_file_name )

console = Console ()
console . print ( Panel . fit ( "Ask your brain !" , style = "bold magenta" ))

while True :
    # Get user input
    question = Prompt . ask ( "[bold cyan]Question[/bold cyan]" )

    # Check if user wants to exit
    if question . lower () == "exit" :
        console . print ( Panel ( "Goodbye!" , style = "bold yellow" ))
        break

    answer = brain . ask ( question , retrieval_config = retrieval_config )
    # Print the answer with typing effect
    console . print ( f"[bold green]Quivr Assistant[/bold green]: { answer . answer } " )

    console . print ( "-" * console . width )

brain . print_info ()

Agora você está pronto para conversar com seu cérebro e testar diferentes estratégias de recuperação simplesmente alterando o arquivo de configuração!

Vá mais longe

Você pode ir mais longe com o Quivr adicionando pesquisa na Internet, adicionando ferramentas, etc. Verifique a documentação para obter mais informações.

Colaboradores ✨

Os agradecimentos vão para essas pessoas maravilhosas:

Contribuir?

Você recebeu uma solicitação de pull? Abra-o e iremos analisá-lo o mais rápido possível. Confira nosso quadro de projetos aqui para ver no que estamos focados atualmente e sinta-se à vontade para trazer suas novas ideias para a mesa!