Quivr: su segundo cerebro, potenciado por la IA generativa

Quivr, te ayuda a desarrollar tu segundo cerebro, utiliza el poder de GenerativeAI para ser tu asistente personal.

Características clave?

RAG con opiniones : Creamos un RAG con opiniones, rápido y eficiente para que pueda concentrarse en su producto.
LLM : Quivr funciona con cualquier LLM, puedes usarlo con OpenAI, Anthropic, Mistral, Gemma, etc.
Cualquier archivo : Quivr funciona con cualquier archivo, puedes usarlo con PDF, TXT, Markdown, etc. e incluso agregar tus propios analizadores.
Personaliza tu RAG : Quivr te permite personalizar tu RAG, agregar búsqueda en Internet, agregar herramientas, etc.
Integraciones con Megaparse : Quivr funciona con Megaparse, por lo que puedes ingerir tus archivos con Megaparse y usar RAG con Quivr.

Nos encargamos del RAG para que puedas centrarte en tu producto. Simplemente instale quivr-core y agréguelo a su proyecto. Ahora puede ingerir sus archivos y hacer preguntas.*

Mejoraremos el RAG y agregaremos más funciones, ¡estén atentos!

Este es el núcleo de Quivr, el cerebro de Quivr.com.

Empezando ?

Puedes encontrar todo en la documentación.

¿Requisitos previos?

Asegúrese de tener instalado lo siguiente:

Python 3.10 o más reciente

30 segundos Instalación ?

Paso 1 : instalar el paquete

pip install quivr-core # Check that the installation worked

Paso 2 : crea un RAG con 5 líneas de código

 import tempfile

from quivr_core import Brain

if __name__ == "__main__" :
    with tempfile . NamedTemporaryFile ( mode = "w" , suffix = ".txt" ) as temp_file :
        temp_file . write ( "Gold is a liquid of blue-like colour." )
        temp_file . flush ()

        brain = Brain . from_files (
            name = "test_brain" ,
            file_paths = [ temp_file . name ],
        )

        answer = brain . ask (
            "what is gold? asnwer in french"
        )
        print ( "answer:" , answer )

Configuración

Flujos de trabajo

trapo básico

Crear un flujo de trabajo RAG básico como el anterior es simple, estos son los pasos:

Agregue sus claves API a sus variables de entorno

 import os
os . environ [ "OPENAI_API_KEY" ] = "myopenai_apikey"

Quivr admite API de Anthropic, OpenAI y Mistral. También soporta modelos locales usando Ollama.

Cree el archivo YAML basic_rag_workflow.yaml y copie el siguiente contenido en él

 workflow_config :
  name : " standard RAG "
  nodes :
    - name : " START "
      edges : ["filter_history"]

    - name : " filter_history "
      edges : ["rewrite"]

    - name : " rewrite "
      edges : ["retrieve"]

    - name : " retrieve "
      edges : ["generate_rag"]

    - name : " generate_rag " # the name of the last node, from which we want to stream the answer to the user
      edges : ["END"]

# Maximum number of previous conversation iterations
# to include in the context of the answer
max_history : 10

# Reranker configuration
reranker_config :
  # The reranker supplier to use
  supplier : " cohere "

  # The model to use for the reranker for the given supplier
  model : " rerank-multilingual-v3.0 "

  # Number of chunks returned by the reranker
  top_n : 5

# Configuration for the LLM
llm_config :

  # maximum number of tokens passed to the LLM to generate the answer
  max_input_tokens : 4000

  # temperature for the LLM
  temperature : 0.7

Crea un cerebro con la configuración predeterminada

 from quivr_core import Brain

brain = Brain . from_files ( name = "my smart brain" ,
                        file_paths = [ "./my_first_doc.pdf" , "./my_second_doc.txt" ],
                        )

Iniciar un chat

 brain . print_info ()

from rich . console import Console
from rich . panel import Panel
from rich . prompt import Prompt
from quivr_core . config import RetrievalConfig

config_file_name = "./basic_rag_workflow.yaml"

retrieval_config = RetrievalConfig . from_yaml ( config_file_name )

console = Console ()
console . print ( Panel . fit ( "Ask your brain !" , style = "bold magenta" ))

while True :
    # Get user input
    question = Prompt . ask ( "[bold cyan]Question[/bold cyan]" )

    # Check if user wants to exit
    if question . lower () == "exit" :
        console . print ( Panel ( "Goodbye!" , style = "bold yellow" ))
        break

    answer = brain . ask ( question , retrieval_config = retrieval_config )
    # Print the answer with typing effect
    console . print ( f"[bold green]Quivr Assistant[/bold green]: { answer . answer } " )

    console . print ( "-" * console . width )

brain . print_info ()

¡Ahora está todo listo para hablar con su cerebro y probar diferentes estrategias de recuperación simplemente cambiando el archivo de configuración!

ir más lejos

Puede ir más allá con Quivr agregando búsqueda en Internet, agregando herramientas, etc. Consulte la documentación para obtener más información.

Colaboradores ✨

Gracias a estas maravillosas personas:

Contribuir ?

¿Recibiste una solicitud de extracción? Ábrelo y lo revisaremos lo antes posible. Consulte nuestro tablero de proyectos aquí para ver en qué nos estamos enfocando actualmente y siéntase libre de aportar sus nuevas ideas.