Quivr — ваш второй мозг, усиленный генеративным искусственным интеллектом

Quivr помогает вам создать второй мозг и использует возможности GenerativeAI в качестве вашего личного помощника!

Ключевые особенности?

Упрямая RAG : мы создали самоуверенную, быструю и эффективную RAG, чтобы вы могли сосредоточиться на своем продукте.
LLM : Quivr работает с любым LLM, вы можете использовать его с OpenAI, Anthropic, Mistral, Gemma и т. д.
Любой файл : Quivr работает с любым файлом, вы можете использовать его с PDF, TXT, Markdown и т. д. и даже добавлять свои собственные анализаторы.
Настройте свою RAG : Quivr позволяет вам настроить свою RAG, добавить поиск в Интернете, инструменты и т. д.
Интеграция с Megaparse : Quivr работает с Megaparse, поэтому вы можете импортировать файлы с помощью Megaparse и использовать RAG с Quivr.

Мы позаботимся о Тряпке, чтобы вы могли сосредоточиться на своем продукте. Просто установите quivr-core и добавьте его в свой проект. Теперь вы можете добавлять свои файлы и задавать вопросы.*

Мы будем улучшать RAG и добавлять новые функции, следите за обновлениями!

Это ядро Quivr, мозг Quivr.com.

Начиная ?

Все можно найти в документации.

Предпосылки?

Убедитесь, что у вас установлено следующее:

Python 3.10 или новее

30 секунд Установка?

Шаг 1 : Установите пакет

pip install quivr-core # Check that the installation worked

Шаг 2. Создайте RAG с 5 строками кода.

 import tempfile

from quivr_core import Brain

if __name__ == "__main__" :
    with tempfile . NamedTemporaryFile ( mode = "w" , suffix = ".txt" ) as temp_file :
        temp_file . write ( "Gold is a liquid of blue-like colour." )
        temp_file . flush ()

        brain = Brain . from_files (
            name = "test_brain" ,
            file_paths = [ temp_file . name ],
        )

        answer = brain . ask (
            "what is gold? asnwer in french"
        )
        print ( "answer:" , answer )

Конфигурация

Рабочие процессы

Базовая ТРЯПКА

Создать базовый рабочий процесс RAG, подобный приведенному выше, просто, вот шаги:

Добавьте свои ключи API в переменные среды.

 import os
os . environ [ "OPENAI_API_KEY" ] = "myopenai_apikey"

Quivr поддерживает API от Anthropic, OpenAI и Mistral. Он также поддерживает локальные модели с использованием Ollama.

Создайте файл YAML basic_rag_workflow.yaml и скопируйте в него следующее содержимое.

 workflow_config :
  name : " standard RAG "
  nodes :
    - name : " START "
      edges : ["filter_history"]

    - name : " filter_history "
      edges : ["rewrite"]

    - name : " rewrite "
      edges : ["retrieve"]

    - name : " retrieve "
      edges : ["generate_rag"]

    - name : " generate_rag " # the name of the last node, from which we want to stream the answer to the user
      edges : ["END"]

# Maximum number of previous conversation iterations
# to include in the context of the answer
max_history : 10

# Reranker configuration
reranker_config :
  # The reranker supplier to use
  supplier : " cohere "

  # The model to use for the reranker for the given supplier
  model : " rerank-multilingual-v3.0 "

  # Number of chunks returned by the reranker
  top_n : 5

# Configuration for the LLM
llm_config :

  # maximum number of tokens passed to the LLM to generate the answer
  max_input_tokens : 4000

  # temperature for the LLM
  temperature : 0.7

Создайте мозг с конфигурацией по умолчанию.

 from quivr_core import Brain

brain = Brain . from_files ( name = "my smart brain" ,
                        file_paths = [ "./my_first_doc.pdf" , "./my_second_doc.txt" ],
                        )

Запустить чат

 brain . print_info ()

from rich . console import Console
from rich . panel import Panel
from rich . prompt import Prompt
from quivr_core . config import RetrievalConfig

config_file_name = "./basic_rag_workflow.yaml"

retrieval_config = RetrievalConfig . from_yaml ( config_file_name )

console = Console ()
console . print ( Panel . fit ( "Ask your brain !" , style = "bold magenta" ))

while True :
    # Get user input
    question = Prompt . ask ( "[bold cyan]Question[/bold cyan]" )

    # Check if user wants to exit
    if question . lower () == "exit" :
        console . print ( Panel ( "Goodbye!" , style = "bold yellow" ))
        break

    answer = brain . ask ( question , retrieval_config = retrieval_config )
    # Print the answer with typing effect
    console . print ( f"[bold green]Quivr Assistant[/bold green]: { answer . answer } " )

    console . print ( "-" * console . width )

brain . print_info ()

Теперь все готово для общения со своим мозгом и тестирования различных стратегий поиска, просто изменив файл конфигурации!

Иди дальше

Вы можете пойти дальше с Quivr, добавив поиск в Интернете, добавив инструменты и т. д. Дополнительную информацию можно найти в документации.

Авторы ✨

Спасибо этим замечательным людям:

Способствовать ?

Вы получили запрос на вытягивание? Откройте его, и мы рассмотрим его как можно скорее. Посетите нашу доску проектов здесь, чтобы узнать, над чем мы сейчас концентрируемся, и не стесняйтесь предлагать свои свежие идеи!