rags

Harapos

Build.a.rags.bot.powered.by.llamaindex .-. 26.november.2023.mp4

RAGS es una aplicación aerodinámica que le permite crear una tubería RAG a partir de una fuente de datos utilizando un lenguaje natural.

Puedes hacer lo siguiente:

1. Describa su tarea (por ejemplo, "Cargue esta página web") y los parámetros que desea de sus sistemas RAG (por ejemplo, "quiero recuperar X número de documentos")
2. Vaya a la vista de configuración y vea/altere los parámetros generados (Top-K, resumen, etc.) según sea necesario.
3. Consulte el agente de RAG sobre datos con sus preguntas.

Este proyecto está inspirado en GPTS, lanzado por OpenAI.

Instalación y configuración

Clone este proyecto, vaya a la carpeta del proyecto rags . Recomendamos crear un envíe virtual para dependencias ( python3 -m venv .venv ).

 poetry install --with dev

Por defecto, utilizamos OpenAI tanto para el agente de constructor como para el agente de RAG generado. Agregue .streamlit/secrets.toml en la carpeta de inicio.

Luego pon lo siguiente:

 openai_key = "<openai_key>"

Luego ejecute la aplicación desde el archivo "Página de inicio".

streamlit run 1_?_Home.py

Nota : Si ha actualizado la versión de RAGS y se encuentra con problemas en el lanzamiento, es posible que deba eliminar la carpeta de cache en su directorio de inicio (es posible que hayamos introducido cambios de ruptura en la estructura de datos almacenados entre versiones).

Descripción detallada

La aplicación contiene las siguientes secciones, correspondientes a los pasos enumerados anteriormente.

1.? Página de inicio

Esta es la sección donde construye una tubería de trapo al instruir al "agente de constructor". Por lo general, para configurar una tubería RAG, necesita los siguientes componentes:

1. Describe el conjunto de datos. Actualmente admitimos un solo archivo local o una página web . ¡Estamos abiertos a sugerencias aquí!
2. Describe la tarea. Concretamente, esta descripción se utilizará para inicializar el "aviso del sistema" del LLM que alimenta la tubería RAG.
3. Defina los parámetros típicos para una configuración de trapo. Consulte la sección a continuación para ver la lista de parámetros.

2. Configuración de trapo

Esta sección contiene los parámetros RAG, generados por el "Agente de constructor" en la sección anterior. En esta sección, tiene una interfaz de usuario que muestra los parámetros generados y tiene plena libertad para editarlos/cambiarlos según sea necesario.

Actualmente, el conjunto de parámetros es el siguiente:

• Aviso del sistema
• Incluya resumen: si también agregar una herramienta de resumen (en lugar de solo hacer la recuperación de Top-K).
• Top-K
• Tamaño del trozo
• Modelo de incrustación
• LLM

Si cambia manualmente los parámetros, puede presionar el botón "Actualizar agente" para actualizar el agente.

 If you don't see the `Update Agent` button, that's because you haven't created the agent yet. Please go to the previous "Home" page and complete the setup process.

Siempre podemos agregar más parámetros para que esto sea más "avanzado", pero pensamos que este sería un buen lugar para comenzar.

3. Agente de trapo generado

Una vez que se crea su agente de RAG, tiene acceso a esta página.

Esta es una interfaz chatbot estándar donde puede consultar el agente de RAG y responderá preguntas sobre sus datos.

Podrá elegir las herramientas de RAG correctas (ya sea la búsqueda de vectores de Top-K o el resumen opcionalmente) para cumplir con la consulta.

LLM e incrustaciones compatibles

Agente de constructor

Por defecto, el agente del constructor usa OpenAI. Esto se define en el archivo core/builder_config.py .

Puede personalizar esto a cualquier LLM que desee (se proporciona un ejemplo para antrópico).

Tenga en cuenta que las variantes GPT-4 darán los resultados más confiables en términos de construir un agente (no pudimos lograr que Claude funcione).

Agente de trapo generado

Puede establecer la configuración a través del lenguaje natural o manualmente tanto para el modelo de incrustación como para LLM.

• LLM : Apoyamos los siguientes LLMS, pero debe especificar explícitamente la ID al agente del constructor.
  • OpenAI: ID es "OpenAI: <Model_Name>" Eg "OpenAI: GPT-4-1106-Preview"
  • Anthrope: ID es "Anthrope: <Model_Name>" Eg "Anthrope: Claude-2"
  • Replicate: ID es "Replicate: <Model_Name>"
  • Huggingface: ID es "Local: <Model_Name>" Eg "Local: Baai/BGe-Small-En"
• Incrustos : admite texto incrustado-ADA-002 de forma predeterminada, pero también es compatible con los modelos faciales para abrazar. Para usar un modelo de cara abrazada, simplemente prevenga con el local, por ejemplo, local: Baai/BGe-Small-en.

Recursos

¿Te encuentras con problemas? Por favor presente un problema de GitHub o únase a nuestra discordia.

Esta aplicación fue construida con Llamaindex Python.

Vea nuestra publicación de blog de lanzamiento aquí.