fastagent

agente rápido

fastagent: una herramienta que facilita el envío de su agente a producción

Documentación

---

Advertencia

FastAgent se encuentra actualmente en desarrollo activo y en etapa alfa. Actualmente carece de funciones de seguridad SSL y CORS, así como de las pruebas exhaustivas necesarias para la implementación en producción.

Instalación

Puede instalar el proyecto usando pip: (Disponible pronto en PyPI)

pip install git+https://github.com/bastienpo/fastagent.git

Cómo utilizar el proyecto

Primero, cree una aplicación LangChain sencilla.

Creemos un archivo app.py con el ejecutable langchain más simple que pueda crear, que consta solo de un modelo de lenguaje grande.

 # pip install -qU langchain-mistralai and requires MISTRAL_API_KEY in to be set
from langchain_mistralai import ChatMistralAI

chain = ChatMistralAI ( model = "ministral-3b-latest" )

Luego, debe inicializar un archivo de configuración fastagent (fastagent.toml) usando el siguiente comando:

fastagent init

Deberá actualizar el campo de la aplicación en la sección del proyecto para que coincida con la ruta de su aplicación en el formulario:

<module_path>:<module_attribute> en su caso sería myapplication.app:chain

Si decidió utilizar una base de datos en su configuración, puede usar el comando setup para crear las tablas y configurar la base de datos.

fastagent setup

Cuando esté listo para desarrollar o enviar, puede iniciar el servidor de producción:

fastagent dev # fastagent run

La diferencia entre el comando dev y run es que dev recargará el servidor cuando cambie el código e iniciará sesión en la consola, mientras que run creará una imagen de la ventana acoplable y entregará la aplicación.

Características

Esta es la hoja de ruta actual del proyecto:

• El proyecto permite configurar un servidor simple para su agente. Solo admite langchain y postgresql para almacenar sus conversaciones y datos de autenticación.
• Permite configurar una autenticación y autorización simples basadas en tokens.
• Puede configurar diferentes middlewares CORS, autorización y limitación de velocidad.

¿Qué sigue?

Nota

Este proyecto aún está en desarrollo activo y el diseño está sujeto a cambios. Lo hago sólo como un proyecto personal porque tenía curiosidad sobre cómo enviar un agente a producción. Siéntase libre de contribuir o dar su opinión. Estoy realmente abierto a cualquier sugerencia.

Futuro próximo:

• Agregue pruebas de un extremo a otro del proyecto para langchain y langgraph.
• Añade un sistema de permisos.
• Agregue autenticación sin estado.
• Agregue soporte para más bases de datos (SQLite en particular).

Largo plazo:

• Simplifique la integración de herramientas de monitoreo y observabilidad (Langfuse, Phoenix)
• Agregue soporte para Dspy y otros marcos.

Recursos

Algunos recursos sobre las dependencias utilizadas para el proyecto y agradecimiento a los mantenedores de los proyectos por su trabajo.

• API rápida
• graniano
• Langserve

El proyecto está inspirado en LitServe.