spellbook forge

??? Forja del libro de hechizos

Haga que sus indicaciones de LLM sean ejecutables y controladas por versión.

Inicio rápido

En su servidor Express:

yarn add spellbook-forge

 import { spellbookForge } from "spellbook-forge" ;

const app = express ( )
  . use ( spellbookForge ( {
    gitHost : 'https://github.com'
  } ) )

y luego:

 GET http://localhost:3000/your/repository/prompt?execute

<-- HTTP 200
{
  "prompt-content": "Complete this phrase in coders’ language: Hello …",
  "model": "gpt3.5",
  "result": "Hello, World!"
}

¡Vea ejemplos en vivo para probarlo!

? ¿Qué es esto?

Este es un middleware ExpressJS que le permite crear una interfaz API para sus indicaciones de LLM. Generará automáticamente un servidor para sus mensajes almacenados en un repositorio de git. Usando Spellbook, puedes:

• Almacene y administre indicaciones de LLM en una herramienta familiar: un repositorio de git
• Ejecute indicaciones con el modelo elegido y obtenga resultados utilizando una API simple
• Conéctese al sistema de plantillas LangChain
• Realizar operaciones CRUD básicas según indicaciones

Nota: es una versión anterior. Espere errores, cambios importantes y un rendimiento deficiente.

Pruébalo

Este repositorio de avisos: https://github.com/rafalzawadzki/spellbook-prompts/hello-world

Se puede ejecutar así: https://book.spell.so/rafalzawadzki/spellbook-prompts/hello-world?execute

➡️ Servidor de libro de hechizos: https://book.spell.so

El servidor utiliza spellbook-forge y actualmente está conectado a Github como host git. Puede utilizar cualquier repositorio público que contenga indicaciones (siempre que cumplan con el formato aceptado).

Por ejemplo, usando un repositorio rafalzawadzki/spellbook-prompts, puedes formar un punto final (y muchos más):

https://book.spell.so/rafalzawadzki/spellbook-prompts/hello-world

Documentación

¡La documentación completa estará disponible próximamente!

Clave abierta AI

Si desea utilizar la consulta execute en su propia instancia de Spellbook-Forge, debe proporcionar una clave API de OpenAI en un archivo .env o variables env:

OPENAI_API_KEY=your-key

Dependencias principales

1. ?? LangChain.js
2. simple-git

formato de aviso

Los archivos de solicitud deben cumplir con un formato específico (JSON/YAML). Vea ejemplos aquí aquí.

Ejemplo

 ├── prompt1
│   ├── prompt . json
│   └── readme . md
└── collection
    └── prompt2
        ├── prompt . yaml
        └── readme . md

La estructura de archivos anterior dará como resultado que se generen los siguientes puntos finales de API:

{host}/prompt1

{host}/collection/prompt2

Archivos

1. prompt.json el archivo principal con el contenido y la configuración del mensaje.
2. readme.md información adicional sobre el uso rápido, ejemplos, etc.

API

CRUD

• GET {host}/path/to/prompt - obtener contenido rápido

• POST {host}/path/to/prompt - insertar contenido del mensaje

• DELETE {host}/path/to/prompt - eliminar mensaje (¡junto con el archivo Léame y los metadatos!)

Ejecución

• GET {host}/path/to/prompt?execute : para mensajes simples sin plantillas

• POST {host}/path/to/prompt?execute - para mensajes con plantillas (recomendado)

 // request body
{
  "variables": [
    "name": "World"
  ]
}

• GET {host}/path/to/prompt?execute=gpt4 - con un modelo diferente (aún no implementado)

Usando con LangChain

Puede recuperar el contenido del mensaje y ejecutarlo usando LangChain:

 import { PromptTemplate } from "langchain/prompts" ;

export const run = async ( ) => {
  const template = await fetch (
          "https://book.spell.so/rafalzawadzki/spellbook-prompts/hello-world"
  ) . then ( ( res ) => res . text ( ) ) ;
  const prompt = new PromptTemplate ( { template , inputVariables : [ "product" ] } )
  // do something with the prompt ...
}

La solución presentada tiene sentido principalmente en el encadenamiento; para indicaciones simples, es mejor usar Spellbook directamente.

En el futuro, puedo contribuir a ampliar la función prompt/load de LangChain para admitir la carga de indicaciones desde Spellbook, por ejemplo:

 import { loadPrompt } from "langchain/prompts/load" ;
const prompt = await loadPrompt ( "{spellbook-host}/hello-world/prompt" ) ; 

☑️ Todo

• Documentación
  • Clave API de OpenAI
  • API generada
  • Plantillas
  • Usando con LangChain
  • formato de aviso
  • Modelos disponibles
• Agregar funcionalidad faltante
  • POST /prompt?execute con cuerpo
  • Soporte para diferentes modelos, por ejemplo. execute=gpt4
  • Manejo elegante de errores
  • Formato de respuesta