js agent

Agente de JS: construir agentes y aplicaciones de IA con JS y TS

Advertencia

JS Agent fue una biblioteca temprana para probar ideas y ya no se desarrolla activamente. Consulte Modelfusion: una biblioteca de IA más general para TypeScript que incorpore mis aprendizajes de JS Agent.

JS Agent es un marco composible y extensible para crear agentes de IA con JavaScript y TypeScript.

Si bien crear un prototipo de agente es fácil, aumentar su confiabilidad y robustez es compleja y requiere una experimentación considerable. JS Agent proporciona bloques de construcción y herramientas robustos para ayudarlo a desarrollar agentes sólidos de roca más rápido.

Documentación (JS-Agent.ai)

• Conceptos
• Tutorial
• Documentos de API

Ejemplos

Wikipedia Pregunta Respuesta

Tutorial

Un agente que tiene acceso a un motor de búsqueda de Wikipedia y puede leer artículos de Wikipedia. Puede usarlo para responder preguntas sobre el contenido de Wikipedia.

Características utilizadas: gpt-3.5-turbo , Herramientas personalizadas (búsqueda de wikipedia, lea el artículo de Wikipedia), genere el siguiente bucle de paso, controlador de ejecución de pasos máximos

Desarrollador de JavaScript/TypeScript

Un agente de desarrolladores automatizado que funciona en un contenedor Docker. Puede leer archivos, escribir archivos y ejecutar comandos. Puede ajustarlo para su proyecto y usarlo para documentar el código, escribir pruebas, actualizar pruebas y características, etc.

Características utilizadas: gpt-4 , ejecución de herramientas en Docker Container, agente con pasos de configuración fijos, múltiples propiedades de ejecución del agente, generar el siguiente bucle de paso, herramientas (archivo de lectura, archivo de escritura, ejecutar, comando, solicitar el usuario), cálculo de costos después de la ejecución del agente

Babyagi

Implementación del agente JS de Babyagi.

Características utilizadas: servidor de agente HTTP, modelo de finalización de texto ( text-davinci-003 ), salida de consola personalizada, actualización de tareas de planificación de tareas de planificación

Hilo de PDF a Twitter

Toma un PDF y un tema y crea un hilo de Twitter con todo el contenido del PDF que sea relevante para el tema.

Características utilizadas: Composición de funciones (sin agente), carga PDF, recurso de extracto dividido

Dividir e incrustar texto

Divide un texto en trozos y genera incrustaciones.

Características utilizadas: llamadas de función directa (sin agente), texto dividido (gpt3-tokenizer), generar incrustaciones

Características

• Definición y ejecución del agente
  • Agente configurable Ejecutar propiedades a las que se puede acceder mediante indicaciones
  • Observe las ejecuciones del agente (para admitir la salida de consola, UIS, ejecuciones de servidor, aplicación web, etc.)
  • Registre todas las llamadas de LLM de un agente ejecutado
  • Calcule el costo de las llamadas de LLM y se ejecuta el agente
  • El agente de parada se ejecuta cuando se cumplen ciertos criterios, por ejemplo, para limitar el número de pasos
  • Use varios modelos LLM diferentes en un agente
• Servidor HTTP de agente
  • Las ejecuciones del agente se pueden iniciar, detener y observar a través de la API HTTP
  • Puede alojar múltiples agentes
• Modelos LLM compatibles y API
  • Modelos de finalización de texto de OpenAI ( text-davinci-003 etc.)
  • Modelos de finalización de chat de Operai ( gpt-4 , gpt-3.5-turbo )
  • Modelo de incrustación de OpenAI ( text-embedding-ada-002 )
• Acciones y herramientas
  • Leer y escribir archivo
  • Ejecutar el comando CLI
  • Use motor de búsqueda programable
  • Extraiga información sobre el tema de la página web
  • Solicitar al usuario la entrada
  • Escribir a la propiedad de cadena
  • Llame al subgent (bucle)
  • Separación opcional de agente/ejecutor (por ejemplo, ejecute el ejecutor en un entorno de sandbox, como un contenedor de Docker)
• Agente Lops
  • Tareas de actualización de estilo babyagi bucle de planificación
  • Genere el siguiente bucle de paso
• Plantillas de inmediato para el chat y las indicaciones de texto
  • Plantillas incorporadas para inicio rápido
    • Acciones disponibles indicadas; Extraer indicaciones de información; Pasos recientes Aplicado, Reescribir el texto del texto
  • Funciones de utilidad para combinar y convertir indicaciones
• Funciones de texto
  • Extraer información (extraer y reescribir; extraer recursivamente)
  • Splitters: divide el texto en trozos
    • Por carácter
    • Por token (usando Tiktoken Tokenizer)
  • Ayudantes: cargar, generar
• Fuentes de datos
  • Página web como texto HTML
  • Archivo como arraybuffer
• Convertidores de datos
  • htmltotext
  • pdftotext
• Utils generales
  • LLM llame al reintento con backoff exponencial

Principios de diseño

• Tipo : proporcione la mayor cantidad de mecanografía posible para apoyar el descubrimiento y garantizar la seguridad.
• Llamadas de función directa : todas las funciones de utilidad se pueden llamar directamente sin un agente o crear funciones compuestas.
• Componible : las piezas individuales deben tener una buena separación de preocupaciones y ser fácil de combinar.
• Extensible : debe ser fácil para los usuarios agregar sus propias herramientas, proveedores, acciones, pasos de agente, etc.
• Use la programación funcional para la composición : todos los objetos que son inmutables se ensamblan utilizando la programación funcional. La orientación de objetos solo se usa para objetos que tienen un estado cambiante (por ejemplo, Step y AgentRun ).
• Apoye el refinamiento progresivo de las especificaciones del agente : las especificaciones del agente deben ser fáciles de escribir y cada bloque de construcción debe proporcionar buenos valores predeterminados. Al mismo tiempo, debería ser posible anular fácilmente los valores predeterminados con configuraciones específicas, indicaciones, etc.
• Construir para la producción : el agente JS tendrá soporte de primera clase para registrar, asociar llamadas LLM y seguimiento de costos con ejecuciones de agentes, etc.

Instalación rápida

npm install js-agent

Vea los ejemplos y la documentación para aprender a crear un agente.

Agente de ejemplo

 import * as $ from "js-agent" ;

const openai = $ . provider . openai ;

export async function runWikipediaAgent ( {
  wikipediaSearchKey ,
  wikipediaSearchCx ,
  openAiApiKey ,
  task ,
} : {
  openAiApiKey : string ;
  wikipediaSearchKey : string ;
  wikipediaSearchCx : string ;
  task : string ;
} ) {
  const searchWikipediaAction = $ . tool . programmableGoogleSearchEngineAction ( {
    id : "search-wikipedia" ,
    description :
      "Search wikipedia using a search term. Returns a list of pages." ,
    execute : $ . tool . executeProgrammableGoogleSearchEngineAction ( {
      key : wikipediaSearchKey ,
      cx : wikipediaSearchCx ,
    } ) ,
  } ) ;

  const readWikipediaArticleAction = $ . tool . extractInformationFromWebpage ( {
    id : "read-wikipedia-article" ,
    description :
      "Read a wikipedia article and summarize it considering the query." ,
    inputExample : {
      url : "https://en.wikipedia.org/wiki/Artificial_intelligence" ,
      topic : "{query that you are answering}" ,
    } ,
    execute : $ . tool . executeExtractInformationFromWebpage ( {
      extract : $ . text . extractRecursively . asExtractFunction ( {
        split : $ . text . splitRecursivelyAtToken . asSplitFunction ( {
          tokenizer : openai . tokenizer . forModel ( {
            model : "gpt-3.5-turbo" ,
          } ) ,
          maxChunkSize : 2048 , // needs to fit into a gpt-3.5-turbo prompt and leave room for the answer
        } ) ,
        extract : $ . text . generateText . asFunction ( {
          prompt : $ . prompt . extractChatPrompt ( ) ,
          model : openai . chatModel ( {
            apiKey : openAiApiKey ,
            model : "gpt-3.5-turbo" ,
          } ) ,
        } ) ,
      } ) ,
    } ) ,
  } ) ;

  return $ . runAgent < { task : string } > ( {
    properties : { task } ,
    agent : $ . step . generateNextStepLoop ( {
      actions : [ searchWikipediaAction , readWikipediaArticleAction ] ,
      actionFormat : $ . action . format . flexibleJson ( ) ,
      prompt : $ . prompt . concatChatPrompts (
        async ( { runState : { task } } ) => [
          {
            role : "system" ,
            content : `## ROLE
You are an knowledge worker that answers questions using Wikipedia content. You speak perfect JSON.

## CONSTRAINTS
All facts for your answer must be from Wikipedia articles that you have read.

## TASK
${ task } ` ,
          } ,
        ] ,
        $ . prompt . availableActionsChatPrompt ( ) ,
        $ . prompt . recentStepsChatPrompt ( { maxSteps : 6 } )
      ) ,
      model : openai . chatModel ( {
        apiKey : openAiApiKey ,
        model : "gpt-3.5-turbo" ,
      } ) ,
    } ) ,
    controller : $ . agent . controller . maxSteps ( 20 ) ,
    observer : $ . agent . observer . showRunInConsole ( { name : "Wikipedia Agent" } ) ,
  } ) ;
}