js agent

JS代理：使用JS＆T构建AI代理和应用程序

警告

JS代理是一个早期的图书馆，可以测试想法，并且不再积极发展。查看Modelfusion-更一般的AI库，用于打字稿，将我从JS代理商那里纳入我的学习。

JS代理是一种可组合且可扩展的框架，用于使用JavaScript和打字稿创建AI代理。

虽然创建代理原型很容易，但提高其可靠性和鲁棒性很复杂，需要进行相当大的实验。 JS代理提供强大的构建块和工具，以帮助您更快地开发岩石固体。

文档（js-agent.ai）

• 概念
• 教程
• API文档

例子

Wikipedia提问

教程

可以访问Wikipedia搜索引擎并可以阅读Wikipedia文章的代理商。您可以使用它来回答有关Wikipedia内容的问题。

使用的功能： gpt-3.5-turbo ，自定义工具（搜索Wikipedia，阅读Wikipedia文章），生成下一步循环，最大步骤运行控制器

JavaScript/Typescript开发人员

在Docker容器中工作的自动开发器代理。它可以读取文件，写文件并执行命令。您可以对项目进行调整，并使用它来记录代码，编写测试，更新测试和功能等。

使用的功能： gpt-4 ，Docker容器中的工具执行，具有固定设置步骤的代理，多个代理运行属性，生成下一步循环，工具（读取文件，写文件，运行，命令，命令，询问用户），代理运行后的费用计算

贝巴吉

JS代理商实施Babyagi。

使用的功能：HTTP代理服务器，文本完成模型（ text-davinci-003 ），自定义控制台输出，更新任务计划循环

PDF到Twitter线程

采用PDF和一个主题，并创建一个与主题相关的PDF所有内容的Twitter线程。

所使用的功能：功能组成（无代理），PDF加载，分裂提取 - 螺丝

分裂和嵌入文本

将文本分成块并生成嵌入。

使用的功能：直接函数调用（无代理），拆分文本（GPT3-Tokenizer），生成嵌入

特征

• 代理定义和执行
  • 可以通过提示访问的可配置代理运行属性
  • 观察代理运行（以支持控制台输出，UIS，服务器运行，WebApps等）
  • 记录代理运行的所有LLM调用
  • 计算LLM通话和代理运行的成本
  • 停止代理在满足某些条件时运行，例如限制步骤数
  • 在一个代理中使用几种不同的LLM型号
• 代理HTTP服务器
  • 可以通过HTTP API启动，停止和观察代理运行
  • 可以容纳多个代理
• 支持的LLM型号和API
  • OpenAI文本完成模型（ text-davinci-003等）
  • OpenAI聊天完成型号（ gpt-4 ， gpt-3.5-turbo ）
  • OpenAI嵌入型号（ text-embedding-ada-002 ）
• 动作和工具
  • 读写文件
  • 运行CLI命令
  • 使用可编程搜索引擎
  • 从网页中提取有关主题的信息
  • 询问用户输入
  • 写入字符串属性
  • 致电子代理（循环）
  • 可选代理/执行人分离（例如，在沙盒环境（例如Docker容器）中运行执行器）
• 代理倾角
  • Babyagi风格的更新任务计划循环
  • 生成下一步循环
• 提示聊天和文本提示的模板
  • 内置模板快速启动
    • 可用操作提示；提取信息提示；最近的步骤提示，重写文本提示
  • 实用程序功能以组合和转换提示
• 文本功能
  • 提取信息（提取和重写；递归提取）
  • 分裂器：将文本分成块
    • 通过性格
    • 由令牌（使用Tiktoken令牌）
  • 帮助者：加载，生成
• 数据源
  • 网页作为html文本
  • 文件作为ArrayBuffer
• 数据转换器
  • htmltotext
  • pdftotext
• 一般的UTILS
  • LLM呼叫重试的指数退回

设计原则

• 打字：提供尽可能多的打字以支持发现并确保安全。
• 直接函数调用：无代理或创建复合功能，所有实用程序功能都可以直接调用。
• 组合：各个部分应该具有良好的关注点，并且易于组合。
• 可扩展：用户可以轻松添加自己的工具，提供商，操作，代理步骤等。
• 使用功能编程进行组成：使用功能编程组装所有不变的对象。对象 - 方向仅用于具有可变状态的对象（例如Step和AgentRun ）。
• 支持代理规范的逐步完善：代理规范应该易于编写，并且每个构件都应提供良好的默认设置。同时，应该可以轻松地使用特定设置，提示等轻松覆盖默认值。
• 构建生产：JS代理商将获得对伐木的一流支持，将LLM电话和成本跟踪与代理运行等相关联，等等。

快速安装

npm install js-agent

请参阅示例和文档，以了解如何创建代理。

示例代理

 import * as $ from "js-agent" ;

const openai = $ . provider . openai ;

export async function runWikipediaAgent ( {
  wikipediaSearchKey ,
  wikipediaSearchCx ,
  openAiApiKey ,
  task ,
} : {
  openAiApiKey : string ;
  wikipediaSearchKey : string ;
  wikipediaSearchCx : string ;
  task : string ;
} ) {
  const searchWikipediaAction = $ . tool . programmableGoogleSearchEngineAction ( {
    id : "search-wikipedia" ,
    description :
      "Search wikipedia using a search term. Returns a list of pages." ,
    execute : $ . tool . executeProgrammableGoogleSearchEngineAction ( {
      key : wikipediaSearchKey ,
      cx : wikipediaSearchCx ,
    } ) ,
  } ) ;

  const readWikipediaArticleAction = $ . tool . extractInformationFromWebpage ( {
    id : "read-wikipedia-article" ,
    description :
      "Read a wikipedia article and summarize it considering the query." ,
    inputExample : {
      url : "https://en.wikipedia.org/wiki/Artificial_intelligence" ,
      topic : "{query that you are answering}" ,
    } ,
    execute : $ . tool . executeExtractInformationFromWebpage ( {
      extract : $ . text . extractRecursively . asExtractFunction ( {
        split : $ . text . splitRecursivelyAtToken . asSplitFunction ( {
          tokenizer : openai . tokenizer . forModel ( {
            model : "gpt-3.5-turbo" ,
          } ) ,
          maxChunkSize : 2048 , // needs to fit into a gpt-3.5-turbo prompt and leave room for the answer
        } ) ,
        extract : $ . text . generateText . asFunction ( {
          prompt : $ . prompt . extractChatPrompt ( ) ,
          model : openai . chatModel ( {
            apiKey : openAiApiKey ,
            model : "gpt-3.5-turbo" ,
          } ) ,
        } ) ,
      } ) ,
    } ) ,
  } ) ;

  return $ . runAgent < { task : string } > ( {
    properties : { task } ,
    agent : $ . step . generateNextStepLoop ( {
      actions : [ searchWikipediaAction , readWikipediaArticleAction ] ,
      actionFormat : $ . action . format . flexibleJson ( ) ,
      prompt : $ . prompt . concatChatPrompts (
        async ( { runState : { task } } ) => [
          {
            role : "system" ,
            content : `## ROLE
You are an knowledge worker that answers questions using Wikipedia content. You speak perfect JSON.

## CONSTRAINTS
All facts for your answer must be from Wikipedia articles that you have read.

## TASK
${ task } ` ,
          } ,
        ] ,
        $ . prompt . availableActionsChatPrompt ( ) ,
        $ . prompt . recentStepsChatPrompt ( { maxSteps : 6 } )
      ) ,
      model : openai . chatModel ( {
        apiKey : openAiApiKey ,
        model : "gpt-3.5-turbo" ,
      } ) ,
    } ) ,
    controller : $ . agent . controller . maxSteps ( 20 ) ,
    observer : $ . agent . observer . showRunInConsole ( { name : "Wikipedia Agent" } ) ,
  } ) ;
}