js agent

JS代理：使用JS＆T構建AI代理和應用程序

警告

JS代理是一個早期的圖書館，可以測試想法，並且不再積極發展。查看Modelfusion-更一般的AI庫，用於打字稿，將我從JS代理商那里納入我的學習。

JS代理是一種可組合且可擴展的框架，用於使用JavaScript和打字稿創建AI代理。

雖然創建代理原型很容易，但提高其可靠性和魯棒性很複雜，需要進行相當大的實驗。 JS代理提供強大的構建塊和工具，以幫助您更快地開發岩石固體。

文檔（js-agent.ai）

• 概念
• 教程
• API文檔

例子

Wikipedia提問

教程

可以訪問Wikipedia搜索引擎並可以閱讀Wikipedia文章的代理商。您可以使用它來回答有關Wikipedia內容的問題。

使用的功能： gpt-3.5-turbo ，自定義工具（搜索Wikipedia，閱讀Wikipedia文章），生成下一步循環，最大步驟運行控制器

JavaScript/Typescript開發人員

在Docker容器中工作的自動開發器代理。它可以讀取文件，寫文件並執行命令。您可以對項目進行調整，並使用它來記錄代碼，編寫測試，更新測試和功能等。

使用的功能： gpt-4 ，Docker容器中的工具執行，具有固定設置步驟的代理，多個代理運行屬性，生成下一步循環，工具（讀取文件，寫文件，運行，命令，命令，詢問用戶），代理運行後的費用計算

貝巴吉

JS代理商實施Babyagi。

使用的功能：HTTP代理服務器，文本完成模型（ text-davinci-003 ），自定義控制台輸出，更新任務計劃循環

PDF到Twitter線程

採用PDF和一個主題，並創建一個與主題相關的PDF所有內容的Twitter線程。

所使用的功能：功能組成（無代理），PDF加載，分裂提取 - 螺絲

分裂和嵌入文本

將文本分成塊並生成嵌入。

使用的功能：直接函數調用（無代理），拆分文本（GPT3-Tokenizer），生成嵌入

特徵

• 代理定義和執行
  • 可以通過提示訪問的可配置代理運行屬性
  • 觀察代理運行（以支持控制台輸出，UIS，服務器運行，WebApps等）
  • 記錄代理運行的所有LLM調用
  • 計算LLM通話和代理運行的成本
  • 停止代理在滿足某些條件時運行，例如限制步驟數
  • 在一個代理中使用幾種不同的LLM型號
• 代理HTTP服務器
  • 可以通過HTTP API啟動，停止和觀察代理運行
  • 可以容納多個代理
• 支持的LLM型號和API
  • OpenAI文本完成模型（ text-davinci-003等）
  • OpenAI聊天完成型號（ gpt-4 ， gpt-3.5-turbo ）
  • OpenAI嵌入型號（ text-embedding-ada-002 ）
• 動作和工具
  • 讀寫文件
  • 運行CLI命令
  • 使用可編程搜索引擎
  • 從網頁中提取有關主題的信息
  • 詢問用戶輸入
  • 寫入字符串屬性
  • 致電子代理（循環）
  • 可選代理/執行人分離（例如，在沙盒環境（例如Docker容器）中運行執行器）
• 代理傾角
  • Babyagi風格的更新任務計劃循環
  • 生成下一步循環
• 提示聊天和文本提示的模板
  • 內置模板快速啟動
    • 可用操作提示；提取信息提示；最近的步驟提示，重寫文本提示
  • 實用程序功能以組合和轉換提示
• 文本功能
  • 提取信息（提取和重寫；遞歸提取）
  • 分裂器：將文本分成塊
    • 通過性格
    • 由令牌（使用Tiktoken令牌）
  • 幫助者：加載，生成
• 數據源
  • 網頁作為html文本
  • 文件作為ArrayBuffer
• 數據轉換器
  • htmltotext
  • pdftotext
• 一般的UTILS
  • LLM呼叫重試的指數退回

設計原理

• 打字：提供盡可能多的打字以支持發現並確保安全。
• 直接函數調用：無代理或創建複合功能，所有實用程序功能都可以直接調用。
• 組合：各個部分應該具有良好的關注點，並且易於組合。
• 可擴展：用戶可以輕鬆添加自己的工具，提供商，操作，代理步驟等。
• 使用功能編程進行組成：使用功能編程組裝所有不變的對象。對象 - 方向僅用於具有可變狀態的對象（例如Step和AgentRun ）。
• 支持代理規範的逐步完善：代理規範應該易於編寫，並且每個構件都應提供良好的默認設置。同時，應該可以輕鬆地使用特定設置，提示等輕鬆覆蓋默認值。
• 構建生產：JS代理商將獲得對伐木的一流支持，將LLM電話和成本跟踪與代理運行等相關聯，等等。

快速安裝

npm install js-agent

請參閱示例和文檔，以了解如何創建代理。

示例代理

 import * as $ from "js-agent" ;

const openai = $ . provider . openai ;

export async function runWikipediaAgent ( {
  wikipediaSearchKey ,
  wikipediaSearchCx ,
  openAiApiKey ,
  task ,
} : {
  openAiApiKey : string ;
  wikipediaSearchKey : string ;
  wikipediaSearchCx : string ;
  task : string ;
} ) {
  const searchWikipediaAction = $ . tool . programmableGoogleSearchEngineAction ( {
    id : "search-wikipedia" ,
    description :
      "Search wikipedia using a search term. Returns a list of pages." ,
    execute : $ . tool . executeProgrammableGoogleSearchEngineAction ( {
      key : wikipediaSearchKey ,
      cx : wikipediaSearchCx ,
    } ) ,
  } ) ;

  const readWikipediaArticleAction = $ . tool . extractInformationFromWebpage ( {
    id : "read-wikipedia-article" ,
    description :
      "Read a wikipedia article and summarize it considering the query." ,
    inputExample : {
      url : "https://en.wikipedia.org/wiki/Artificial_intelligence" ,
      topic : "{query that you are answering}" ,
    } ,
    execute : $ . tool . executeExtractInformationFromWebpage ( {
      extract : $ . text . extractRecursively . asExtractFunction ( {
        split : $ . text . splitRecursivelyAtToken . asSplitFunction ( {
          tokenizer : openai . tokenizer . forModel ( {
            model : "gpt-3.5-turbo" ,
          } ) ,
          maxChunkSize : 2048 , // needs to fit into a gpt-3.5-turbo prompt and leave room for the answer
        } ) ,
        extract : $ . text . generateText . asFunction ( {
          prompt : $ . prompt . extractChatPrompt ( ) ,
          model : openai . chatModel ( {
            apiKey : openAiApiKey ,
            model : "gpt-3.5-turbo" ,
          } ) ,
        } ) ,
      } ) ,
    } ) ,
  } ) ;

  return $ . runAgent < { task : string } > ( {
    properties : { task } ,
    agent : $ . step . generateNextStepLoop ( {
      actions : [ searchWikipediaAction , readWikipediaArticleAction ] ,
      actionFormat : $ . action . format . flexibleJson ( ) ,
      prompt : $ . prompt . concatChatPrompts (
        async ( { runState : { task } } ) => [
          {
            role : "system" ,
            content : `## ROLE
You are an knowledge worker that answers questions using Wikipedia content. You speak perfect JSON.

## CONSTRAINTS
All facts for your answer must be from Wikipedia articles that you have read.

## TASK
${ task } ` ,
          } ,
        ] ,
        $ . prompt . availableActionsChatPrompt ( ) ,
        $ . prompt . recentStepsChatPrompt ( { maxSteps : 6 } )
      ) ,
      model : openai . chatModel ( {
        apiKey : openAiApiKey ,
        model : "gpt-3.5-turbo" ,
      } ) ,
    } ) ,
    controller : $ . agent . controller . maxSteps ( 20 ) ,
    observer : $ . agent . observer . showRunInConsole ( { name : "Wikipedia Agent" } ) ,
  } ) ;
}