js agent

Agen JS: Bangun Agen & Aplikasi AI dengan JS & TS

Peringatan

Agen JS adalah perpustakaan awal untuk menguji ide dan tidak dikembangkan secara aktif lagi. Lihat Modelfusi - perpustakaan AI yang lebih umum untuk TypeScript yang menggabungkan pembelajaran saya dari agen JS.

JS Agent adalah kerangka kerja yang dapat dikomposisi dan dapat diperluas untuk membuat agen AI dengan JavaScript dan TypeScript.

Meskipun membuat prototipe agen itu mudah, meningkatkan keandalan dan kekokohannya kompleks dan membutuhkan eksperimen yang cukup besar. Agen JS menyediakan blok bangunan yang kuat dan perkakas untuk membantu Anda mengembangkan agen-agen yang kuat lebih cepat.

Dokumentasi (JS-AGENT.AI)

• Konsep
• Tutorial
• API Docs

Contoh

Wikipedia pertanyaan pertanyaan

Tutorial

Agen yang memiliki akses ke mesin pencari Wikipedia dan dapat membaca artikel Wikipedia. Anda dapat menggunakannya untuk menjawab pertanyaan tentang konten Wikipedia.

Fitur yang Digunakan: gpt-3.5-turbo , Alat Kustom (Cari Wikipedia, Baca Artikel Wikipedia), Hasilkan Langkah Langkah Berikutnya, Pengontrol Max Step Run Controller

Pengembang JavaScript/TypeScript

Agen pengembang otomatis yang bekerja dalam wadah Docker. Itu dapat membaca file, menulis file dan menjalankan perintah. Anda dapat menyesuaikannya untuk proyek Anda dan menggunakannya untuk mendokumentasikan kode, menulis tes, memperbarui tes dan fitur, dll.

Fitur yang Digunakan: gpt-4 , Eksekusi Alat di Docker Container, Agen Dengan Langkah-Langkah Setup Tetap, Multiple Agent Run Properties, Hasilkan Langkah Langkah Berikutnya, Alat (Baca File, Tulis File, Jalankan, Perintah, Tanyakan Pengguna), Perhitungan Biaya Setelah Run Agen Jalankan

Babyagi

Implementasi Agen JS dari Babyagi.

Fitur yang Digunakan: Server Agen HTTP, Model Penyelesaian Teks ( text-davinci-003 ), Output Konsol yang Disesuaikan, Perbarui Loop Perencanaan Tugas

PDF ke utas Twitter

Mengambil PDF dan topik dan membuat utas Twitter dengan semua konten dari PDF yang relevan dengan topik tersebut.

Fitur yang Digunakan: Komposisi Fungsi (No Agent), Pemuatan PDF, Split-Extract-Rewrite

Pisahkan dan Embed Teks

Membagi teks menjadi potongan -potongan dan menghasilkan embeddings.

Fitur yang Digunakan: Panggilan Fungsi Langsung (No Agent), Split Text (GPT3-Tokenizer), menghasilkan embeddings

Fitur

• Definisi dan Eksekusi Agen
  • Agen yang dapat dikonfigurasi menjalankan properti yang dapat diakses dengan prompt
  • Amati Run Agen (untuk mendukung output konsol, UI, server, WebApps, dll.)
  • Rekam semua panggilan LLM dari Run Agen
  • Hitung biaya panggilan LLM dan agen berjalan
  • Stop Agent berjalan ketika kriteria tertentu dipenuhi, misalnya untuk membatasi jumlah langkah
  • Gunakan beberapa model LLM yang berbeda dalam satu agen
• Agen HTTP Server
  • Run agen dapat dimulai, dihentikan, dan diamati melalui HTTP API
  • Dapat meng -host beberapa agen
• Model dan API LLM yang didukung
  • Model Penyelesaian Teks OpenAI ( text-davinci-003 dll.)
  • Model Penyelesaian Openai Obrolan ( gpt-4 , gpt-3.5-turbo )
  • Model embedding openai ( text-embedding-ada-002 )
• Tindakan dan alat
  • File Baca dan Tulis
  • Jalankan perintah CLI
  • Gunakan mesin pencari yang dapat diprogram
  • Ekstrak informasi tentang topik dari halaman web
  • Minta Pengguna Input
  • Tulis ke Properti String
  • Panggil Sub-Agen (Loop)
  • Agen Opsional/Pemisahan Eksekutor (misalnya menjalankan pelaksana di lingkungan kotak pasir seperti wadah Docker)
• Agen lops
  • Tugas Pembaruan Gaya Babyagi Loop Perencanaan
  • Hasilkan Loop Langkah Berikutnya
• Template prompt untuk diminta obrolan dan teks
  • Template bawaan untuk awal yang cepat
    • Tindakan yang tersedia cepat; mengekstrak permintaan informasi; Prompt Langkah Terbaru, Tulis Ulang Prompt Teks
  • Fungsi utilitas untuk menggabungkan dan mengonversi petunjuk
• Fungsi teks
  • Ekstrak Informasi (Ekstrak & Tulis ulang; ekstrak secara rekursif)
  • Splitters: split teks menjadi potongan
    • Oleh karakter
    • Oleh token (menggunakan Tiktoken Tokenizer)
  • Pembantu: Muat, hasilkan
• Sumber Data
  • Halaman web sebagai teks html
  • File sebagai arraybuffer
• Konverter Data
  • htmltotext
  • pdftotext
• Util umum
  • LLM Panggilan Retry dengan backoff eksponensial

Prinsip desain

• Dipetik : Berikan pengetikan sebanyak mungkin untuk mendukung penemuan dan memastikan keamanan.
• Panggilan Fungsi Langsung : Semua fungsi utilitas dapat dipanggil secara langsung tanpa agen atau membuat fungsi komposit.
• Komposable : Potongan individu harus memiliki pemisahan kekhawatiran yang baik dan mudah digabungkan.
• Extensible : Seharusnya mudah bagi pengguna untuk menambahkan alat mereka sendiri, penyedia, tindakan, langkah agen, dll.
• Gunakan pemrograman fungsional untuk komposisi : Semua objek yang tidak dapat diubah dirakit menggunakan pemrograman fungsional. Objek-orientasi hanya digunakan untuk objek yang memiliki keadaan yang dapat berubah (misalnya Step dan AgentRun ).
• Mendukung penyempurnaan progresif dari spesifikasi agen : Spesifikasi agen harus mudah ditulis dan setiap blok bangunan harus memberikan default yang baik. Pada saat yang sama, harus dimungkinkan untuk dengan mudah mengesampingkan default dengan pengaturan tertentu, petunjuk, dll.
• Build for Production : Agen JS akan memiliki dukungan kelas satu untuk logging, mengaitkan panggilan LLM dan pelacakan biaya dengan menjalankan agen, dll.

Instalasi cepat

npm install js-agent

Lihat contoh dan dokumentasi untuk mempelajari cara membuat agen.

Agen contoh

 import * as $ from "js-agent" ;

const openai = $ . provider . openai ;

export async function runWikipediaAgent ( {
  wikipediaSearchKey ,
  wikipediaSearchCx ,
  openAiApiKey ,
  task ,
} : {
  openAiApiKey : string ;
  wikipediaSearchKey : string ;
  wikipediaSearchCx : string ;
  task : string ;
} ) {
  const searchWikipediaAction = $ . tool . programmableGoogleSearchEngineAction ( {
    id : "search-wikipedia" ,
    description :
      "Search wikipedia using a search term. Returns a list of pages." ,
    execute : $ . tool . executeProgrammableGoogleSearchEngineAction ( {
      key : wikipediaSearchKey ,
      cx : wikipediaSearchCx ,
    } ) ,
  } ) ;

  const readWikipediaArticleAction = $ . tool . extractInformationFromWebpage ( {
    id : "read-wikipedia-article" ,
    description :
      "Read a wikipedia article and summarize it considering the query." ,
    inputExample : {
      url : "https://en.wikipedia.org/wiki/Artificial_intelligence" ,
      topic : "{query that you are answering}" ,
    } ,
    execute : $ . tool . executeExtractInformationFromWebpage ( {
      extract : $ . text . extractRecursively . asExtractFunction ( {
        split : $ . text . splitRecursivelyAtToken . asSplitFunction ( {
          tokenizer : openai . tokenizer . forModel ( {
            model : "gpt-3.5-turbo" ,
          } ) ,
          maxChunkSize : 2048 , // needs to fit into a gpt-3.5-turbo prompt and leave room for the answer
        } ) ,
        extract : $ . text . generateText . asFunction ( {
          prompt : $ . prompt . extractChatPrompt ( ) ,
          model : openai . chatModel ( {
            apiKey : openAiApiKey ,
            model : "gpt-3.5-turbo" ,
          } ) ,
        } ) ,
      } ) ,
    } ) ,
  } ) ;

  return $ . runAgent < { task : string } > ( {
    properties : { task } ,
    agent : $ . step . generateNextStepLoop ( {
      actions : [ searchWikipediaAction , readWikipediaArticleAction ] ,
      actionFormat : $ . action . format . flexibleJson ( ) ,
      prompt : $ . prompt . concatChatPrompts (
        async ( { runState : { task } } ) => [
          {
            role : "system" ,
            content : `## ROLE
You are an knowledge worker that answers questions using Wikipedia content. You speak perfect JSON.

## CONSTRAINTS
All facts for your answer must be from Wikipedia articles that you have read.

## TASK
${ task } ` ,
          } ,
        ] ,
        $ . prompt . availableActionsChatPrompt ( ) ,
        $ . prompt . recentStepsChatPrompt ( { maxSteps : 6 } )
      ) ,
      model : openai . chatModel ( {
        apiKey : openAiApiKey ,
        model : "gpt-3.5-turbo" ,
      } ) ,
    } ) ,
    controller : $ . agent . controller . maxSteps ( 20 ) ,
    observer : $ . agent . observer . showRunInConsole ( { name : "Wikipedia Agent" } ) ,
  } ) ;
}