npm install promptl-ai
Proftl提供了一種常見的,易於使用的語法,用於定義LLM的動態提示。這是一種簡單而強大的語言,可讓您以人為可讀的格式定義提示,同時仍然能夠利用LLM的全部功能。
多虧了帶有RPC的通用WASM模塊,您可以使用任何可以在本地運行WASM或通過庫來運行WASM的語言。這些是官方綁定:
雖然LLM在白天變得越來越強大和受歡迎,但為它們定義提示可能是一項艱鉅的任務。所有主要的LLM提供商儘管有所不同,但仍採用了類似的結構來提示。它由用戶和助手之間的對話組成,該對話由消息列表和一系列配置選項定義。作為回應,它將作為答復返回助手消息。
這種結構看起來像這樣:
{
"model" : " <your-model> " ,
"temperature" : 0.6 ,
"messages" : [
{
"type" : " system " ,
"content" : " You are a useful AI assistant expert in geography. "
},
{
"type" : " user " ,
"content" : " Hi! What's the capital of Spain? "
}
]
}
這種結構可能很簡單,但是非技術用戶很難從頭開始掌握或編寫它。除此之外,創建單個靜態提示沒有那麼有用。通常,用戶需要動態定義對話,其中流量基於用戶輸入或事件參數變化。問題是,添加代碼以根據這些參數修改對話可能會變得令人困惑和重複 - 每個提示都需要單獨完成。
這就是Picterl語法介入的方式。它定義了一種簡單的語言,以至於任何用戶都無法使用和理解。而且,與此同時,它為想要發揮其潛力最大化的用戶提供了巨大的力量。它允許用戶定義以前構建的相同結構,但以更可讀性的方式定義。另外,他們可以添加自定義動態邏輯以創建所需的任何內容,僅在一個文件中。
使用Pickerl語法來查看與以前相同的提示:
---
model: <your-model>
temperature: 0.6
---
You are a useful AI assistant expert in geography.
<user>
Hi! What's the capital of {{ country_name }}?
</user>
在這種情況下,不僅語法更具可讀性和可維護性,而且還可以通過使用{{ country_name }}
之類的變量來動態生成提示。
這只是下降可以做什麼的一個小例子。它是一個強大的工具,可以幫助您以簡單簡便的方式為LLMS定義動態提示,而無需放棄原始結構中的任何功能或功能。
網站|文件
要構建JavaScript庫,請運行pnpm build:lib
。
要使用RPC構建通用WASM模塊,請首先安裝javy
,然後運行pnpm build:rpc
。