npm install promptl-ai
Presptl은 LLM에 대한 동적 프롬프트를 정의하기위한 일반적이고 사용하기 쉬운 구문을 제공합니다. 프롬프트를 사람이 읽을 수있는 형식으로 정의하면서도 LLM의 전체 힘을 활용할 수있는 간단하지만 강력한 언어입니다.
RPC가있는 Universal WASM 모듈 덕분에 기본적으로 또는 라이브러리를 통해 WASM을 실행할 수있는 모든 언어로 프롬프트를 사용할 수 있습니다. 이들은 공식적인 바인딩입니다.
LLM이 하루 종일 더욱 강력하고 인기를 얻고 있지만, 그들에게 프롬프트를 정의하는 것은 어려운 일이 될 수 있습니다. 모든 주요 LLM 제공 업체는 차이에도 불구하고 유사한 구조를 사용하여 유사한 구조를 채택했습니다. 메시지 목록과 일련의 구성 옵션으로 정의되는 사용자와 어시스턴트 간의 대화로 구성됩니다. 이에 따라 보조 메시지를 답장으로 반환합니다.
이 구조는 다음과 같이 보입니다.
{
"model" : " <your-model> " ,
"temperature" : 0.6 ,
"messages" : [
{
"type" : " system " ,
"content" : " You are a useful AI assistant expert in geography. "
},
{
"type" : " user " ,
"content" : " Hi! What's the capital of Spain? "
}
]
}
이 구조는 간단 할 수 있지만 비 기술 사용자가 처음부터 파악하거나 쓰는 것은 어려울 수 있습니다. 이 외에도 단일 정적 프롬프트를 만드는 것이 유용하지 않습니다. 일반적으로 사용자는 사용자 입력 또는 이벤트 매개 변수를 기반으로 흐름이 변경되는 대화를 동적으로 정의해야합니다. 문제는 이러한 매개 변수를 기반으로 대화를 수정하기 위해 코드를 추가하면 혼란스럽고 반복적 일 수 있습니다. 각 프롬프트에 대해 개별적으로 수행해야합니다.
이것이 Pretml Syntax가 단계를 밟는 방법입니다. 사용자가 사용하고 이해하기에 충분히 간단한 언어를 정의합니다. 그리고 동시에, 그것은 잠재력을 극대화하려는 사용자에게 엄청난 힘을 제공합니다. 이를 통해 사용자는 이전에 구축 한 것과 동일한 구조를 정의 할 수 있지만보다 읽기 쉬운 방식으로 정의 할 수 있습니다. 또한 사용자 정의 동적 로직을 추가하여 단일 파일로 필요한 것을 만들 수 있습니다.
Premptl 구문을 사용하여 이전과 동일한 프롬프트를 살펴보십시오.
---
model: <your-model>
temperature: 0.6
---
You are a useful AI assistant expert in geography.
<user>
Hi! What's the capital of {{ country_name }}?
</user>
이 경우 구문은 더 읽기 쉽고 유지 관리 가능할뿐만 아니라 {{ country_name }}
과 같은 변수를 사용하여 동적 프롬프트 생성도 가능합니다.
이것은 프롬프트가 할 수있는 일의 작은 예일뿐입니다. 원래 구조에서 기능이나 기능을 포기하지 않고 LLM의 동적 프롬프트를 간단하고 쉬운 방법으로 정의하는 데 도움이되는 강력한 도구입니다.
웹 사이트 | 선적 서류 비치
JavaScript 라이브러리를 구축하려면 pnpm build:lib
.
RPC를 사용하여 범용 WASM 모듈을 구축하려면 먼저 javy
설치 한 다음 pnpm build:rpc
실행하십시오.