PromptGuard ajuda você a criar aplicativos GPT prontos para produção para aplicativos Node.js e TypeScript.
O objetivo do projeto PromptGuard é fornecer os recursos necessários para implantar aplicativos baseados em GPT em produção. Isso inclui:
Detectando e mitigando ataques imediatos
Cache para melhorar o desempenho e reduzir o custo das consultas GPT
Filtragem de conteúdo
Filtragem de idioma
Limitação de token
Saídas codificadas prontas para GPT
Ofuscação imediata
PromptGuard ainda é um projeto bastante jovem e adoraria sua contribuição. Se você deseja contribuir, leia primeiro o guia de contribuição e o código de conduta.
Solicitações de recursos e relatórios de bugs são bem-vindos!
Opção | Valor padrão | Descrição |
---|---|---|
maxTokens | 4096 | A quantidade máxima de tokens que o prompt pode conter. Restringir a quantidade máxima de tokens pode reduzir o custo da consulta GPT e a oportunidade de ataques imediatos. Você pode ler mais informações sobre tokens aqui. Se o prompt exceder o máximo de tokens, o PromptGuard rejeitará o prompt com a seguinte saída: { pass: false, output: EXCEEDS_MAX_TOKEN_THRESHOLD } |
lista negada | [""] | Uma matriz de literais de string que não devem aparecer no texto do prompt. Se o PromptGuard encontrar uma correspondência na lista de negações, ele será rejeitado com a seguinte saída:{ pass: false, output: CONTAINS_DENY_LIST_ITEM } |
desativarAttackMitigation | false | Uma lista de ataques e injeções de prompt conhecidos que são verificados em relação ao prompt. No futuro, isso se tornará mais sofisticado. Se o PromptGuard encontrar uma correspondência padrão na lista de negações, ele rejeitará o prompt com a seguinte saída: { pass: false, output: CONTAINS_KNOWN_ATTACK } |
codificarSaída | false | Codifica a saída como tokens GPT-3. Você pode ler mais informações sobre tokens aqui. |
Instalar
npm instalar @gtpsafe/promptguard
Configurar
importar { PromptGuard } de "@gtpsafe/promptguard"const promptGuard = new PromptGuard({ máximoTokens: 200, denyList:['baz'],});
Processar um prompt
const output = await promptGuard.process("Este é o meu prompt incrível. Existem muitos parecidos, mas este é o meu.")
Saída
{ passar: verdadeiro, resultado: "Este é meu prompt incrível. Existem muitos semelhantes, mas este é meu."}