Expander rápido
Um rápido expansor Openai.
Introdução
Esse repositório diz respeito a um expansor rápido : uma prova de software conceitual que usa a própria API do OpenAI para melhorar o desempenho de uma tarefa solicitada na entrada de um agente hipotético.
Na minha opinião , uma expansão inicial do prompt deve ser a primeira tarefa que um agente deve executar . A otimizar o prompt inicial (com algo como gramática) também pode ajudar a gerar uma resposta melhor.
Além disso, um agente deve extrair o máximo de informações possível da tarefa de entrada, como: localizações geográficas , códigos de idioma ISO 639-1 , URLs , etc. para possível uso posterior.
IMPORTANTE: Usando o Markdown como o formato para solicitar respostas aos avisos abre a possibilidade de usar regexes comuns para gerenciar a saída do GPT 3.5/4, aproveitando a previsibilidade da saída .
Os recursos vão:
- Expansão de uma tarefa em várias etapas intermediárias necessárias para executar a tarefa (implementada)
- Correção de idiomas (gramática, etc.) do prompt (implementado)
- Entenda se a tarefa inclui localizações geográficas e extrai -a (implementada)
- Entenda o idioma da tarefa e responda com o código ISO 639-1 (implementado)
- Entenda se a tarefa inclui um URL e extrai -o (implementado)
- Entenda se uma pesquisa no Google é necessária para realizar uma etapa e, se a resposta é positiva, realize -a (parcialmente implementada)
- Entenda se é necessário raspar de uma página da web para realizar uma etapa (parcialmente implementada)
- Salvando logs detalhados no disco (no formato de marcação), necessário posteriormente para reconstruir a cadeia de entradas/solicitações/saídas (para fazer)
- Uso do Markdown como padrão para processamento (tanto para previsibilidade do OpenAI GPT 3.5/4 , quanto para a simplicidade de gerenciar o próprio formato com regexes comuns)
Se você quiser mais informações, pode ler este post blog: https://ingegnerealbano.com/prompt-expansion-con-openai-potrebbe-essere-una-uva-idea/
Dependências
- pip install -upgrade pip
- pip install -upgrade OpenAi
- pip install-upgrade googlesearch-python
- pip install -upgrade beautifulSoup4
- pip install -upgrade html5lib
- pip install -upgrade html2text
- pip install-upgrade python-dotenv
Mas requisitos.txt é fornecido.
Para correr apenas
- Clone o repositório: clone git ...
- criar e ativar um venv
- instalar dependências ou usar requisitos.txt
- Coloque um arquivo .env com sua chave de API OpenAI na raiz do projeto
- python3 main.py
- aproveitar? ;)
Observe que não são fornecidos marcos e não há garantias de que este software seja concluído.
Observe que, atualmente, este software deve ser desacelerado porque requer mais de 10.000 tokens por minuto ...
