Binder

Binder?: Modelos de linguagem vinculativa em idiomas simbólicos

Código para modelos de linguagem de ligação a papel em idiomas simbólicos. Consulte nossa página do projeto para obter mais demonstrações e recursos relacionados atualizados. Confira nossa página de demonstração para ter uma experiência instantânea de aglutinante, que atinge o SOTA ou desempenho comparável com apenas dezenas de (~ 10) anotações do programa .

Atualizações

• 2023-08-25 : Atualização para oferecer suporte a modelos de séries de bate-papo OpenAI como gpt-3.5-xxx e gpt-4-xxx , o código será ainda mais realizado para apoiar mais!
• 2023-03-23 : Como o OpenAI não suporta mais modelos da série Codex, testaremos e atualizaremos mais cedo o mecanismo de "Code-Davinci-002" para "GPT-3.5-turbo".
• 2023-01-22 : aceito pelo ICLR 2023 (holofote)
• 2022-12-04 : Devido à nova política do OpenAI, sob limitação de solicitação, a amostragem N não pôde ser feita como anteriormente, adicionaremos os recursos para ligar várias vezes para ser o mesmo uso em breve!
• 2022-10-06 : Lançamos nosso código, demonstração de espaços abraçados e página do projeto. Confira!

Dependências

Para estabelecer o ambiente, execute este código no shell:

conda env create -f py3.7binder.yaml
pip install records==0.5.3

Isso criará o binder do ambiente que usamos.

Uso

Configuração do ambiente

Ative o ambiente executando

conda activate binder

Adicione a chave

Aplique e obtenha API keys (sk-xxxx) da API Openai, salve a chave no arquivo key.txt , verifique se você tem o direito de acessar o modelo (na implementação deste repo, code-davinci-002 ) que você precisa.

Correr

Confira os comandos em run.py

Citação

Se você achar útil nosso trabalho, cite como

 @article{Binder,
  title={Binding Language Models in Symbolic Languages},
  author={Zhoujun Cheng and Tianbao Xie and Peng Shi and Chengzu Li and Rahul Nadkarni and Yushi Hu and Caiming Xiong and Dragomir Radev and Mari Ostendorf and Luke Zettlemoyer and Noah A. Smith and Tao Yu},
  journal={ICLR},
  year={2023},
  volume={abs/2210.02875}
}

Colaboradores