gpt j
1.0.0
GPT-J é uma alternativa de código aberto do EleutherAI ao GPT-3 da OpenAI. Disponível para download por qualquer pessoa, o GPT-J pode ser ajustado com sucesso para funcionar tão bem quanto modelos grandes em uma variedade de tarefas de PNL, incluindo resposta a perguntas, análise de sentimento e reconhecimento de entidade nomeada.
Tente executar o GPT-J você mesmo no Paperspace com a IPU (Unidade de Processamento de Inteligência) da Graphcore, um tipo completamente novo de processador massivamente paralelo para acelerar a inteligência da máquina. Acesse computação de IPU avançada e econômica sob demanda na nuvem no Paperspace para criar, ajustar e implantar modelos de IA, como GPT-J.
| Caderno | Estrutura | Tipo | Experimente gratuitamente |
|---|---|---|---|
| Atribuição textual na IPU usando GPT-J - ajuste fino | Abraçando o rosto | Afinação | |
| Geração de texto com GPT-J 6B | Abraçando o rosto | Inferência | |
| Geração de texto mais rápida com GPT-J usando quantização de peso de 4 bits em IPUs | Abraçando o rosto | Inferência |
No Textual Entailment on IPU using GPT-J - Fine-tuning notebook, mostramos como ajustar um modelo GPT-J pré-treinado em execução em um sistema de 16 IPU no Paperspace. Explicaremos como você pode ajustar o GPT-J para Text Entailment no conjunto de dados GLUE MNLI para alcançar o desempenho SOTA, ao mesmo tempo que é muito mais econômico do que seus primos maiores.
Na geração de texto com notebook GPT-J 6B , demonstramos como é fácil executar GPT-J na IPU Graphcore usando esta implementação do modelo e ? Pontos de verificação do hub dos pesos do modelo.
No notebook Faster Text Generation with GPT-J using 4-bit Weight Quantization on IPUs , mostramos como usar a quantização de grupo para compactar parâmetros do modelo para 4 bits sem ajuste fino, usando 4x menos memória e acelerando a inferência em GPT- J em ~1,5x.
Para aprofundar seu uso de GPT-J em IPUs ou falar com um especialista, não hesite em nos contatar.
Junte-se à nossa crescente comunidade e interaja com especialistas em IA, desenvolvedores e pesquisadores de IPU. Ouça as últimas notícias da IPU e tenha acesso aos nossos mais novos modelos.
O conteúdo deste repositório é disponibilizado de acordo com os termos da licença do MIT. Consulte o arquivo LICENSE incluído para obter detalhes.
