Darwin

Outro código-fonte

1.0.0

Baixar

Darwin: um GPT sob medida para o domínio científico ??

logotipo

Organização: Universidade de Nova Gales do Sul（UNSW) AI4Science & GreenDynamics AI

Darwin é um projeto de código aberto dedicado a pré-treinar e ajustar o modelo LLaMA em literatura científica e conjuntos de dados. Projetado especificamente para o domínio científico com ênfase na ciência dos materiais, química e física, Darwin integra conhecimento científico estruturado e não estruturado para aumentar a eficácia dos modelos de linguagem na pesquisa científica.

Avisos de uso e licença : Darwin é licenciado e destinado apenas para uso em pesquisa. O conjunto de dados é licenciado sob CC BY NC 4.0, permitindo uso não comercial. Os modelos treinados com este conjunto de dados não devem ser usados fora dos fins de pesquisa. A diferença de peso também está sob licença CC BY NC 4.0

Atualizar

[2024.11.20]

Principais conquistas

Provou que as estratégias de ajuste fino de Darwin (QA + multitarefa) melhoram substancialmente o desempenho em diversas tarefas de ML.
Estabeleceu Darwin como um modelo competitivo, preenchendo a lacuna entre métodos especializados de ML e modelos generalistas de grande escala, como GPT-4.

Insights de desempenho do modelo

Comparação de estratégias de controle de qualidade + multitarefa entre variantes LLaMA
- Conduziu extensas comparações de estratégias de controle de qualidade e ajuste fino multitarefa nos modelos LLaMA1, LLaMA2, LLaMA3 e LLaMA3.1.
- Descoberta: LLaMA1 com QA + ajuste fino multitarefa alcança o melhor desempenho, superando todas as outras variantes.
Avaliação em relação a outros modelos
- Demonstrou que Darwin supera consistentemente a maioria dos métodos de ML, modelos ajustados GPT-3.5 e até mesmo GPT-4 em tarefas de aprendizagem de poucas tentativas.
- Embora alguns modelos especializados ainda mantenham resultados de última geração, Darwin alcança desempenho competitivo em uma ampla gama de tarefas.
Comparação de ajuste fino completo vs. LoRA
- Investigou o uso do ajuste fino LoRA e observou um desempenho significativamente inferior em comparação com o ajuste fino completo.
SFT em arquiteturas não pré-treinadas
- Ajuste fino supervisionado (SFT) aplicado com sucesso em arquiteturas LLaMA não pré-treinadas, provando que os modelos podem adquirir conhecimento específico de domínio de forma eficaz apenas por meio do ajuste fino.

Estratégias e insights de dados

Impacto dos dados de controle de qualidade no desempenho do modelo
- Verificou-se que tanto o ajuste fino de controle de qualidade quanto o aprendizado multitarefa melhoram o desempenho do modelo, não apenas para LLaMA, mas também para outras arquiteturas como Mistral.
- A mistura de dados de controle de qualidade com dados gerais melhora o desempenho do modelo sem causar recozimento do modelo.
Dados sincronizados e correspondência de formato
- Testado o uso de dados sincronizados (sincronização) para tarefas de destino.
- Descobertas:
  - A sincronização de dados com formato semelhante melhora significativamente o desempenho.
  - Sincronizar dados com formatos diferentes prejudica o desempenho.
Estratégias de mixagem multitarefa (?)
- Explorou várias estratégias de mistura de dados multitarefa e descobriu que classificar os dados por dificuldade (usando a perda de tarefa única como métrica) supera as estratégias de mistura aleatória de dados.

[2024.02.15] SOTA no MatBench por Material Projects: DARWIN é o modelo SOTA em tarefas experimentais de previsão de bandgap e tarefas de classificação metálica, melhor do que GPT3.5 ajustado e modelos de ML dedicados. https://matbench.materialsproject.org/Leaderboards%20Per-Task/matbench_v0.1_matbench_expt_gap/

☆ [2023.09.15] Versão do Google Colab disponível: experimente nosso DARWIN com Google Colab: inference.ipynb

Visão geral do modelo

Darwin, baseado no modelo 7B LLaMA, é treinado em mais de 100.000 pontos de dados de seguimento de instruções gerados pelo Darwin Scientific Instruction Generator (SIG) a partir de vários conjuntos de dados científicos FAIR e um corpus de literatura. Ao focar na exatidão factual das respostas do modelo, Darwin representa um avanço significativo no sentido de aproveitar os Grandes Modelos de Linguagem (LLMs) para a descoberta científica. Avaliações humanas preliminares indicam que o Darwin 7B supera o GPT-4 em perguntas e respostas científicas e o GPT-3 aprimorado na resolução de problemas de química (como gptChem).

Estamos desenvolvendo ativamente o Darwin para experimentos de domínio científico mais avançados e também integrando o Darwin ao LangChain para resolver tarefas científicas mais complexas (como um assistente de pesquisa privado para computadores pessoais).

Observe que Darwin ainda está em desenvolvimento e muitas limitações precisam ser abordadas. Mais importante ainda, ainda temos que ajustar o Darwin para segurança máxima. Incentivamos os usuários a relatar qualquer comportamento preocupante para ajudar a melhorar a segurança e as considerações éticas do modelo.

DARWIN.mp4

LINK DE DEMONSTRAÇÃO

Comparação de modelos

comparar

Começando

Instalação

Primeiro instale os requisitos:

pip install -r requirements.txt

Preparando os pesos de Darwin

Baixe os pontos de verificação dos pesos Darwin-7B do onedrive. Depois de baixar o modelo, você pode experimentar nossa demonstração:

python inference.py < your path to darwin-7b >

Observe que a inferência requer pelo menos 10 GB de memória GPU para o Darwin 7B.

Afinação

Para ajustar ainda mais nosso Darwin-7b com diferentes conjuntos de dados, abaixo está um comando que funciona em uma máquina com 4 GPUs A100 80G.

torchrun  --nproc_per_node=8 --master_port=1212 train.py 
    --model_name_or_path < your path to darwin-7b > 
    --data_path < your path to dataset > 
    --bf16 True 
    --output_dir < your output dir > 
    --num_train_epochs 3 
    --per_device_train_batch_size 1 
    --per_device_eval_batch_size 1 
    --gradient_accumulation_steps 1 
    --evaluation_strategy " no " 
    --save_strategy " steps " 
    --save_steps 500 
    --save_total_limit 1 
    --learning_rate 2e-5 
    --weight_decay 0. 
    --warmup_ratio 0.03 
    --lr_scheduler_type " cosine " 
    --logging_steps 1 
    --fsdp " full_shard auto_wrap " 
    --fsdp_transformer_layer_cls_to_wrap ' LlamaDecoderLayer ' 
    --tf32 False

Informações sobre conjuntos de dados

Nossos dados vêm de duas fontes principais:

Um corpus de literatura bruta contendo 6,0 milhões de artigos sobre ciência de materiais, química e física foi publicado depois de 2000. Os editores incluem ACS, RSC, Springer Nature, Wiley e Elsevier. Agradecemos a eles pelo apoio.

Conjuntos de dados FAIR - Coletamos dados de 16 conjuntos de dados FAIR.

Geração de dados

Desenvolvemos o Darwin-SIG para gerar instruções científicas. Ele pode memorizar textos longos de textos completos de literatura (média de aproximadamente 5.000 palavras) e gerar dados de perguntas e respostas (Q&A) com base em palavras-chave de literatura científica (da API da web of science)

Nota: Você também pode usar GPT3.5 ou GPT-4 para geração, mas essas opções podem ser caras.

Esteja ciente de que não podemos compartilhar o conjunto de dados de treinamento devido a acordos com os editores.

Autores

Este projeto é um esforço colaborativo dos seguintes:

UNSW e GreenDynamics: Tong Xie, Shaozhou Wang

UNSW: Imran Razzak, Cody Huang

Centro USYD e DARE: Clara Grazian

GreenDynamics: Yuwei Wan, Yixuan Liu

Bram Hoex e Wenjie Zhang da UNSW Engineering aconselharam a todos.

Citação

Se você usar os dados ou código deste repositório em seu trabalho, cite-os adequadamente.

Modelo básico de linguagem grande DAWRIN e ajuste fino de instrução semi-automática

 @misc{xie2023darwin,
      title={DARWIN Series: Domain Specific Large Language Models for Natural Science}, 
      author={Tong Xie and Yuwei Wan and Wei Huang and Zhenyu Yin and Yixuan Liu and Shaozhou Wang and Qingyuan Linghu and Chunyu Kit and Clara Grazian and Wenjie Zhang and Imran Razzak and Bram Hoex},
      year={2023},
      eprint={2308.13565},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

GPT-3 e LLaMA aprimorados para descoberta de materiais (treinamento de tarefa única)

 @article{xie2023large,
  title={Large Language Models as Master Key: Unlocking the Secrets of Materials Science},
  author={Xie, Tong and Wan, Yuwei and Zhou, Yufei and Huang, Wei and Liu, Yixuan and Linghu, Qingyuan and Wang, Shaozhou and Kit, Chunyu and Grazian, Clara and Zhang, Wenjie and others},
  journal={Available at SSRN 4534137},
  year={2023}
}