EfficientLoFTR

LoFTR eficiente: correspondência de recursos locais semidensos com velocidade esparsa

Página do Projeto | Papel

LoFTR eficiente: correspondência de recursos locais semidensos com velocidade esparsa
Yifan Wang ^* , Xingyi He ^* , Sida Peng, Dongli Tan, Xiaowei Zhou
CVPR 2024

realtime_demo.mp4

Lista de tarefas

• Código de inferência e modelos pré-treinados
• Código para reproduzir os resultados do conjunto de testes
• Adicione opções de flash-attention e torch.compiler para melhor desempenho
• demonstração do notebook jupyter para combinar um par de imagens
• Código de treinamento

Instalação

conda env create -f environment.yaml
conda activate eloftr
pip install torch==2.0.0+cu118 --index-url https://download.pytorch.org/whl/cu118
pip install -r requirements.txt 

O teste e o treinamento podem ser baixados pelo link de download fornecido pelo LoFTR

Fornecemos nosso modelo pré-treinado no link para download

Reproduza os resultados do teste com pytorch-lightning

Você precisa primeiro configurar os subconjuntos de teste do ScanNet e MegaDepth. Criamos links simbólicos dos conjuntos de dados baixados anteriormente para data/{{dataset}}/test .

 # set up symlinks
ln -s /path/to/scannet-1500-testset/ * /path/to/EfficientLoFTR/data/scannet/test
ln -s /path/to/megadepth-1500-testset/ * /path/to/EfficientLoFTR/data/megadepth/test

Tempo de inferência

conda activate eloftr
bash scripts/reproduce_test/indoor_full_time.sh
bash scripts/reproduce_test/indoor_opt_time.sh

Precisão

conda activate eloftr
bash scripts/reproduce_test/outdoor_full_auc.sh
bash scripts/reproduce_test/outdoor_opt_auc.sh
bash scripts/reproduce_test/indoor_full_auc.sh
bash scripts/reproduce_test/indoor_opt_auc.sh

Treinamento

conda env create -f environment_training.yaml  # used a different version of pytorch, maybe slightly different from the inference environment
pip install -r requirements.txt
conda activate eloftr_training
bash scripts/reproduce_train/eloftr_outdoor.sh eloftr_outdoor

Citação

Se você achar este código útil para sua pesquisa, use a seguinte entrada BibTeX.

 @inproceedings { wang2024eloftr ,
  title = { {Efficient LoFTR}: Semi-Dense Local Feature Matching with Sparse-Like Speed } ,
  author = { Wang, Yifan and He, Xingyi and Peng, Sida and Tan, Dongli and Zhou, Xiaowei } ,
  booktitle = { CVPR } ,
  year = { 2024 }
}