point transformer pytorch

محول النقطة - Pytorch

تنفيذ طبقة الاهتمام الذاتي لـ Point Transformer في Pytorch. يبدو أن الدائرة البسيطة المذكورة أعلاه قد سمحت لمجموعتهم بالتفوق على جميع الأساليب السابقة في تصنيف وتجزئة السحابة النقطية.

ثَبَّتَ

$ pip install point-transformer-pytorch

الاستخدام

 import torch
from point_transformer_pytorch import PointTransformerLayer

attn = PointTransformerLayer (
    dim = 128 ,
    pos_mlp_hidden_dim = 64 ,
    attn_mlp_hidden_mult = 4
)

feats = torch . randn ( 1 , 16 , 128 )
pos = torch . randn ( 1 , 16 , 3 )
mask = torch . ones ( 1 , 16 ). bool ()

attn ( feats , pos , mask = mask ) # (1, 16, 128)

هذا النوع من انتباه المتجهات أغلى بكثير من النوع التقليدي. في هذه الورقة، استخدموا أقرب جيران k على النقاط لاستبعاد الانتباه إلى النقاط البعيدة. يمكنك أن تفعل الشيء نفسه مع إعداد إضافي واحد.

 import torch
from point_transformer_pytorch import PointTransformerLayer

attn = PointTransformerLayer (
    dim = 128 ,
    pos_mlp_hidden_dim = 64 ,
    attn_mlp_hidden_mult = 4 ,
    num_neighbors = 16          # only the 16 nearest neighbors would be attended to for each point
)

feats = torch . randn ( 1 , 2048 , 128 )
pos = torch . randn ( 1 , 2048 , 3 )
mask = torch . ones ( 1 , 2048 ). bool ()

attn ( feats , pos , mask = mask ) # (1, 16, 128) 

الاستشهادات

 @misc { zhao2020point ,
    title = { Point Transformer } , 
    author = { Hengshuang Zhao and Li Jiang and Jiaya Jia and Philip Torr and Vladlen Koltun } ,
    year = { 2020 } ,
    eprint = { 2012.09164 } ,
    archivePrefix = { arXiv } ,
    primaryClass = { cs.CV }
}