glom pytorch

GLOM-Pytorch

Una implementación de Glom, la nueva idea de Geoffrey Hinton que integra conceptos de campos neuronales, procesamiento de arriba hacia abajo y de abajo hacia arriba y atención (consenso entre columnas) para aprender jerarquías emergentes de parte y todo a partir de datos.

El vídeo de Yannic Kilcher fue fundamental para ayudarme a comprender este artículo.

Instalar

$ pip install glom-pytorch

Uso

 import torch
from glom_pytorch import Glom

model = Glom (
    dim = 512 ,         # dimension
    levels = 6 ,        # number of levels
    image_size = 224 ,  # image size
    patch_size = 14    # patch size
)

img = torch . randn ( 1 , 3 , 224 , 224 )
levels = model ( img , iters = 12 ) # (1, 256, 6, 512) - (batch - patches - levels - dimension)

Pase el argumento de palabra clave return_all = True hacia adelante y se le devolverán todos los estados de columna y nivel por iteración (incluido el estado inicial, número de iteraciones + 1). Luego puede usar esto para adjuntar cualquier pérdida a cualquier nivel de salida en cualquier paso del tiempo.

También le brinda acceso a todos los datos de nivel en iteraciones para la agrupación, desde los cuales se pueden inspeccionar las islas teorizadas en el documento.

 import torch
from glom_pytorch import Glom

model = Glom (
    dim = 512 ,         # dimension
    levels = 6 ,        # number of levels
    image_size = 224 ,  # image size
    patch_size = 14    # patch size
)

img = torch . randn ( 1 , 3 , 224 , 224 )
all_levels = model ( img , iters = 12 , return_all = True ) # (13, 1, 256, 6, 512) - (time, batch, patches, levels, dimension)

# get the top level outputs after iteration 6
top_level_output = all_levels [ 7 , :, :, - 1 ] # (1, 256, 512) - (batch, patches, dimension)

Eliminación del ruido del aprendizaje autosupervisado para fomentar la emergencia, como lo describe Hinton

 import torch
import torch . nn . functional as F
from torch import nn
from einops . layers . torch import Rearrange

from glom_pytorch import Glom

model = Glom (
    dim = 512 ,         # dimension
    levels = 6 ,        # number of levels
    image_size = 224 ,  # image size
    patch_size = 14    # patch size
)

img = torch . randn ( 1 , 3 , 224 , 224 )
noised_img = img + torch . randn_like ( img )

all_levels = model ( noised_img , return_all = True )

patches_to_images = nn . Sequential (
    nn . Linear ( 512 , 14 * 14 * 3 ),
    Rearrange ( 'b (h w) (p1 p2 c) -> b c (h p1) (w p2)' , p1 = 14 , p2 = 14 , h = ( 224 // 14 ))
)

top_level = all_levels [ 7 , :, :, - 1 ]  # get the top level embeddings after iteration 6
recon_img = patches_to_images ( top_level )

# do self-supervised learning by denoising

loss = F . mse_loss ( img , recon_img )
loss . backward ()

Puede pasar al estado de la columna y los niveles nuevamente al modelo para continuar donde lo dejó (tal vez si está procesando cuadros consecutivos de un video lento, como se menciona en el documento).

 import torch
from glom_pytorch import Glom

model = Glom (
    dim = 512 ,
    levels = 6 ,
    image_size = 224 ,
    patch_size = 14
)

img1 = torch . randn ( 1 , 3 , 224 , 224 )
img2 = torch . randn ( 1 , 3 , 224 , 224 )
img3 = torch . randn ( 1 , 3 , 224 , 224 )

levels1 = model ( img1 , iters = 12 )                   # image 1 for 12 iterations
levels2 = model ( img2 , levels = levels1 , iters = 10 ) # image 2 for 10 iteratoins
levels3 = model ( img3 , levels = levels2 , iters = 6 )  # image 3 for 6 iterations

Apreciación

Gracias a Cfoster0 por revisar el código.

Hacer

• Regularización contrastiva/consistente de niveles superiores.

Citas

 @misc { hinton2021represent ,
    title   = { How to represent part-whole hierarchies in a neural network } , 
    author  = { Geoffrey Hinton } ,
    year    = { 2021 } ,
    eprint  = { 2102.12627 } ,
    archivePrefix = { arXiv } ,
    primaryClass = { cs.CV }
}