Junior — Senior
O que é CBAM (Módulo de Atenção de Bloco Convolucional)?
sobes.tech IA
Resposta da IA
CBAM (Módulo de Atenção de Bloco Convolucional) é um módulo de atenção para redes neurais convolucionais, que ajuda o modelo a focar nas características mais importantes nas dimensões espaciais e de canais. Consiste em dois submódulos sequenciais:
- Módulo de Atenção de Canal — calcula a importância de cada canal, reforçando os canais significativos e suprimindo os menos importantes.
- Módulo de Atenção Espacial — calcula a importância de cada posição espacial (pixel) no mapa de características, destacando as áreas-chave.
O CBAM pode ser facilmente integrado em redes convolucionais existentes e melhora sua qualidade através de uma extração de características mais eficiente.
Exemplo de uso em PyTorch:
import torch
import torch.nn as nn
class CBAM(nn.Module):
def __init__(self, channels, reduction=16, kernel_size=7):
super().__init__()
# Atenção de Canal
self.avg_pool = nn.AdaptiveAvgPool2d(1)
self.max_pool = nn.AdaptiveMaxPool2d(1)
self.fc = nn.Sequential(
nn.Conv2d(channels, channels // reduction, 1, bias=False),
nn.ReLU(),
nn.Conv2d(channels // reduction, channels, 1, bias=False)
)
self.sigmoid_channel = nn.Sigmoid()
# Atenção Espacial
self.conv_spatial = nn.Conv2d(2, 1, kernel_size, padding=kernel_size//2, bias=False)
self.sigmoid_spatial = nn.Sigmoid()
def forward(self, x):
# Atenção de Canal
avg_out = self.fc(self.avg_pool(x))
max_out = self.fc(self.max_pool(x))
channel_att = self.sigmoid_channel(avg_out + max_out)
x = x * channel_att
# Atenção Espacial
avg_out = torch.mean(x, dim=1, keepdim=True)
max_out, _ = torch.max(x, dim=1, keepdim=True)
spatial_att = self.sigmoid_spatial(self.conv_spatial(torch.cat([avg_out, max_out], dim=1)))
x = x * spatial_att
return x