이론 : https://eda-ai-lab.tistory.com/598 코드 출처 : https://github.com/jfzhang95/pytorch-deeplab-xception/blob/master/modeling/backbone/xception.py import math import torch import torch.nn as nn import torch.nn.functional as F import torch.utils.model_zoo as model_zoo # 출처 : https://github.com/jfzhang95/pytorch-deeplab-xception/blob/master/modeling/backbone/xception.py def fixed_padding(inputs, kern..
Encoder-Decoder with Atrous Separable Convolution for Semantic Image Segmentation DeepLab 시리즈의 마지막 글인 DeepLabv3+의 리뷰를 하도록 하겠습니다. v3+ 또한 기존의 논문들과 구성 자체는 비슷하기에, 기존의 DeepLab 논문을 아직 안보시는 분들은 아래의 글을 먼저 참고하시기 바랍니다. DeepLabv1 : https://eda-ai-lab.tistory.com/589 DeepLabv2 : https://eda-ai-lab.tistory.com/593 DeepLabv3 : https://eda-ai-lab.tistory.com/596 Motivation 위의 DeepLabv3의 그림을 보면 알겠지만, 한계점 중에 하나가..
이론 : https://eda-ai-lab.tistory.com/596 from collections import OrderedDict import torch import torch.nn as nn import torch.nn.functional as F from types import ModuleType class Bottleneck(nn.Module): def __init__(self, in_ch, out_ch, stride, dilation, downsample): super(Bottleneck, self).__init__() mid_ch = out_ch // 4 self.conv1 = nn.Conv2d(in_channels=in_ch, out_channels=mid_ch, kernel_size=1..
Rethinking Atrous Convolution for Semantic Image Segmentation DeepLabv3는 DeepLabv1, v2와 굉장히 유사합니다. 그래서, 기존의 논문을 안읽으신 분들은 DeepLabv1의 글을 먼저 읽고 DeepLabv2을 읽으시기 바랍니다. 해당 글에서는 DeepLabv2와의 차별점에 대해서 주로 살펴볼 예정입니다. paper : https://arxiv.org/abs/1706.05587 DeepLabv2 vs DeepLabv3 DeepLabv2와 v3의 차별화 지점은 두가지가 있습니다. ASPP (Atrous Spatial Pyramid Pooling)의 Rate 비율이 달라집니다. Global Average Pooling이 도입됩니다. ASPP가 Su..
#!/usr/bin/env python # coding: utf-8 import torch import torch.nn as nn import torch.nn.functional as F import math import torch.utils.model_zoo as model_zoo __all__ = ['ResNet', 'resnet18', 'resnet34', 'resnet50', 'resnet101', 'resnet152'] model_urls = { 'resnet18': 'https://download.pytorch.org/models/resnet18-5c106cde.pth', '..
Pyramid Scene Parsing Network (PSPNet) Review papers : https://arxiv.org/pdf/1612.01105.pdf 0. Abstract FCN 기반의 모델은 global scene category clue를 활용하지 못하기 때문에 Open Vocabulary 와 diverse secens 두 가지 어려운 점을 가지고 있습니다. 위의 문제를 해결하기위해서 Pyramid Pooling Modules를 이용한 PSPNet을 제안합니다. Global context information을 탐색하는 능력을 가집니다. 서로 다른 영역을 기반으로 하는 Context를 탐색할 수 있습니다. 이는 local 및 global clue를 모두 활용해서 reliable pred..
DeepLabv2의 경우 vgg16과 ResNet 두개의 버전이 있는데, 아래는 ResNet101로 구현했습니다. #!/usr/bin/env python # coding: utf-8 from collections import OrderedDict import torch import torch.nn as nn import torch.nn.functional as F from types import ModuleType class Bottleneck(nn.Module): def __init__(self, in_ch, out_ch, stride, dilation, downsample): super(Bottleneck, self).__init__() mid_ch = out_ch // 4 self.conv1 = n..
DeepLab: Semantic Image Segmentation with Deep Convolutional Nets, Atrous Convolution, and Fully Connected CRFs DeepLabv2는 DeepLabv1과 굉장히 유사합니다. 그래서, v1을 아직 안읽으신 분은 https://eda-ai-lab.tistory.com/589의 글을 먼저 읽고 v2을 읽으시기 바랍니다. 해당 글에서는 기존 v1과 v2의 차별화 지점에 대해서만 주로 설명할 예정입니다. paper : https://arxiv.org/abs/1606.00915 DeepLabv1 vs DeepLabv2 DeepLabv1과 v2의 차별화 지점은 두가지가 있습니다. ASPP (Atrous Spatial Pyramid ..
DilatedNet - FrontEnd DilatedNet - Context Module import torch import torch.nn as nn from torch.nn import functional as F def conv_relu(in_ch, out_ch, size=3, rate=1): conv_relu = nn.Sequential(nn.Conv2d(in_channels=in_ch, out_channels=out_ch, kernel_size=size, stride=1, padding=rate, dilation=rate), nn.ReLU()) return conv_relu class VGG16(nn.Module): def __init__(self): super(VGG16, self).__ini..
Multi-Scale Context Aggregation by Dilated Convolutions (DilatedNet) papers : https://arxiv.org/pdf/1511.07122.pdf 0. Abstract Dense prediction 문제는 일반적으로 Image Classficiation과는 다릅니다. Dense prediction 문제에 적합한 새로운 Convolutional Network Module을 제안합니다. 제안된 모듈인 Dilated Convolution은 해상도를 잃지 않고 다양한 크기의 contextual information을 통합합니다. 특히 Receptive field를 지수적으로 증가시키면서도 해상도를 잃지 않습니다. 위의 방법을 통해서 Semantic Se..