TEAM EDA

DeepLabv2의 경우 vgg16과 ResNet 두개의 버전이 있는데, 아래는 ResNet101로 구현했습니다. #!/usr/bin/env python # coding: utf-8 from collections import OrderedDict import torch import torch.nn as nn import torch.nn.functional as F from types import ModuleType class Bottleneck(nn.Module): def __init__(self, in_ch, out_ch, stride, dilation, downsample): super(Bottleneck, self).__init__() mid_ch = out_ch // 4 self.conv1 = n..

DeepLab: Semantic Image Segmentation with Deep Convolutional Nets, Atrous Convolution, and Fully Connected CRFs DeepLabv2는 DeepLabv1과 굉장히 유사합니다. 그래서, v1을 아직 안읽으신 분은 https://eda-ai-lab.tistory.com/589의 글을 먼저 읽고 v2을 읽으시기 바랍니다. 해당 글에서는 기존 v1과 v2의 차별화 지점에 대해서만 주로 설명할 예정입니다. paper : https://arxiv.org/abs/1606.00915 DeepLabv1 vs DeepLabv2 DeepLabv1과 v2의 차별화 지점은 두가지가 있습니다. ASPP (Atrous Spatial Pyramid ..

DilatedNet - FrontEnd DilatedNet - Context Module import torch import torch.nn as nn from torch.nn import functional as F def conv_relu(in_ch, out_ch, size=3, rate=1): conv_relu = nn.Sequential(nn.Conv2d(in_channels=in_ch, out_channels=out_ch, kernel_size=size, stride=1, padding=rate, dilation=rate), nn.ReLU()) return conv_relu class VGG16(nn.Module): def __init__(self): super(VGG16, self).__ini..

Multi-Scale Context Aggregation by Dilated Convolutions (DilatedNet) papers : https://arxiv.org/pdf/1511.07122.pdf 0. Abstract Dense prediction 문제는 일반적으로 Image Classficiation과는 다릅니다. Dense prediction 문제에 적합한 새로운 Convolutional Network Module을 제안합니다. 제안된 모듈인 Dilated Convolution은 해상도를 잃지 않고 다양한 크기의 contextual information을 통합합니다. 특히 Receptive field를 지수적으로 증가시키면서도 해상도를 잃지 않습니다. 위의 방법을 통해서 Semantic Se..

import torch import torch.nn as nn from torch.nn import functional as F def conv_relu(in_ch, out_ch, size=3, rate=1): conv_relu = nn.Sequential(nn.Conv2d(in_ch, out_ch, kernel_size=size, stride=1, padding=rate, dilation=rate), nn.ReLU()) return conv_relu class VGG16(nn.Module): def __init__(self): super(VGG16, self).__init__() self.features1 = nn.Sequential(conv_relu(3, 64, 3, 1), conv_relu(64, ..

Semantic Image Segmentation With Deep Convolutional Nets And Fully Connected CRF DeepLabv1부터 v3+까지의 연구는 기존 Image Classification에 맞는 모델을 사용하는게 아니라, Semantic Segmentation에 맞는 모델을 개발한 연구입니다. vgg16 네트워크를 그대로 가져왔지만, 논문에서는 세그멘테이션 테스크에 맞게 어떤 점을 수정했는지 한번 확인해보도록 하겠습니다. paper : https://arxiv.org/abs/1412.7062 code : https://bitbucket.org/deeplab/deeplab-public Abstract DCNN (Deep Convolutional Neural Netw..

# -*- coding: utf-8 -*- import torch import torch.nn as nn class conv_block_nested(nn.Module): def __init__(self, in_ch, mid_ch, out_ch): super(conv_block_nested, self).__init__() self.activation = nn.ReLU(inplace=True) self.conv1 = nn.Conv2d(in_ch, mid_ch, kernel_size=3, padding=1, bias=True) self.bn1 = nn.BatchNorm2d(mid_ch) self.conv2 = nn.Conv2d(mid_ch, out_ch, kernel_size=3, padding=1, bias..

Redesigning Skip Connections to Exploit (UNet++) papers : https://arxiv.org/abs/1807.10165 papers : https://arxiv.org/abs/1912.05074 0. Abstract FCN 및 U-Net의 경우 2가지의 한계점이 존재합니다. 데이터셋에 맞은 모델의 최적 깊이를 알 수가 없습니다. 그래서 비용을 들여서 이를 찾아내거나 여러 깊이의 모델들을 앙상블하는 비효율적인 작업이 필요합니다. Skip Connection이 동일한 깊이를 가지는 인코더와 디코더만 연결되는 제한적인 구조를 가집니다. 이러한 2가지의 한계점을 극복하기 위해서 UNet++에서는 새로운 형태의 아키텍처를 제시합니다. 인코더를 공유하는 다양한 깊이의 U-..

# -*- coding: utf-8 -*- import torch import torch.nn as nn class UNet(nn.Module): def __init__(self, num_classes=2): super(UNet, self).__init__() def CBR2d(in_channels, out_channels, kernel_size=3, stride=1, padding=1, bias=True): layers = [] layers += [nn.Conv2d(in_channels=in_channels, out_channels=out_channels, kernel_size=kernel_size, stride=stride, padding=padding, bias=bias)] layers += [nn..

U-Net : Convolutional Networks for Biomedical Image Segmentation U-Net은 Encoder-Decoder 구조를 가지지만, Biomedical 부분에서 나온 세그멘테이션 논문입니다. 실제 구조가 좋고, 성능이 잘나와서 Biomedical 부분만 아니라 다른 분야에서도 많이 활용되는 네트워크입니다. 인용수 또한 20000이 넘을 정도로 굉장히 높습니다. 네트워크의 구조가 U자 형태로 되어있어서 U-Net이라고 불리는데, 네트워크가 어떻게 구성되었는지 한번 살펴보도록 하겠습니다. Paper : https://arxiv.org/abs/1505.04597 Code : https://lmb.informatik.uni-freiburg.de/people/ronneb..