ResNet3 [DNN] Resnet 리뷰/구조 (CVPR2016) 안녕하세요 pulluper 입니다. 😀 이번 포스팅은 CVPR2016에 발표된 많은 network의 backbone이 되는 resnet 에 대한 리뷰와 구조에 대한 이해를 해보겠습니다. 저자는 Kaming He 님께서 1저자로 있으시네요. 자그럼 시작해보겠습니다. Intro 그냥 생각하기에 깊은 neural network는 더 많은 parameter를 가지고 있고 더 좋은 representation power를 이용할 수 있어서 성능이 좋을것 같지 않나요? 당시의 네트워크의 발전양상도 더 깊은 네트워크를 쌓는 방향으로 (VGG) 발전이 되었습니다. 그러나 깊은 네트워크는 다음과 같은 문제가 있습니다. "Gradient vanishing/Gradient exploding" 다음 블로그에서 문제에 대한 좋은.. 2022. 8. 29. [DNN] Densenet 논문리뷰 및 구현 (CVPR2017) 안녕하세요 pulluper 입니다. 오늘은 CVPR2017 에 best paper 를 받은 "Densely Connected Convolutional Networks" 에 대해서 알아보고 이해를 위한 간단한 layer 를 pytorch 로 구현 해보겠습니다. :) arxiv.org/pdf/1608.06993.pdf 1. background 이 시기의 네트워크 들은 점점 깊어지고 (e.g. vgg) 정확해지며, 짧은 connection (short path) 들을 (e.g. resnet)많이 사용하기 시작했습니다. 연결이 있다면 더 학습하기 쉽다고 논문에서 언급합니다. 이러한 observation 들을 가지고 많이 연결을 하여 각 layer 간의 최대한의 정보흐름을 이용하자는 것이 densenet 입니다... 2021. 4. 13. ILSVRC(Imagenet classification)validation set torchvision 으로 성능평가하기 안녕하세요! "pulluper" 입니다. 이번 포스팅에서 다룰 주제는 ILSVRC(Imagenet) 에 대한 설명과 torchvision library 를 통한 Imagenet validation set 성능평가 입니다. Detection 혹은 Network 관련 논문을 4개정도 뽑아서 논문에서 Imagenet 이라는 단어를 찾아봤을때 모두 ImageNet 에 대한 내용들이 있었습니다. Imagenet 이란? ILSVRC(ImageNet Large Scale Visual Recognition Challenge) 대표적인 large scale classification dataset 으로, 1000개의 class를 분류하는 분류 문제 dataset 입니다. image-net.org/ ImageNet Res.. 2021. 3. 1. 이전 1 다음
