efficient deep learning 썸네일형 리스트형 [논문 리뷰] CCNet: Criss-Cross Attention for Semantic Segmentation 2019년 ICCV에 발표된 논문이다. Segmentation task를 목표로 하고, 기존 2018년 CVPR에 발표된 "Non-local neural networks" (Wang, Xiaolong, et al.)를 후속 연구한 논문이라고 볼 수 있다. 간단하게 발전 과정을 적을까 한다. CNN(Convolution Neural Network) 우선 "Non-local neural networks"를 보기 전에 CNN의 단점부터 보고 넘어가자. MLP(Multi-Layer Perceptron)에서 CNN으로 발전되면서 이미지의 spatial 정보를 효과적으로 전달할 수 있게 되었다. 모든 task에서 엄청난 성능 증가를 보여주었고, 여전히 많이 사용되고 있는 방식이다. 하지만 충분한 receptive .. 더보기 [논문 리뷰] ANTNets: Mobile Convolutional Neural Networks for Resource Efficient Image Classification Contribution 1. MobileNetV2의 Inverted Residual Block에 channel attention 도입 2. Group convolution을 사용하여 parameter수 computational cost 챙김 3. IPhone 5s에서 MobileNetV2 보다 20% 빠른 inference time 4. MobileNetV2의 일반화된 구조가 ANTNets이라 주장 ANTBlocks 파란색 부분이 추가된 channel attention 구조이고, 파란색 외의 부분이 기존의 MobileNetV2의 Inverted Residual Block 구조이다. Depthwise separable convolution MobileNetV1에서 사용된 개념이다. 기존 convolutio.. 더보기 이전 1 다음
