神经网络架构演化以及基于Tflearn实现Cifar10的图像分类 神经网络架构 1 数据 2 PAI 上实验 3 卷积,如何成为一个很厉害的网络? 为什么在CV上CNN取得很好效果? 1.图像存在局部与整体的关系,由低层次特征组合形成高层次特征。 2.CNN具有局部连接,权值共享,多层次结构特点 http://cs231n.github.io/convolutional-networks/ 神经网络架构 Model Zoo Alexnet VGG Inception net(googlenet) Resnet Densenet Case Study Alexnet Convolutional Layers Full Connection Layers Pooling Layers 2012年ImageNet大规模图像识别挑战赛冠军 Krizhevsky A, Sutskever I, Hinton G E. ImageNet classification with deep convolutional neural networks[C]// International Conference on Neural Information Processing Systems. Curran Associates Inc. 2012:1097-1105. Case Study Alexnet 1.Data augmentation(数据增强)怎么做? 2.Drop out怎么做?有什么用处? 3.激活函数Relu相比Sigmoid有什么优点? Case Study GoogleNet 2014年ImageNet大规模图像识别挑战赛冠军 Szegedy C, Liu W, Jia Y, et al. Going deeper with convolutions[J]. 2014:1-9. Case Study GoogleNet Inception Block 1.小卷积核,2个3*3卷积核组合相当于1个5*5卷积核,但是参数量更少,非线性表达能力更强。 2.同层feature map使用不同尺寸卷积核,获得不同尺度特征。 Case Study VGG 2014年ImageNet大规模图