文章目录1. 课前导读1.1 本节课学习目标1.2 知识重难点1.3 学习前置条件1.4 学完可掌握能力1.5 行业应用场景2. 核心理论精讲2.1 从全连接到卷积的动机2.2 局部感受野2.3 权值共享2.4 卷积运算的数学形式2.5 步长与填充2.6 池化层2.7 CNN的层次化特征3. 环境搭建与工具配置4. 代码实战教学4.1 手动实现二维卷积NumPy风格4.2 TensorFlow Conv2D 基本用法4.3 卷积层参数数量计算4.4 池化层演示4.5 搭建简单CNN用于MNIST4.6 可视化卷积核权重4.7 可视化特征图中间激活5. 案例实操演练5.1 数据加载与预处理5.2 构建CNN模型含池化和Dropout5.3 训练CNN5.4 构建全连接网络对比5.5 结果对比6. 常见坑点与排错总结6.1 尺寸计算错误6.2 卷积层参数设置6.3 训练问题6.4 可视化误解7. 知识点总结 课后作业7.1 核心知识点梳理7.2 基础作业7.3 进阶实操作业7.4 思考拓展题《TensorFlow2.x: 深度学习入门到高阶实战教程》系列课程导航1. 课前导读1.1 本节课学习目标理解卷积神经网络的设计动机解决全连接网络在图像任务中参数爆炸和缺乏空间结构建模的问题。掌握局部感受野、权值共享、池化的概念及其减少参数量的数学分析。熟悉卷积运算的数学定义包括单通道与多通道卷积。掌握卷积层的关键超参数卷积核大小kernel size、步长stride、填充padding及其对输出尺寸的影响。理解池化层的下采样原理区分最大池化和平均池化。能够使用TensorFlow 2.x的Conv2D和MaxPooling2D搭建简单的CNN并在MNIST数据集上进行训练和可视化。1.2 知识重难点类别内容重点局部感受野与权值共享为何能降低参数量卷积输出尺寸计算公式池化层的平移不变性难点多通道卷积中通道维度的对齐方式空洞卷积dilated convolution的原理作为拓展卷积层反向传播的简要理解易混淆点卷积核数量输出通道数与卷积核大小填充same与valid的区别池化层步长与卷积步长的不同影响1.3 学习前置条件已掌握全连接网络的基本结构第15课。熟悉TensorFlow张量操作和模型训练流程第5、12、17课。具备基本的图像概念像素、通道。1.4 学完可掌握能力独立设计简单的CNN结构用于图像分类任务。计算任意卷积层和池化层的输出形状。通过可视化卷积核理解模型学习到的特征。诊断因参数设置不当导致的尺寸不匹配错误。1.5 行业应用场景图像分类LeNet、AlexNet、ResNet等均基于CNN。目标检测YOLO、Faster R-CNN使用卷积提取特征。图像分割FCN、U-Net利用卷积和上采样。视频分析3D卷积处理时序信息。医学影像CT、MRI图像分割与检测。2. 核心理论精讲2.1 从全连接到卷积的动机考虑一张32×32的彩色图像3通道展平后输入维度为3072。若全连接第一层有1000个神经元参数量为3072×1000 ≈ 3百万且忽略了像素间的空间邻接关系。卷积神经网络通过局部连接和权值共享将参数量降至数千级别同时提取局部特征。2.2 局部感受野每个卷积神经元只连接输入图像的一个小区域称为感受野例如5×5。这符合图像特征的局部性边缘、角点等仅需局部信息即可检测。多个卷积层堆叠后高层的感受野可以覆盖整个图像。2.3 权值共享同一个卷积核滤波器在整个图像上滑动时其权重参数固定不变。这大幅减少参数量并使网络能够检测到图像任意位置的相同特征如水平边缘。一个卷积核产生一个特征图feature map。2.4 卷积运算的数学形式单通道卷积灰度图像输入 ( I ) 大小为 ( H \times W )卷积核 ( K ) 大小为 ( k_h \times k_w )输出 ( S ) 中的每个元素[S(i,j) \sum_{u0}^{k_h-1} \sum_{v0}^{k_w-1} I(iu, jv) \cdot K(u, v)]加上偏置后通过激活函数。多通道卷积输入通道数为 ( C_{in} )每个卷积核的深度为 ( C_{in} )与输入逐通道卷积后求和输出一个通道。若使用 ( C_{out} ) 个卷积核输出通道数为 ( C_{out} )。参数量 ( k_h \times k_w \times C_{in} \times C_{out} C_{out} )偏置。2.5 步长与填充步长stride卷积核在输入上滑动的步数。步长1会降低输出尺寸。填充padding在输入边界周围补零控制输出尺寸。valid填充无填充same填充输出尺寸等于输入尺寸除以步长向上取整。输出尺寸公式[O_H \left\lfloor \frac{H 2P - k_h}{s} \right\rfloor 1, \quad O_W \left\lfloor \frac{W 2P - k_w}{s} \right\rfloor 1]其中 ( P ) 为每边填充零的行数/列数。2.6 池化层池化层对每个通道独立进行下采样常见操作最大池化取窗口内的最大值保留最强响应。平均池化取窗口内均值。池化层无参数只减少空间尺寸提供平移不变性微小偏移不影响最大值位置。输出尺寸公式与卷积相同但通常步长等于窗口大小。2.7 CNN的层次化特征浅层卷积核检测边缘、颜色斑点中层检测纹理、图案深层检测物体部件眼睛、车轮。这种层次结构是CNN强大的根本原因。3. 环境搭建与工具配置沿用第20课环境。需要matplotlib显示图像。conda activate tf213 python导入importtensorflowastfimportnumpyasnpimportmatplotlib.pyplotaspltfromtensorflow.kerasimportlayers,models,datasets4. 代码实战教学4.1 手动实现二维卷积NumPy风格defconv2d_numpy(input_img,kernel,stride1,padding0):输入图像 (H, W)卷积核 (k_h, k_w)H,Winput_img.shape k_h,k_wkernel.shape# 填充ifpadding0:input_padnp.pad(input_img,((padding,padding),(padding,padding)),modeconstant)else:input_padinput_img# 计算输出尺寸out_h(H2*padding-k_h)//stride1out_w(W2*padding-k_w)//stride1outputnp.zeros((out_h,out_w))foriinrange(0,out_h):forjinrange(0,out_w):regioninput_pad[i*stride:i*stridek_h,j*stride:j*stridek_w]output[i,j]np.sum(region*kernel)returnoutput# 测试边缘检测imgnp.zeros((28,28))img[10:18,10:18]1# 方块kernel_edgenp.array([[-1,-1,-1],[-1,8,-1],[-1,-1,-1]])# 边缘检测核outconv2d_numpy(img,kernel_edge,stride1,padding1)plt.subplot(1,2,1);plt.imshow(img,cmapgray);plt.title(Original)plt.subplot(1,2,2);plt.imshow(out,cmapgray);plt.title(Edge Detection)plt.show()4.2 TensorFlow Conv2D 基本用法# 创建模拟输入 (batch, height, width, channels)input_tensortf.random.normal((1,32,32,3))# 卷积层32个3x3卷积核步长1填充sameconv_layerlayers.Conv2D(filters32,kernel_size3,strides1,paddingsame,activationrelu)outputconv_layer(input_tensor)print(fInput shape:{input_tensor.shape}- Output shape:{output.shape})# (1,32,32,32)4.3 卷积层参数数量计算# 查看卷积层参数conv_layerlayers.Conv2D(64,3,paddingsame,input_shape(32,32,3))conv_layer.build((None,32,32,3))print(Kernel shape:,conv_layer.kernel.shape)# (3,3,3,64)print(Bias shape:,conv_layer.bias.shape)# (64,)print(Total params:,conv_layer.count_params())# 3*3*3*64 64 17924.4 池化层演示# 最大池化与平均池化input_feattf.random.normal((1,28,28,16))maxpoollayers.MaxPooling2D(pool_size2,strides2)avgpoollayers.AveragePooling2D(pool_size2,strides2)out_maxmaxpool(input_feat)out_avgavgpool(input_feat)print(fInput:{input_feat.shape}, MaxPool output:{out_max.shape}, AvgPool output:{out_avg.shape})4.5 搭建简单CNN用于MNIST# 加载MNIST并增加通道维度(x_train,y_train),(x_test,y_test)datasets.mnist.load_data()x_trainx_train.reshape(-1,28,28,1).astype(np.float32)/255.0x_testx_test.reshape(-1,28,28,1).astype(np.float32)/255.0y_traintf.keras.utils.to_categorical(y_train,10)y_testtf.keras.utils.to_categorical(y_test,10)# 构建CNN模型modelmodels.Sequential([layers.Conv2D(32,(3,3),activationrelu,input_shape(28,28,1)),layers.MaxPooling2D((2,2)),layers.Conv2D(64,(3,3),activationrelu),layers.MaxPooling2D((2,2)),layers.Flatten(),layers.Dense(128,activationrelu),layers.Dense(10,activationsoftmax)])model.summary()# 编译与训练model.compile(optimizeradam,losscategorical_crossentropy,metrics[accuracy])historymodel.fit(x_train,y_train,epochs5,batch_size128,validation_split0.1,verbose1)test_loss,test_accmodel.evaluate(x_test,y_test)print(fTest accuracy:{test_acc:.4f})4.6 可视化卷积核权重# 获取第一层卷积核conv1_weightsmodel.layers[0].get_weights()[0]# shape (3,3,1,32)# 展示前16个卷积核每个是3x3fig,axesplt.subplots(4,4,figsize(6,6))fori,axinenumerate(axes.flat):ifi16:kernelconv1_weights[:,:,0,i]# 单通道核ax.imshow(kernel,cmapgray)ax.axis(off)plt.suptitle(First layer convolutional kernels)plt.show()4.7 可视化特征图中间激活# 选择一张测试图像samplex_test[0:1]# (1,28,28,1)layer_outputs[layer.outputforlayerinmodel.layersifconv2dinlayer.name]activation_modeltf.keras.Model(inputsmodel.input,outputslayer_outputs)activationsactivation_model.predict(sample)# 显示第一个卷积层的输出特征图前16个通道first_conv_actsactivations[0][0]# (26,26,32) 因为经过卷积但未池化实际模型第一个卷积后无池化尺寸26x26plt.figure(figsize(12,8))foriinrange(16):plt.subplot(4,4,i1)plt.imshow(first_conv_acts[:,:,i],cmapviridis)plt.axis(off)plt.suptitle(Feature maps after first conv layer)plt.show()5. 案例实操演练案例使用CNN对CIFAR-10进行图像分类并对比全连接网络的性能5.1 数据加载与预处理(x_train,y_train),(x_test,y_test)datasets.cifar10.load_data()x_trainx_train.astype(np.float32)/255.0x_testx_test.astype(np.float32)/255.0y_traintf.keras.utils.to_categorical(y_train,10)y_testtf.keras.utils.to_categorical(y_test,10)5.2 构建CNN模型含池化和Dropoutdefbuild_cifar_cnn():modelmodels.Sequential([layers.Conv2D(32,(3,3),activationrelu,paddingsame,input_shape(32,32,3)),layers.Conv2D(32,(3,3),activationrelu,paddingsame),layers.MaxPooling2D((2,2)),layers.Dropout(0.25),layers.Conv2D(64,(3,3),activationrelu,paddingsame),layers.Conv2D(64,(3,3),activationrelu,paddingsame),layers.MaxPooling2D((2,2)),layers.Dropout(0.25),layers.Conv2D(128,(3,3),activationrelu,paddingsame),layers.MaxPooling2D((2,2)),layers.Dropout(0.25),layers.Flatten(),layers.Dense(256,activationrelu),layers.Dropout(0.5),layers.Dense(10,activationsoftmax)])returnmodel cnn_modelbuild_cifar_cnn()cnn_model.summary()5.3 训练CNNcnn_model.compile(optimizeradam,losscategorical_crossentropy,metrics[accuracy])history_cnncnn_model.fit(x_train,y_train,epochs20,batch_size64,validation_split0.1,verbose1)5.4 构建全连接网络对比defbuild_fcn():modelmodels.Sequential([layers.Flatten(input_shape(32,32,3)),layers.Dense(1024,activationrelu),layers.Dropout(0.5),layers.Dense(512,activationrelu),layers.Dropout(0.5),layers.Dense(10,activationsoftmax)])returnmodel fcn_modelbuild_fcn()fcn_model.compile(optimizeradam,losscategorical_crossentropy,metrics[accuracy])history_fcnfcn_model.fit(x_train,y_train,epochs20,batch_size64,validation_split0.1,verbose1)5.5 结果对比plt.plot(history_cnn.history[val_accuracy],labelCNN)plt.plot(history_fcn.history[val_accuracy],labelFCN)plt.xlabel(Epoch)plt.ylabel(Validation Accuracy)plt.legend()plt.title(CNN vs Fully Connected on CIFAR-10)plt.show()# CNN显著优于FCN6. 常见坑点与排错总结6.1 尺寸计算错误坑1卷积或池化后尺寸计算错误导致后续Flatten后维度与Dense层不匹配。解决使用model.summary()查看每层输出形状或手动套用公式。坑2paddingsame时输出尺寸为ceil(H/s)但步长1时可能不是严格等于H/s。记忆same保持输入尺寸除以步长向上取整。6.2 卷积层参数设置坑3卷积核数量filters过小模型表达能力不足过大则过拟合且计算慢。经验从32或64开始逐层翻倍。坑4步长和池化组合导致特征图过早变为1x1损失空间信息。建议最后一层卷积后至少保持4x4以上再全局池化或展平。6.3 训练问题坑5CNN训练不收敛损失不下降。排查检查数据归一化使用较小学习率添加BatchNormalization。坑6内存不足OOM尤其是大图像和深网络。解决减小batch size使用更少的卷积核采用梯度累积。6.4 可视化误解坑7认为卷积核可视化后出现的纹理即是核的最终值实际上需要归一化到0-255才能显示。坑8特征图可视化时不同通道范围差异大需分别归一化。7. 知识点总结 课后作业7.1 核心知识点梳理局部感受野每个神经元只连接局部区域符合图像特征局部性。权值共享同一卷积核在整个图像上滑动极大减少参数量。卷积运算滑动窗口内逐元素乘加输出特征图。超参数核大小、步长、填充决定输出尺寸。池化最大池化/平均池化降低维度增强平移不变性。多通道卷积每个卷积核与所有输入通道卷积后求和。7.2 基础作业计算输入32×32×3使用5×5卷积核步长2填充valid输出尺寸是多少若填充same呢使用TensorFlow手动实现一个卷积层不使用Conv2D只用tf.nn.conv2d并与内置结果对比。修改简单CNNMNIST的卷积核数量为16和64观察参数量变化和准确率。7.3 进阶实操作业任务实现空洞卷积Dilated Convolution并对比感受野使用tf.keras.layers.Conv2D(filters, kernel_size, dilation_rate2)。在相同输入上比较普通卷积膨胀率1和膨胀率为2的卷积的输出尺寸和感受野大小。设计一个小型实验使用两种卷积分别训练MNIST观察精度差异膨胀卷积是否提升大感受野下的性能。7.4 思考拓展题权值共享使得卷积层具有平移等变性但对于旋转或缩放是否同样适用如果不适用有哪些改进方法在深度CNN中为什么通常越深的层使用越多的卷积核这与特征图的尺寸减小有何关系全局平均池化GlobalAveragePooling2D常替代FlattenDense来减少参数量。试分析其原理和优缺点。下一课预告TF搭建基础CNN网络——我们将实战搭建完整的CNN架构包括卷积层、池化层、全连接层的组合设计并在真实图像数据集上训练和评估模型。《TensorFlow2.x: 深度学习入门到高阶实战教程》系列课程导航去订阅第一部分基础入门1-10 课第二部分神经网络核心11-25 课第三部分进阶网络与框架高阶26-40 课第四部分企业实战与项目落地41-50 课 感谢您耐心阅读到这里 如果本文对您有所启发欢迎 点赞 收藏 分享给更多需要的伙伴。️ 期待在评论区看到您的想法, 共同进步。 关注我持续获取更多干货内容 我们下篇文章见
第21课：TensorFlow｜卷积神经网络CNN核心原理【局部感受野、权值共享、池化机制】
文章目录1. 课前导读1.1 本节课学习目标1.2 知识重难点1.3 学习前置条件1.4 学完可掌握能力1.5 行业应用场景2. 核心理论精讲2.1 从全连接到卷积的动机2.2 局部感受野2.3 权值共享2.4 卷积运算的数学形式2.5 步长与填充2.6 池化层2.7 CNN的层次化特征3. 环境搭建与工具配置4. 代码实战教学4.1 手动实现二维卷积NumPy风格4.2 TensorFlow Conv2D 基本用法4.3 卷积层参数数量计算4.4 池化层演示4.5 搭建简单CNN用于MNIST4.6 可视化卷积核权重4.7 可视化特征图中间激活5. 案例实操演练5.1 数据加载与预处理5.2 构建CNN模型含池化和Dropout5.3 训练CNN5.4 构建全连接网络对比5.5 结果对比6. 常见坑点与排错总结6.1 尺寸计算错误6.2 卷积层参数设置6.3 训练问题6.4 可视化误解7. 知识点总结 课后作业7.1 核心知识点梳理7.2 基础作业7.3 进阶实操作业7.4 思考拓展题《TensorFlow2.x: 深度学习入门到高阶实战教程》系列课程导航1. 课前导读1.1 本节课学习目标理解卷积神经网络的设计动机解决全连接网络在图像任务中参数爆炸和缺乏空间结构建模的问题。掌握局部感受野、权值共享、池化的概念及其减少参数量的数学分析。熟悉卷积运算的数学定义包括单通道与多通道卷积。掌握卷积层的关键超参数卷积核大小kernel size、步长stride、填充padding及其对输出尺寸的影响。理解池化层的下采样原理区分最大池化和平均池化。能够使用TensorFlow 2.x的Conv2D和MaxPooling2D搭建简单的CNN并在MNIST数据集上进行训练和可视化。1.2 知识重难点类别内容重点局部感受野与权值共享为何能降低参数量卷积输出尺寸计算公式池化层的平移不变性难点多通道卷积中通道维度的对齐方式空洞卷积dilated convolution的原理作为拓展卷积层反向传播的简要理解易混淆点卷积核数量输出通道数与卷积核大小填充same与valid的区别池化层步长与卷积步长的不同影响1.3 学习前置条件已掌握全连接网络的基本结构第15课。熟悉TensorFlow张量操作和模型训练流程第5、12、17课。具备基本的图像概念像素、通道。1.4 学完可掌握能力独立设计简单的CNN结构用于图像分类任务。计算任意卷积层和池化层的输出形状。通过可视化卷积核理解模型学习到的特征。诊断因参数设置不当导致的尺寸不匹配错误。1.5 行业应用场景图像分类LeNet、AlexNet、ResNet等均基于CNN。目标检测YOLO、Faster R-CNN使用卷积提取特征。图像分割FCN、U-Net利用卷积和上采样。视频分析3D卷积处理时序信息。医学影像CT、MRI图像分割与检测。2. 核心理论精讲2.1 从全连接到卷积的动机考虑一张32×32的彩色图像3通道展平后输入维度为3072。若全连接第一层有1000个神经元参数量为3072×1000 ≈ 3百万且忽略了像素间的空间邻接关系。卷积神经网络通过局部连接和权值共享将参数量降至数千级别同时提取局部特征。2.2 局部感受野每个卷积神经元只连接输入图像的一个小区域称为感受野例如5×5。这符合图像特征的局部性边缘、角点等仅需局部信息即可检测。多个卷积层堆叠后高层的感受野可以覆盖整个图像。2.3 权值共享同一个卷积核滤波器在整个图像上滑动时其权重参数固定不变。这大幅减少参数量并使网络能够检测到图像任意位置的相同特征如水平边缘。一个卷积核产生一个特征图feature map。2.4 卷积运算的数学形式单通道卷积灰度图像输入 ( I ) 大小为 ( H \times W )卷积核 ( K ) 大小为 ( k_h \times k_w )输出 ( S ) 中的每个元素[S(i,j) \sum_{u0}^{k_h-1} \sum_{v0}^{k_w-1} I(iu, jv) \cdot K(u, v)]加上偏置后通过激活函数。多通道卷积输入通道数为 ( C_{in} )每个卷积核的深度为 ( C_{in} )与输入逐通道卷积后求和输出一个通道。若使用 ( C_{out} ) 个卷积核输出通道数为 ( C_{out} )。参数量 ( k_h \times k_w \times C_{in} \times C_{out} C_{out} )偏置。2.5 步长与填充步长stride卷积核在输入上滑动的步数。步长1会降低输出尺寸。填充padding在输入边界周围补零控制输出尺寸。valid填充无填充same填充输出尺寸等于输入尺寸除以步长向上取整。输出尺寸公式[O_H \left\lfloor \frac{H 2P - k_h}{s} \right\rfloor 1, \quad O_W \left\lfloor \frac{W 2P - k_w}{s} \right\rfloor 1]其中 ( P ) 为每边填充零的行数/列数。2.6 池化层池化层对每个通道独立进行下采样常见操作最大池化取窗口内的最大值保留最强响应。平均池化取窗口内均值。池化层无参数只减少空间尺寸提供平移不变性微小偏移不影响最大值位置。输出尺寸公式与卷积相同但通常步长等于窗口大小。2.7 CNN的层次化特征浅层卷积核检测边缘、颜色斑点中层检测纹理、图案深层检测物体部件眼睛、车轮。这种层次结构是CNN强大的根本原因。3. 环境搭建与工具配置沿用第20课环境。需要matplotlib显示图像。conda activate tf213 python导入importtensorflowastfimportnumpyasnpimportmatplotlib.pyplotaspltfromtensorflow.kerasimportlayers,models,datasets4. 代码实战教学4.1 手动实现二维卷积NumPy风格defconv2d_numpy(input_img,kernel,stride1,padding0):输入图像 (H, W)卷积核 (k_h, k_w)H,Winput_img.shape k_h,k_wkernel.shape# 填充ifpadding0:input_padnp.pad(input_img,((padding,padding),(padding,padding)),modeconstant)else:input_padinput_img# 计算输出尺寸out_h(H2*padding-k_h)//stride1out_w(W2*padding-k_w)//stride1outputnp.zeros((out_h,out_w))foriinrange(0,out_h):forjinrange(0,out_w):regioninput_pad[i*stride:i*stridek_h,j*stride:j*stridek_w]output[i,j]np.sum(region*kernel)returnoutput# 测试边缘检测imgnp.zeros((28,28))img[10:18,10:18]1# 方块kernel_edgenp.array([[-1,-1,-1],[-1,8,-1],[-1,-1,-1]])# 边缘检测核outconv2d_numpy(img,kernel_edge,stride1,padding1)plt.subplot(1,2,1);plt.imshow(img,cmapgray);plt.title(Original)plt.subplot(1,2,2);plt.imshow(out,cmapgray);plt.title(Edge Detection)plt.show()4.2 TensorFlow Conv2D 基本用法# 创建模拟输入 (batch, height, width, channels)input_tensortf.random.normal((1,32,32,3))# 卷积层32个3x3卷积核步长1填充sameconv_layerlayers.Conv2D(filters32,kernel_size3,strides1,paddingsame,activationrelu)outputconv_layer(input_tensor)print(fInput shape:{input_tensor.shape}- Output shape:{output.shape})# (1,32,32,32)4.3 卷积层参数数量计算# 查看卷积层参数conv_layerlayers.Conv2D(64,3,paddingsame,input_shape(32,32,3))conv_layer.build((None,32,32,3))print(Kernel shape:,conv_layer.kernel.shape)# (3,3,3,64)print(Bias shape:,conv_layer.bias.shape)# (64,)print(Total params:,conv_layer.count_params())# 3*3*3*64 64 17924.4 池化层演示# 最大池化与平均池化input_feattf.random.normal((1,28,28,16))maxpoollayers.MaxPooling2D(pool_size2,strides2)avgpoollayers.AveragePooling2D(pool_size2,strides2)out_maxmaxpool(input_feat)out_avgavgpool(input_feat)print(fInput:{input_feat.shape}, MaxPool output:{out_max.shape}, AvgPool output:{out_avg.shape})4.5 搭建简单CNN用于MNIST# 加载MNIST并增加通道维度(x_train,y_train),(x_test,y_test)datasets.mnist.load_data()x_trainx_train.reshape(-1,28,28,1).astype(np.float32)/255.0x_testx_test.reshape(-1,28,28,1).astype(np.float32)/255.0y_traintf.keras.utils.to_categorical(y_train,10)y_testtf.keras.utils.to_categorical(y_test,10)# 构建CNN模型modelmodels.Sequential([layers.Conv2D(32,(3,3),activationrelu,input_shape(28,28,1)),layers.MaxPooling2D((2,2)),layers.Conv2D(64,(3,3),activationrelu),layers.MaxPooling2D((2,2)),layers.Flatten(),layers.Dense(128,activationrelu),layers.Dense(10,activationsoftmax)])model.summary()# 编译与训练model.compile(optimizeradam,losscategorical_crossentropy,metrics[accuracy])historymodel.fit(x_train,y_train,epochs5,batch_size128,validation_split0.1,verbose1)test_loss,test_accmodel.evaluate(x_test,y_test)print(fTest accuracy:{test_acc:.4f})4.6 可视化卷积核权重# 获取第一层卷积核conv1_weightsmodel.layers[0].get_weights()[0]# shape (3,3,1,32)# 展示前16个卷积核每个是3x3fig,axesplt.subplots(4,4,figsize(6,6))fori,axinenumerate(axes.flat):ifi16:kernelconv1_weights[:,:,0,i]# 单通道核ax.imshow(kernel,cmapgray)ax.axis(off)plt.suptitle(First layer convolutional kernels)plt.show()4.7 可视化特征图中间激活# 选择一张测试图像samplex_test[0:1]# (1,28,28,1)layer_outputs[layer.outputforlayerinmodel.layersifconv2dinlayer.name]activation_modeltf.keras.Model(inputsmodel.input,outputslayer_outputs)activationsactivation_model.predict(sample)# 显示第一个卷积层的输出特征图前16个通道first_conv_actsactivations[0][0]# (26,26,32) 因为经过卷积但未池化实际模型第一个卷积后无池化尺寸26x26plt.figure(figsize(12,8))foriinrange(16):plt.subplot(4,4,i1)plt.imshow(first_conv_acts[:,:,i],cmapviridis)plt.axis(off)plt.suptitle(Feature maps after first conv layer)plt.show()5. 案例实操演练案例使用CNN对CIFAR-10进行图像分类并对比全连接网络的性能5.1 数据加载与预处理(x_train,y_train),(x_test,y_test)datasets.cifar10.load_data()x_trainx_train.astype(np.float32)/255.0x_testx_test.astype(np.float32)/255.0y_traintf.keras.utils.to_categorical(y_train,10)y_testtf.keras.utils.to_categorical(y_test,10)5.2 构建CNN模型含池化和Dropoutdefbuild_cifar_cnn():modelmodels.Sequential([layers.Conv2D(32,(3,3),activationrelu,paddingsame,input_shape(32,32,3)),layers.Conv2D(32,(3,3),activationrelu,paddingsame),layers.MaxPooling2D((2,2)),layers.Dropout(0.25),layers.Conv2D(64,(3,3),activationrelu,paddingsame),layers.Conv2D(64,(3,3),activationrelu,paddingsame),layers.MaxPooling2D((2,2)),layers.Dropout(0.25),layers.Conv2D(128,(3,3),activationrelu,paddingsame),layers.MaxPooling2D((2,2)),layers.Dropout(0.25),layers.Flatten(),layers.Dense(256,activationrelu),layers.Dropout(0.5),layers.Dense(10,activationsoftmax)])returnmodel cnn_modelbuild_cifar_cnn()cnn_model.summary()5.3 训练CNNcnn_model.compile(optimizeradam,losscategorical_crossentropy,metrics[accuracy])history_cnncnn_model.fit(x_train,y_train,epochs20,batch_size64,validation_split0.1,verbose1)5.4 构建全连接网络对比defbuild_fcn():modelmodels.Sequential([layers.Flatten(input_shape(32,32,3)),layers.Dense(1024,activationrelu),layers.Dropout(0.5),layers.Dense(512,activationrelu),layers.Dropout(0.5),layers.Dense(10,activationsoftmax)])returnmodel fcn_modelbuild_fcn()fcn_model.compile(optimizeradam,losscategorical_crossentropy,metrics[accuracy])history_fcnfcn_model.fit(x_train,y_train,epochs20,batch_size64,validation_split0.1,verbose1)5.5 结果对比plt.plot(history_cnn.history[val_accuracy],labelCNN)plt.plot(history_fcn.history[val_accuracy],labelFCN)plt.xlabel(Epoch)plt.ylabel(Validation Accuracy)plt.legend()plt.title(CNN vs Fully Connected on CIFAR-10)plt.show()# CNN显著优于FCN6. 常见坑点与排错总结6.1 尺寸计算错误坑1卷积或池化后尺寸计算错误导致后续Flatten后维度与Dense层不匹配。解决使用model.summary()查看每层输出形状或手动套用公式。坑2paddingsame时输出尺寸为ceil(H/s)但步长1时可能不是严格等于H/s。记忆same保持输入尺寸除以步长向上取整。6.2 卷积层参数设置坑3卷积核数量filters过小模型表达能力不足过大则过拟合且计算慢。经验从32或64开始逐层翻倍。坑4步长和池化组合导致特征图过早变为1x1损失空间信息。建议最后一层卷积后至少保持4x4以上再全局池化或展平。6.3 训练问题坑5CNN训练不收敛损失不下降。排查检查数据归一化使用较小学习率添加BatchNormalization。坑6内存不足OOM尤其是大图像和深网络。解决减小batch size使用更少的卷积核采用梯度累积。6.4 可视化误解坑7认为卷积核可视化后出现的纹理即是核的最终值实际上需要归一化到0-255才能显示。坑8特征图可视化时不同通道范围差异大需分别归一化。7. 知识点总结 课后作业7.1 核心知识点梳理局部感受野每个神经元只连接局部区域符合图像特征局部性。权值共享同一卷积核在整个图像上滑动极大减少参数量。卷积运算滑动窗口内逐元素乘加输出特征图。超参数核大小、步长、填充决定输出尺寸。池化最大池化/平均池化降低维度增强平移不变性。多通道卷积每个卷积核与所有输入通道卷积后求和。7.2 基础作业计算输入32×32×3使用5×5卷积核步长2填充valid输出尺寸是多少若填充same呢使用TensorFlow手动实现一个卷积层不使用Conv2D只用tf.nn.conv2d并与内置结果对比。修改简单CNNMNIST的卷积核数量为16和64观察参数量变化和准确率。7.3 进阶实操作业任务实现空洞卷积Dilated Convolution并对比感受野使用tf.keras.layers.Conv2D(filters, kernel_size, dilation_rate2)。在相同输入上比较普通卷积膨胀率1和膨胀率为2的卷积的输出尺寸和感受野大小。设计一个小型实验使用两种卷积分别训练MNIST观察精度差异膨胀卷积是否提升大感受野下的性能。7.4 思考拓展题权值共享使得卷积层具有平移等变性但对于旋转或缩放是否同样适用如果不适用有哪些改进方法在深度CNN中为什么通常越深的层使用越多的卷积核这与特征图的尺寸减小有何关系全局平均池化GlobalAveragePooling2D常替代FlattenDense来减少参数量。试分析其原理和优缺点。下一课预告TF搭建基础CNN网络——我们将实战搭建完整的CNN架构包括卷积层、池化层、全连接层的组合设计并在真实图像数据集上训练和评估模型。《TensorFlow2.x: 深度学习入门到高阶实战教程》系列课程导航去订阅第一部分基础入门1-10 课第二部分神经网络核心11-25 课第三部分进阶网络与框架高阶26-40 课第四部分企业实战与项目落地41-50 课 感谢您耐心阅读到这里 如果本文对您有所启发欢迎 点赞 收藏 分享给更多需要的伙伴。️ 期待在评论区看到您的想法, 共同进步。 关注我持续获取更多干货内容 我们下篇文章见