CNN的权重共享如何减少参数量?
请解释**参数共享(Parameter Sharing / Weight Sharing)**在卷积神经网络中的含义,以及它如何大幅减少模型参数量。
回答
孤独的心
参数共享指同一卷积核在整个输入空间上滑动时使用同一套权重。参数量节省:假设输入224×224×3,卷积核3×3×3×64(64个输出通道)。参数量=3×3×3×64=1728。如果不用共享(每个位置独立参数),则参数量=224×224×3×3×3×64≈8.7亿——完全不可行。物理意义:卷积核学习的是局部特征检测器(如边缘检测器),该特征在图像不同位置都能出现——共享权重使模型学习到位置不变性。相比之下,全连接层每个输出神经元与所有输入连接,无共享,参数量巨大。权重共享是CNN核心优势之一。