當前位置:趣味科普網>經驗>

全連線層的作用

經驗 閱讀(1.85W)

全連線層的作用

全連線層的作用如下:

1、首先全連線層(fullyconnectedlayers,FC)在整個卷積神經網路中起到“分類器”的作用。

2、其次目前由於全連線層引數冗餘(僅全連線層引數就可佔整個網路引數80%左右),近期一些效能優異的網路模型如ResNet和GoogLeNet等均用全域性平均池化(globalaveragepooling,GAP)取代FC來融合學到的深度特徵,最後仍用softmax等損失函式作為網路目標函式來指導學習過程。需要指出的是,用GAP替代FC的網路通常有較好的預測效能。

3、最後FC可在模型表示能力遷移過程中充當“防火牆”的作用。