日本黄色一级经典视频|伊人久久精品视频|亚洲黄色色周成人视频九九九|av免费网址黄色小短片|黄色Av无码亚洲成年人|亚洲1区2区3区无码|真人黄片免费观看|无码一级小说欧美日免费三级|日韩中文字幕91在线看|精品久久久无码中文字幕边打电话

當(dāng)前位置:首頁 > 嵌入式 > 嵌入式分享
全連接層通常位于CNN的最后端,是連接卷積、池化層級與輸出層級的“橋梁”,其核心作用是整合前面層級提取的多維度特征(底層、中層、高層),將其轉(zhuǎn)化為與任務(wù)對應(yīng)的輸出形式(如分類任務(wù)的類別概率、檢測任務(wù)的目標(biāo)坐標(biāo)),相當(dāng)于人類視覺系統(tǒng)中“抽象全局語義”的環(huán)節(jié)。
與卷積層、池化層不同,全連接層的神經(jīng)元與上一層的所有神經(jīng)元完全連接(無局部感受野、無權(quán)值共享),其核心邏輯是“全局特征整合”——前面的卷積層、池化層提取的是多通道的二維特征圖,這些特征圖包含了目標(biāo)的局部細(xì)節(jié)和結(jié)構(gòu)信息,但缺乏全局語義關(guān)聯(lián),全連接層通過將二維特征圖扁平化(Flatten)為一維特征向量,再通過全連接運(yùn)算,整合所有特征信息,抽象為高層語義特征,最終輸出任務(wù)結(jié)果。
1. 全連接層的完整流程
全連接層的工作流程分為三步,以目標(biāo)分類任務(wù)為例,具體如下:
第一步,特征扁平化(Flatten):將前面池化層輸出的多通道二維特征圖,拉伸為一維特征向量。例如,池化層輸出為512×8×8的特征圖(512通道,高度8,寬度8),扁平化后得到的一維特征向量維度為512×8×8=32768維,這個(gè)向量包含了前面層級提取的所有特征信息。
第二步,全連接運(yùn)算:將扁平化后的一維特征向量輸入全連接層,全連接層的每個(gè)神經(jīng)元都與上一層的所有神經(jīng)元相連,通過矩陣乘法運(yùn)算(特征向量×權(quán)重矩陣),再加上偏置項(xiàng),將高維特征向量映射為低維特征向量。例如,32768維的特征向量,經(jīng)過第一個(gè)全連接層(1024個(gè)神經(jīng)元)后,映射為1024維的特征向量;再經(jīng)過第二個(gè)全連接層(256個(gè)神經(jīng)元)后,映射為256維的特征向量,逐步實(shí)現(xiàn)特征的全局整合與抽象。
第三步,輸出任務(wù)結(jié)果:根據(jù)具體任務(wù),全連接層的最后一層輸出對應(yīng)的結(jié)果。例如,目標(biāo)分類任務(wù)中,最后一層全連接層的神經(jīng)元數(shù)量等于分類類別數(shù)(如1000類分類任務(wù),輸出1000維向量),再通過Softmax激活函數(shù),將輸出向量轉(zhuǎn)化為各類別的概率(概率之和為1),概率最大的類別即為模型的預(yù)測結(jié)果;目標(biāo)檢測任務(wù)中,最后一層全連接層輸出目標(biāo)的坐標(biāo)(x、y、寬度、高度)和類別概率。
2. 全連接層的核心特點(diǎn)與局限性
全連接層的核心特點(diǎn)是“全局特征整合能力強(qiáng)”,能夠?qū)⑶懊鎸蛹壧崛〉木植刻卣?、結(jié)構(gòu)特征整合為高層語義特征,為任務(wù)輸出提供核心支撐。但同時(shí),全連接層也存在明顯的局限性:
(1)參數(shù)數(shù)量多:全連接層無權(quán)重共享機(jī)制,神經(jīng)元之間完全連接,當(dāng)輸入特征向量維度較高時(shí),參數(shù)數(shù)量會(huì)大幅增加,導(dǎo)致計(jì)算復(fù)雜度升高、模型過擬合風(fēng)險(xiǎn)增加。例如,32768維的輸入特征向量,若全連接層有1024個(gè)神經(jīng)元,參數(shù)數(shù)量就高達(dá)32768×1024≈3300萬。
(2)丟失空間結(jié)構(gòu)信息:全連接層需要將二維特征圖扁平化為一維向量,這會(huì)徹底丟失特征的空間結(jié)構(gòu)信息,而空間結(jié)構(gòu)信息對于部分任務(wù)(如圖像分割、目標(biāo)定位)至關(guān)重要。因此,近年來的先進(jìn)CNN模型(如ResNet、U-Net)中,全連接層的應(yīng)用逐漸減少,多采用全局平均池化(GAP)等方式替代,既能實(shí)現(xiàn)特征整合,又能保留部分空間信息,同時(shí)減少參數(shù)數(shù)量。
本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀
關(guān)閉