日本黄色一级经典视频|伊人久久精品视频|亚洲黄色色周成人视频九九九|av免费网址黄色小短片|黄色Av无码亚洲成年人|亚洲1区2区3区无码|真人黄片免费观看|无码一级小说欧美日免费三级|日韩中文字幕91在线看|精品久久久无码中文字幕边打电话

當(dāng)前位置：首頁 > > AI科技大本營

從神經(jīng)元談到深度神經(jīng)網(wǎng)絡(luò)

時(shí)間：2021-10-22 15:15:33
關(guān)鍵字： 神經(jīng)網(wǎng)絡(luò)   
手機(jī)看文章

掃描二維碼
隨時(shí)隨地手機(jī)看文章

[導(dǎo)讀]作者|泳魚來源|算法進(jìn)階本文將從神經(jīng)元到邏輯回歸模型結(jié)構(gòu)，并將其擴(kuò)展到深度深度網(wǎng)絡(luò)模型。一、談?wù)勚腔蹖τ谌祟愔腔蹔W秘的探索，不同時(shí)代、學(xué)科背景的人對于智慧的理解及其實(shí)現(xiàn)方法有著不同的思想主張。有的主張用顯式邏輯體系搭建人工智能系統(tǒng)，即符號主義。有的主張用數(shù)學(xué)模型模擬大腦組成以實(shí)現(xiàn)...

從神經(jīng)元談到深度神經(jīng)網(wǎng)絡(luò)作者 | 泳魚來源 | 算法進(jìn)階本文將從神經(jīng)元到邏輯回歸模型結(jié)構(gòu)，并將其擴(kuò)展到深度深度網(wǎng)絡(luò)模型。


一、談?wù)勚腔?/span>

對于人類智慧奧秘的探索，不同時(shí)代、學(xué)科背景的人對于智慧的理解及其實(shí)現(xiàn)方法有著不同的思想主張。有的主張用顯式邏輯體系搭建人工智能系統(tǒng)，即符號主義。有的主張用數(shù)學(xué)模型模擬大腦組成以實(shí)現(xiàn)智慧，即聯(lián)結(jié)主義，這也就是我們本文討論的方向。那大腦為什么能夠思考？科學(xué)家發(fā)現(xiàn)，原因在于人體的神經(jīng)網(wǎng)絡(luò)，而神經(jīng)網(wǎng)絡(luò)的基本組成就是神經(jīng)元：從神經(jīng)元談到深度神經(jīng)網(wǎng)絡(luò)1、外部刺激通過神經(jīng)元的神經(jīng)末梢，轉(zhuǎn)化為電信號，傳導(dǎo)到神經(jīng)元。2、神經(jīng)元的樹突接收電信號，由神經(jīng)元處理是否達(dá)到激活閾值再輸出興奮或者抑制電信號，最后由軸突將信號傳遞給其它細(xì)胞。3、無數(shù)神經(jīng)元構(gòu)成神經(jīng)中樞。神經(jīng)中樞綜合各種信號，做出判斷。4、 人體根據(jù)神經(jīng)中樞的指令，對外部刺激做出反應(yīng)。

二、神經(jīng)元

既然智慧的基礎(chǔ)是神經(jīng)元，而正因?yàn)樯窠?jīng)元這些特點(diǎn)才使大腦具有強(qiáng)大的 “運(yùn)算及決策的能力”，科學(xué)家以此為原理發(fā)明了人工神經(jīng)元數(shù)學(xué)模型，并以神經(jīng)元為基礎(chǔ)而組合成人工神經(jīng)網(wǎng)絡(luò)模型。（注：下文談到的神經(jīng)元都特指人工神經(jīng)元）從神經(jīng)元談到深度神經(jīng)網(wǎng)絡(luò)如上圖就是人工神經(jīng)元的基本結(jié)構(gòu)。它可以輸入一定維數(shù)的輸入（如：3維的輸入，x1，x2, x3），每個(gè)輸入都先要乘上相應(yīng)的權(quán)重值（如：w0,w1,w2），乘上每一權(quán)重值的作用可以視為對每一輸入的加權(quán)，也就是對每一輸入的神經(jīng)元對它的重視程度是不一樣的。接下來神經(jīng)元將乘上權(quán)重的每個(gè)輸入做下求和（也就是加權(quán)求和），并加上截距項(xiàng)（截距項(xiàng)b可以視為對神經(jīng)元閾值的直接調(diào)整），最后由激活函數(shù)（f）非線性轉(zhuǎn)換為最終輸出值。激活函數(shù)的種類很多，有sigmoid，tanh，sign，relu，softmax等等（下一專題會討論下激活函數(shù)）。激活函數(shù)的作用是在神經(jīng)元上實(shí)現(xiàn)一道非線性的運(yùn)算，以通用萬能近似定理——“如果一個(gè)前饋神經(jīng)網(wǎng)絡(luò)具有線性輸出層和至少一層隱藏層，只要給予網(wǎng)絡(luò)足夠數(shù)量的神經(jīng)元，便可以實(shí)現(xiàn)以足夠高精度來逼近任意一個(gè)在 ?n 的緊子集 (Compact subset) 上的連續(xù)函數(shù)”所表明，激活函數(shù)是深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)擬合任意函數(shù)的前提。

三、神經(jīng)元到邏輯回歸

單個(gè)神經(jīng)元且其激活函數(shù)為sigmoid時(shí)，既是我們熟知的邏輯回歸的模型結(jié)構(gòu)。從神經(jīng)元談到深度神經(jīng)網(wǎng)絡(luò)


邏輯回歸是一種廣義線性的分類模型且其模型結(jié)構(gòu)可以視為單層的神經(jīng)網(wǎng)絡(luò)，由一層輸入層、一層僅帶有一個(gè)sigmoid激活函數(shù)的神經(jīng)元的輸出層組成，而無隱藏層。（注：計(jì)算網(wǎng)絡(luò)層數(shù)不計(jì)入輸入層）在邏輯回歸模型結(jié)構(gòu)中，我們輸入數(shù)據(jù)特征x，通過輸出層神經(jīng)元激活函數(shù)σ（sigmoid函數(shù)）將輸入的特征經(jīng)由sigmoid(wx b)的計(jì)算后非線性轉(zhuǎn)換為0~1區(qū)間的數(shù)值后輸出。學(xué)習(xí)訓(xùn)練過程是通過梯度下降學(xué)到合適的參數(shù)w的模型 Y=sigmoid(wx b)，使得模型輸出值Y與實(shí)際值y的誤差最小。

四、邏輯回歸到深度神經(jīng)網(wǎng)絡(luò)

基于前面的介紹可以知道，神經(jīng)網(wǎng)絡(luò)也就是神經(jīng)元按層次連接而成的網(wǎng)絡(luò)，邏輯回歸是單層的神經(jīng)網(wǎng)絡(luò)，當(dāng)我們給僅有輸入層及輸出層的單層神經(jīng)網(wǎng)絡(luò)中間接入至少一層的隱藏層，也就是深度神經(jīng)網(wǎng)絡(luò)了。從神經(jīng)元談到深度神經(jīng)網(wǎng)絡(luò)


深度神經(jīng)網(wǎng)絡(luò)包含了三種網(wǎng)絡(luò)層：輸入層、隱藏層及輸出層。
  • 輸入層：為數(shù)據(jù)特征輸入層，輸入數(shù)據(jù)特征個(gè)數(shù)就對應(yīng)著網(wǎng)絡(luò)的神經(jīng)元數(shù)。
  • 隱藏層：即網(wǎng)絡(luò)的中間層，隱藏層層數(shù)可以為0或者很多層，其作用接受前一層網(wǎng)絡(luò)輸出作為當(dāng)前的輸入值，并計(jì)算輸出當(dāng)前結(jié)果到下一層。隱藏層是神經(jīng)網(wǎng)絡(luò)性能的關(guān)鍵，通常由含激活函數(shù)的神經(jīng)元組成，以進(jìn)一步加工出高層次抽象的特征，以增強(qiáng)網(wǎng)絡(luò)的非線性表達(dá)。隱藏網(wǎng)絡(luò)層數(shù)直接影響模型的擬合效果。
  • 輸出層：為最終結(jié)果輸出的網(wǎng)絡(luò)層。輸出層的神經(jīng)元個(gè)數(shù)代表了分類標(biāo)簽的個(gè)數(shù)（注：在做二分類時(shí)，如果輸出層的激活函數(shù)采用sigmoid，輸出層的神經(jīng)元個(gè)數(shù)為1個(gè)；如果采用softmax分類器，輸出層神經(jīng)元個(gè)數(shù)為2個(gè)）
在神經(jīng)網(wǎng)絡(luò)中，數(shù)據(jù)特征（x）從輸入層輸入，每層的計(jì)算結(jié)果由前一層傳遞到下一層，最終到輸出層輸出計(jì)算結(jié)果。每個(gè)網(wǎng)絡(luò)層由一定數(shù)量的神經(jīng)元組成，神經(jīng)元可以視為一個(gè)個(gè)的計(jì)算單元，對輸入進(jìn)行加權(quán)求和，故其計(jì)算結(jié)果由神經(jīng)元包含的權(quán)重(即模型參數(shù)w)直接控制，神經(jīng)元內(nèi)還可以包含激活函數(shù)，可以對加權(quán)求和的結(jié)果進(jìn)一步做非線性的計(jì)算,如sigmoid(wx b)。從神經(jīng)元談到深度神經(jīng)網(wǎng)絡(luò)



本站聲明： 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布，目的在于傳遞更多信息，并不代表本站贊同其觀點(diǎn)，本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者，如若文章內(nèi)容侵犯您的權(quán)益，請及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀

LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。

關(guān)鍵字： 驅(qū)動(dòng)電源

在工業(yè)自動(dòng)化蓬勃發(fā)展的當(dāng)下，工業(yè)電機(jī)作為核心動(dòng)力設(shè)備，其驅(qū)動(dòng)電源的性能直接關(guān)系到整個(gè)系統(tǒng)的穩(wěn)定性和可靠性。其中，反電動(dòng)勢抑制與過流保護(hù)是驅(qū)動(dòng)電源設(shè)計(jì)中至關(guān)重要的兩個(gè)環(huán)節(jié)，集成化方案的設(shè)計(jì)成為提升電機(jī)驅(qū)動(dòng)性能的關(guān)鍵。

關(guān)鍵字： 工業(yè)電機(jī) 驅(qū)動(dòng)電源

LED 驅(qū)動(dòng)電源作為 LED 照明系統(tǒng)的 “心臟”，其穩(wěn)定性直接決定了整個(gè)照明設(shè)備的使用壽命。然而，在實(shí)際應(yīng)用中，LED 驅(qū)動(dòng)電源易損壞的問題卻十分常見，不僅增加了維護(hù)成本，還影響了用戶體驗(yàn)。要解決這一問題，需從設(shè)計(jì)、生...

關(guān)鍵字： 驅(qū)動(dòng)電源 照明系統(tǒng) 散熱

根據(jù)LED驅(qū)動(dòng)電源的公式，電感內(nèi)電流波動(dòng)大小和電感值成反比，輸出紋波和輸出電容值成反比。所以加大電感值和輸出電容值可以減小紋波。

關(guān)鍵字： LED 設(shè)計(jì) 驅(qū)動(dòng)電源

電動(dòng)汽車(EV)作為新能源汽車的重要代表，正逐漸成為全球汽車產(chǎn)業(yè)的重要發(fā)展方向。電動(dòng)汽車的核心技術(shù)之一是電機(jī)驅(qū)動(dòng)控制系統(tǒng)，而絕緣柵雙極型晶體管(IGBT)作為電機(jī)驅(qū)動(dòng)系統(tǒng)中的關(guān)鍵元件，其性能直接影響到電動(dòng)汽車的動(dòng)力性能和...

關(guān)鍵字： 電動(dòng)汽車 新能源 驅(qū)動(dòng)電源

在現(xiàn)代城市建設(shè)中，街道及停車場照明作為基礎(chǔ)設(shè)施的重要組成部分，其質(zhì)量和效率直接關(guān)系到城市的公共安全、居民生活質(zhì)量和能源利用效率。隨著科技的進(jìn)步，高亮度白光發(fā)光二極管(LED)因其獨(dú)特的優(yōu)勢逐漸取代傳統(tǒng)光源，成為大功率區(qū)域...

關(guān)鍵字： 發(fā)光二極管 驅(qū)動(dòng)電源 LED

LED通用照明設(shè)計(jì)工程師會遇到許多挑戰(zhàn)，如功率密度、功率因數(shù)校正(PFC)、空間受限和可靠性等。

關(guān)鍵字： LED 驅(qū)動(dòng)電源 功率因數(shù)校正

在LED照明技術(shù)日益普及的今天，LED驅(qū)動(dòng)電源的電磁干擾(EMI)問題成為了一個(gè)不可忽視的挑戰(zhàn)。電磁干擾不僅會影響LED燈具的正常工作，還可能對周圍電子設(shè)備造成不利影響，甚至引發(fā)系統(tǒng)故障。因此，采取有效的硬件措施來解決L...

關(guān)鍵字： LED照明技術(shù) 電磁干擾 驅(qū)動(dòng)電源

開關(guān)電源具有效率高的特性,而且開關(guān)電源的變壓器體積比串聯(lián)穩(wěn)壓型電源的要小得多,電源電路比較整潔,整機(jī)重量也有所下降,所以,現(xiàn)在的LED驅(qū)動(dòng)電源

關(guān)鍵字： LED 驅(qū)動(dòng)電源 開關(guān)電源

LED驅(qū)動(dòng)電源是把電源供應(yīng)轉(zhuǎn)換為特定的電壓電流以驅(qū)動(dòng)LED發(fā)光的電壓轉(zhuǎn)換器，通常情況下：LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。

關(guān)鍵字： LED 隧道燈 驅(qū)動(dòng)電源
關(guān)閉