-
循環(huán)神經(jīng)網(wǎng)絡(luò) RNN發(fā)展史概述
循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network, RNN)是一類以序列(sequence)數(shù)據(jù)為輸入，在序列的演進(jìn)方向進(jìn)行遞歸(recursion)且所有節(jié)點(diǎn)(循環(huán)單元)按鏈?zhǔn)竭B接的遞歸神經(jīng)網(wǎng)絡(luò)(recursive neural network)。對(duì)循環(huán)神經(jīng)網(wǎng)絡(luò)的研究始于二十世紀(jì)80-90年代，并在二十一世紀(jì)初發(fā)展為深度學(xué)習(xí)(deep learning)算法之一，其中雙向循環(huán)神經(jīng)網(wǎng)絡(luò)(Bidirectional RNN, Bi-RNN)和長(zhǎng)短期記憶網(wǎng)絡(luò)(Long Short-Term Memory networks，LSTM)是常見的循環(huán)神經(jīng)網(wǎng)絡(luò)。
-
什么是自編碼器？對(duì)機(jī)器學(xué)習(xí)有什么影響？
AutoEncoder的基本思想是利用神經(jīng)網(wǎng)絡(luò)來(lái)做無(wú)監(jiān)督學(xué)習(xí)，就是把樣本的輸入同時(shí)作為神經(jīng)網(wǎng)絡(luò)的輸入和輸出。本質(zhì)上是希望學(xué)習(xí)到輸入樣本的表示(encoding)。早期AutoEncoder的研究主要是數(shù)據(jù)過(guò)于稀疏、數(shù)據(jù)高維導(dǎo)致計(jì)算復(fù)雜度高。比較早用神經(jīng)網(wǎng)絡(luò)做AutoEncoder的可以追溯到80年代的BPNN和MLP以及當(dāng)時(shí)Hinton推崇的RBM。后來(lái)到了2000年以后還堅(jiān)持在做的只剩下Hinton的RBM了。從2000年以后，隨著神經(jīng)網(wǎng)絡(luò)的快速興起，AutoEncoder也得到快速發(fā)展，基本上有幾條線：稀疏AutoEncoder、噪音容忍AutoEncoder、卷積AutoEncoder、變分AutoEncoder。最新的進(jìn)展是結(jié)合對(duì)抗思想的對(duì)抗AutoEncoder。
-
簡(jiǎn)述卷積神經(jīng)網(wǎng)絡(luò)發(fā)展進(jìn)程
卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展，最早可以追溯到1962年，Hubel和Wiesel對(duì)貓大腦中的視覺系統(tǒng)的研究。1980年，一個(gè)日本科學(xué)家福島邦彥(Kunihiko Fukushima)提出了一個(gè)包含卷積層、池化層的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。在這個(gè)基礎(chǔ)上，Yann Lecun將BP算法應(yīng)用到這個(gè)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的訓(xùn)練上，就形成了當(dāng)代卷積神經(jīng)網(wǎng)絡(luò)的雛形。
-
什么是深度學(xué)習(xí)
深度學(xué)習(xí)是近10年機(jī)器學(xué)習(xí)領(lǐng)域發(fā)展最快的一個(gè)分支，由于其重要性，三位教授(Geoffrey Hinton、Yann Lecun、Yoshua Bengio)因此同獲圖靈獎(jiǎng)。深度學(xué)習(xí)模型的發(fā)展可以追溯到1958年的感知機(jī)(Perceptron)。1943年神經(jīng)網(wǎng)絡(luò)就已經(jīng)出現(xiàn)雛形(源自NeuroScience)，1958年研究認(rèn)知的心理學(xué)家Frank發(fā)明了感知機(jī)，當(dāng)時(shí)掀起一股熱潮。后來(lái)Marvin Minsky(人工智能大師)和Seymour Papert發(fā)現(xiàn)感知機(jī)的缺陷：不能處理異或回路等非線性問題，以及當(dāng)時(shí)存在計(jì)算能力不足以處理大型神經(jīng)網(wǎng)絡(luò)的問題。于是整個(gè)神經(jīng)網(wǎng)絡(luò)的研究進(jìn)入停滯期。
-
可解釋性的標(biāo)準(zhǔn)是什么？
有一些特定的標(biāo)準(zhǔn)可用于分類模型解釋方法。Christoph Molnar在2018年“可解釋的機(jī)器學(xué)習(xí)，制作黑箱模型可解釋指南”中提到了一個(gè)很好的指南。
-
什么是對(duì)抗機(jī)器學(xué)習(xí)？為何要對(duì)抗機(jī)器學(xué)習(xí)？
對(duì)抗機(jī)器學(xué)習(xí)是一個(gè)機(jī)器學(xué)習(xí)與計(jì)算機(jī)安全的交叉領(lǐng)域。對(duì)抗機(jī)器學(xué)習(xí)旨在給惡意環(huán)境下的機(jī)器學(xué)習(xí)技術(shù)提供安全保障。由于機(jī)器學(xué)習(xí)技術(shù)一般研究的是同一個(gè)或較為穩(wěn)定的數(shù)據(jù)分布，當(dāng)部署到現(xiàn)實(shí)中的時(shí)候，由于惡意用戶的存在，這種假設(shè)并不一定成立。比如研究人員發(fā)現(xiàn)，一些精心設(shè)計(jì)的對(duì)抗樣本(adversarial example)可以使機(jī)器學(xué)習(xí)模型不能成功地輸出正確的結(jié)果。針對(duì)模型的攻擊問題，我們主要分為兩大類，就是從訓(xùn)練階段和推理(inference)階段來(lái)進(jìn)行討論。
-
什么是生成對(duì)抗網(wǎng)絡(luò)
生成對(duì)抗網(wǎng)絡(luò)(Generative Adversarial Networks,GAN)是用于無(wú)監(jiān)督學(xué)習(xí)的機(jī)器學(xué)習(xí)模型，由Ian Goodfellow等人在2014年提出。由神經(jīng)網(wǎng)絡(luò)構(gòu)成判別器和生成器構(gòu)成，通過(guò)一種互相競(jìng)爭(zhēng)的機(jī)制組成的一種學(xué)習(xí)框架，GAN在深度學(xué)習(xí)領(lǐng)域掀起了一場(chǎng)革命，這場(chǎng)革命產(chǎn)生了一些重大的技術(shù)突破，學(xué)術(shù)界和工業(yè)界都開始接受并歡迎GAN的到來(lái)。GAN最厲害的地方是它的學(xué)習(xí)性質(zhì)是無(wú)監(jiān)督的，GAN也不需要標(biāo)記數(shù)據(jù)，這使得GAN功能強(qiáng)大，因?yàn)閿?shù)據(jù)標(biāo)記的工作非?？菰铩?/p>
-
機(jī)器學(xué)習(xí)的經(jīng)典代表算法總結(jié)（二）
從1990到2012年，機(jī)器學(xué)習(xí)逐漸走向成熟和應(yīng)用，在這20多年里機(jī)器學(xué)習(xí)的理論和方法得到了完善和充實(shí)，可謂是百花齊放的年代。代表性的重要成果有：支持向量機(jī)(SVM，1995)、AdaBoost算法(1997)、循環(huán)神經(jīng)網(wǎng)絡(luò)和LSTM(1997)、流形學(xué)習(xí)(2000)、隨機(jī)森林(2001)。
-
機(jī)器學(xué)習(xí)的經(jīng)典代表算法總結(jié)（一）
1980年機(jī)器學(xué)習(xí)作為一支獨(dú)立的力量登上了歷史舞臺(tái)。在這之后的10年里出現(xiàn)了一些重要的方法和理論，典型的代表是：分類與回歸樹(CART，1984)、反向傳播算法(1986)、卷積神經(jīng)網(wǎng)絡(luò)(1989)。
-
機(jī)器學(xué)習(xí)算法分類有哪些
機(jī)器學(xué)習(xí)算法可以按照不同的標(biāo)準(zhǔn)來(lái)進(jìn)行分類。按照訓(xùn)練樣本提供的信息以及反饋方式的不同，將機(jī)器學(xué)習(xí)算法分為監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。
-
機(jī)器學(xué)習(xí)的發(fā)展歷史介紹
機(jī)器學(xué)習(xí)已經(jīng)成為了當(dāng)今的熱門話題，但是從機(jī)器學(xué)習(xí)這個(gè)概念的誕生到機(jī)器學(xué)習(xí)技術(shù)的普遍應(yīng)用經(jīng)過(guò)了漫長(zhǎng)的過(guò)程。在機(jī)器學(xué)習(xí)發(fā)展的歷史長(zhǎng)河中，眾多優(yōu)秀的學(xué)者為推動(dòng)機(jī)器學(xué)習(xí)的發(fā)展做出了巨大的貢獻(xiàn)。
-
人工智能極簡(jiǎn)編年史
近幾年，人工智能一直是學(xué)術(shù)界和產(chǎn)業(yè)界研究的熱點(diǎn)，對(duì)于人工智能將如何改變我們的生活，人們充滿想象與期待。人工智能概念的提出，最早可以追溯到1956年的達(dá)特茅斯會(huì)議，然而，在那之后，人工智能又是如何一步步發(fā)展起來(lái)的呢？
-
誰(shuí)人不知半導(dǎo)體“聯(lián)姻”的苦︱七夕特別版
這話有些偏激，但似乎有點(diǎn)道理。奈何今天題目里的“聯(lián)姻”不是指人與人，而是圈內(nèi)的公司與公司。每每想到半導(dǎo)體公司的聯(lián)姻，我都覺得好苦。自由戀愛？不存在的！愛情不是你想買，想買就能買。有時(shí)甚至讓你覺得這是一場(chǎng)浩大工程的取經(jīng)行為，需經(jīng)歷九九八十一難才能修成正果。
-
人工智能有哪些層次?大佬帶你看人工智能中下游發(fā)展
在這篇文章中，小編將為大家?guī)?lái)人工智能的相關(guān)報(bào)道。如果你對(duì)本文即將要講解的內(nèi)容存在一定興趣，不妨繼續(xù)往下閱讀哦。
-
我們的生活和產(chǎn)業(yè)發(fā)展越來(lái)越離不開物聯(lián)網(wǎng)
物聯(lián)網(wǎng)(IoT)是日常生活的重要組成部分，其存在于手機(jī)、電腦、可穿戴設(shè)備、智能汽車、燈泡、路燈、家用電器、心臟監(jiān)測(cè)器等中。 物聯(lián)網(wǎng)給予我們更多的控制權(quán)、自動(dòng)化以及提高效率。同樣，物聯(lián)網(wǎng)技術(shù)為企業(yè)提供了許多提高效率的機(jī)會(huì)。
-
人工智能機(jī)器學(xué)習(xí)計(jì)算和存儲(chǔ)同時(shí)進(jìn)行
人工智能 (AI) 應(yīng)用程序在我們的日常生活中無(wú)處不在。隨著傳感器、5G通信、邊緣計(jì)算等技術(shù)的不斷演進(jìn)，包括汽車、工廠自動(dòng)化設(shè)備、醫(yī)療保健設(shè)備、各種消費(fèi)電子產(chǎn)品和小型電池供電的物聯(lián)網(wǎng)(IoT)在內(nèi)的大型數(shù)據(jù)中心)節(jié)點(diǎn)，從數(shù)字化、網(wǎng)絡(luò)化功能的增加，逐漸演變?yōu)閾碛胁煌瑢哟蔚摹爸悄堋薄?/p>
-
亞馬遜云科技2022 re:Invent創(chuàng)新服務(wù)重塑未來(lái) 中國(guó)巡展活動(dòng)開啟
北京2022年12月20日 /美通社/ -- 亞馬遜云科技在2022 re:Invent全球大會(huì)上發(fā)布了一系列涵蓋底層基礎(chǔ)架構(gòu)、計(jì)算、數(shù)據(jù)庫(kù)、數(shù)據(jù)分析、AI/ML、安全、行業(yè)應(yīng)用等新的服務(wù)及功能，通過(guò)不斷創(chuàng)新幫助全球客戶重塑未來(lái)。亞馬遜云科技持續(xù)加速底層技術(shù)創(chuàng)新，推出...
-
人工智能技術(shù)讓我們的企業(yè)變得越來(lái)越“聰明”了
AI無(wú)處不在，所帶來(lái)的顛覆性沖擊遠(yuǎn)超過(guò)想象，作為科技創(chuàng)新和經(jīng)濟(jì)發(fā)展的重要驅(qū)動(dòng)力，AI正在進(jìn)入高速發(fā)展期。工業(yè)和信息化部公布的測(cè)算數(shù)據(jù)顯示，我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模已超過(guò)4000億元，企業(yè)數(shù)量超過(guò)3000家。2021年全球人工智能產(chǎn)業(yè)規(guī)模達(dá)3619億美元，其中中國(guó)占576億美元。從投融資規(guī)模來(lái)看，2021年全球人工智能產(chǎn)業(yè)投融資金額為714.7億美元，同比增加90.2%，中國(guó)人工智能產(chǎn)業(yè)投融資金額為201.2億美元，同比增加40.4%。
-
人工智能如何影響行業(yè)發(fā)展和人們生活？
隨著人工智能帶來(lái)的好處，例如提高生產(chǎn)力、降低運(yùn)營(yíng)成本和加快產(chǎn)品上市速度等，越來(lái)越多企業(yè)正在廣泛應(yīng)用人工智能。
-
量子人工智能技術(shù)的安全性成為研究熱點(diǎn)，脆弱性和防御手段還面臨諸多挑戰(zhàn)
研究人員已經(jīng)提出了許多量子算法來(lái)增強(qiáng)各種人工智能任務(wù)。隨著量子增強(qiáng)人工智能的迅速建立，一個(gè)緊迫的基本問題自然出現(xiàn)了：量子人工智能技術(shù)在各種攻擊下是否值得信賴?
- 安富利3kW模擬電源供應(yīng)器（PSU）解決方案開發(fā)板來(lái)襲，申請(qǐng)領(lǐng)好禮
- 得捷芯聞解碼視頻研習(xí)站第五期：打造更安全、更智能、更舒適、高續(xù)航的駕乘體驗(yàn)
- FPGA供電應(yīng)用遇挑戰(zhàn)？MPS高性能FPGA供電解決方案幫你破局
- 得捷芯聞解碼研習(xí)站第四期：網(wǎng)絡(luò)安全芯片，讓您的應(yīng)用系統(tǒng)無(wú)懈可擊
- “變現(xiàn)”指南：上傳資料獲三重紅包，親測(cè)有效！
- 《21ic技術(shù)洞察》系列欄目：AI芯紀(jì)元——AI加持，語(yǔ)?助?再進(jìn)化！
- 得捷芯聞解碼研習(xí)站第三期：MCU助?多應(yīng)?打破功耗噩夢(mèng)與安全隱患困局
