為什么卷積要先反轉再滑動呢?不翻轉為什么不行?
卓晴老師,我一直沒想明白一個問題,為什么卷積要先反轉再滑動呢?不翻轉為什么不行?
的確,對于兩個信號之間的卷積運算,可以理解為對其中任意個信號進行“反褶”、“平移”、“相乘”、“積分(累加)”,最后得到卷積結果:
相比之下,相關運算就沒有其中的“反褶”部分。但是,對于復值信號,需要對后面的信號取共軛[1]
卷積運算滿足一些代數(shù)性質,比如交換律、結合律、分配率,但相關運算不滿足。
到現(xiàn)在為止,我們只是討論了這兩個運算究竟哪里不一樣,即卷積需要先反褶,再滑動,而相關運算不需要反褶。但你還在問第二個問題:不反褶不行嗎?
首先,如果參與運算兩個實數(shù)信號中,有一個信號為偶函數(shù),那么它們的卷積運算就和相關運算相同了。即可以不進行反褶。但為什么要引入帶有反褶運算的卷積呢?
在應用中,相關運算主要描述的是信號與信號之間的相似關系,而卷積運算描述的是信號與系統(tǒng)之間的關系。
相關運算中的核心積分運算是描述了兩個信號之間的內積:
在線性空間中也可以引出兩個信號之間的相似程度的度量,相關運算的結果反映了兩個信號之間在不同的延遲情況下的相似性。因此可以通過尋找相關結果的峰值確定兩個信號之間的延遲關系。
卷積則是刻畫了一個線性時不變系統(tǒng)的零狀態(tài)響應 與系統(tǒng)的輸入信號 和系統(tǒng)的單位沖激響應信號 之間的關系。利用信號可以分解成沖激信號的疊加:
在利用系統(tǒng)的線性+時不變特性,可以得到系統(tǒng)的輸出 就等于 的卷積。
這其中的簡單推導在任何一本講解信號與系統(tǒng)教材中都有。因此引入帶有反褶的卷積運算是為了刻畫信號與系統(tǒng)之間的關系的。
正是由于引入了卷積運算,所以對于任何一個線性時不變系統(tǒng),都可以將其與一個信號(系統(tǒng)的單位沖激響應)一一對應起來。信號與系統(tǒng)達到了完美的統(tǒng)一。
由此,你可能還要問:為什么系統(tǒng)的響應中,輸入x(t)需要與單位沖激響應h(t)進行卷積運算?,只是進行相關不行嗎?
進行相關運算時,參與運算的兩個信號是對等的,它們的變量 都反映了信號隨著時間 的過程演變的情況。但進行卷積運算時,其中一個信號是系統(tǒng)的單位沖激響應,運算結果中的變量 反映了系統(tǒng)輸出結果所在的時刻,站在 時刻,考察輸入信號 的不同時間 的取值是如何累計出系統(tǒng)的輸出 的。因此,對于信號而言,它們的變量是 ,而不是 。
對于 時刻的信號 所產(chǎn)生的結果,只需經(jīng)過延遲 的時間,便到達了時刻 了,即 。將所有的 所產(chǎn)生的結果進行積分,便可以得到系統(tǒng)在 時刻的取值了。
文字顯得枯燥,一圖抵千言。下面是鄭君里[2]教授的教材中對此進行的圖片描述。還是挺形象的。
在 中國科學網(wǎng)[3]也有很多教授對系統(tǒng)輸出的卷積運算中的反褶進行了很好的討論,比如曹廣福老師在我來說卷積中,討論了連續(xù)和離散時間卷積運算,并把離散卷積看成級數(shù)運算。許志強在卷積是什么?的博文中,將卷積看成加權平均積。王一哲在卷積的理解及應用中給出了很多圖形方面的解釋。
所以,你提到的卷積運算中的奇怪的反褶過程,實際上引起過很多人的疑問以及對此的討論。
可能最后,你還要問:既然,卷積運算和相關運算這么相近,為什么非要定義這個卷積,直接就定義成反褶+相關不就行了嗎?
這個話就長了,雖然根據(jù) 奧卡姆剃刀原理[4],可以盡可能減少概念、定理的數(shù)量來滿足數(shù)學上的精簡需求。但在工程中,人們還是喜歡偷懶。更有甚者,還采用掛羊頭,賣狗肉的做法,對一些本質相同的運算,委以不同的名稱,雖然還達不到擾亂視聽的,但也是一種約定俗稱,比如像 離散周期序列傅里葉級數(shù)分解(DTFS)、離散傅里葉變換(DFT)、 快速傅里葉變換(FFT)**本質上的數(shù)學概念是一樣的。
這樣也沒什么不好的,就連孔乙己都知道“回”字 回字有四種寫法[5]呢。
參考資料
共軛: 復數(shù)呈現(xiàn)共軛關系是指它們的實部相同,虛部相反
[2]鄭君里: 937年至2019年4月14日),1961年畢業(yè)于清華大學無線電系。曾任清華大學電子工程系教授、通信與信息系統(tǒng)專業(yè)博士生導師。中國電子學會電路與系統(tǒng)學會委員、中國神經(jīng)網(wǎng)絡委員會委員。
[3]中國科學網(wǎng): http://www.sciencenet.cn/
奧卡姆剃刀原理: https://baike.baidu.com/item/%E5%A5%A5%E5%8D%A1%E5%A7%86%E5%89%83%E5%88%80%E5%8E%9F%E7%90%86/10900565?fr=aladdin
回字有四種寫法: https://guoxue.ifeng.com/a/20161210/50395689_0.shtml
公眾號留言
卓大大,請問一下paddlepaddle預選賽是今天嗎,官網(wǎng)上沒有消息誒?
回復:今天下午,百度會將準備好的線上AI預選賽的入口準備好,屆時會盡早進行公布的。也請大家關注百度AI Studio中的相關比賽內容。
點擊“閱讀原文”可以方便查看更多推文。
免責聲明:本文內容由21ic獲得授權后發(fā)布,版權歸原作者所有,本平臺僅提供信息存儲服務。文章僅代表作者個人觀點,不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!





