前言

　　隨著因特網(wǎng)的發(fā)展成熟、用戶需求的增長以及宏觀環(huán)境變暖等條件的刺激，基于網(wǎng)絡(luò)的音視頻通信行業(yè)迅速發(fā)展起來。本文介紹基于Freescale公司i.MX27硬件平臺，基于SIP(初始會話協(xié)議)協(xié)議的網(wǎng)絡(luò)視傳機(jī)的設(shè)計與實現(xiàn)。

　　視傳機(jī)的軟硬件技術(shù)基礎(chǔ)

　　i.MX27

　　將視頻編解碼功能嵌入到多媒體應(yīng)用處理器中已經(jīng)成為一個趨勢。Freescale DragonBall家族最新成員i.MX27多媒體應(yīng)用處理器，片內(nèi)集成H.264/MPEG4全雙工硬件編解碼視頻處理單元，是嵌入式多媒體應(yīng)用處理器的一顆新星，可廣泛應(yīng)用于多種產(chǎn)品中。i.MX27處理器內(nèi)部的硬件編解碼模塊性能強(qiáng)勁,可以達(dá)到H.264/MPEG4編解碼D1分辨率：720× 576@25fps;720×480@30fps;全雙工編解碼同時進(jìn)行可以達(dá)到VGA分辨率：640×480@30fps。

　　SIP協(xié)議

　　SIP是由IETF(國際互聯(lián)網(wǎng)標(biāo)準(zhǔn)制定組織)制定的面向 Internet 會議和電話的信令協(xié)議。SIP是一個應(yīng)用層的協(xié)議，可以建立，修改或者中止多媒體會話或者呼叫。它是一個基于ASCII的端到端的協(xié)議，它實際上是在因特網(wǎng)上提供“約會”服務(wù)。用來實現(xiàn)VoIP的開放協(xié)議，最常用的有三種，SIP、MGCP(Media Gateway Control Protocol)和H.323。

　　SIP協(xié)議是專門為IP 電話，尤其是結(jié)合Internet設(shè)計的協(xié)議，同傳統(tǒng)的H.323協(xié)議相比，SIP 擁有明顯的優(yōu)越性：優(yōu)異的可擴(kuò)展性，大大提高了系統(tǒng)的處理能力;與 Internet 緊密結(jié)合，使通訊更加輕松便捷的;卓越的開放性，不僅能夠?qū)κ謾C(jī)、 PDA 等移動設(shè)備提供良好的支持，對于在線即時交流、語音和視頻數(shù)據(jù)傳輸?shù)榷嗝襟w應(yīng)用也能夠很好地完成。

　　SIP協(xié)議支持5方面的能力：用戶定位、用戶可用性、用戶能力、會話建立、會話管理。SIP協(xié)議本身不提供業(yè)務(wù)，但是它提供業(yè)務(wù)支持的基礎(chǔ)。SIP協(xié)議本身也不提供會議控制，但是SIP協(xié)議可以與任何一個會議控制的協(xié)議綁定。

　　Linphone

　　Linphone是基于WEB的IP電話工具，運(yùn)行于Linux和Windows Xp下。通過Linphone可以在互聯(lián)網(wǎng)上和其他人自由地進(jìn)行聲音、視頻通信，也可以進(jìn)行及時文本信息傳送。Linphone是遵從SIP協(xié)議開發(fā)的，它需要和支持SIP協(xié)議的電話或者代理服務(wù)器進(jìn)行相互操作。如果把基于Linphone開發(fā)的VoIP設(shè)備通過PSTN帳號注冊到電信服務(wù)器上，就可以通過它和普通電話進(jìn)行通話了。但是這些通話不是免費的，因為PSTN是收費服務(wù)。Linphone是開源免費軟件，可以自由下載和重新發(fā)布。
　MiniGUI

　　MiniGUI是面向?qū)崟r嵌入式系統(tǒng)的輕量級圖形用戶界面支持系統(tǒng)。目前，MiniGUI已成為跨操作系統(tǒng)的圖形用戶界面支持系統(tǒng)，可在Linux/uClinux、eCos、uC/OS-II、VxWorks等操作系統(tǒng)上運(yùn)行。

　　MiniGUI為實時嵌入式操作系統(tǒng)提供了完善的圖形及圖形用戶界面支持?？梢浦残栽O(shè)計使得它不論在哪個硬件平臺、哪種操作系統(tǒng)上運(yùn)行，均能為上層應(yīng)用程序提供一致的應(yīng)用程序編程接口(API)。MiniGUI的技術(shù)優(yōu)勢：輕型、占用資源少，高性能、高可靠性，可配置，可伸縮性強(qiáng)，跨操作系統(tǒng)支持等。

　　視傳機(jī)的實現(xiàn)

　　視傳機(jī)的最主要功能包括：通過IP或者向服務(wù)器注冊的ID號呼叫另一臺接在網(wǎng)絡(luò)上的設(shè)備，進(jìn)行視頻流實時雙向收發(fā)(1幀-25幀/s)，最高分辨率可達(dá)640×480(廣播級圖像質(zhì)量/D1)，可設(shè)置音頻流格式，G.711/GSM/SPEEX，此功能適用于高網(wǎng)絡(luò)帶寬的應(yīng)用環(huán)境。另外視傳機(jī)還可以實現(xiàn)電影播放，音視頻單向傳輸(遠(yuǎn)程監(jiān)控)，音視頻錄制播放，圖片單雙向收發(fā)，音視頻郵件收發(fā)等功能。

　　視傳機(jī)實現(xiàn)這些功能基本原理就是用MiniGUI制作圖形界面進(jìn)行人機(jī)交互[1]，用戶通過鍵盤或者遙控器進(jìn)行指令輸入，MiniGUI接收用戶指令，并傳給操作系統(tǒng)(這里我們使用Linux 2.6.19)，操作系統(tǒng)根據(jù)指令的不同進(jìn)行不同的操作，例如若用戶想進(jìn)行視頻呼叫，操作系統(tǒng)就將指令發(fā)給Linphone，Linphone就在SIP協(xié)議的基礎(chǔ)上發(fā)起視頻呼叫，根據(jù)對方不同的狀態(tài)給出不同的響應(yīng)，對方不在線、對方忙、對方正常應(yīng)答等，在正常應(yīng)答的情況下雙方協(xié)商音頻視頻通信編解碼方式，建立呼叫，進(jìn)行音視頻通信[2]，然后任意一方掛機(jī)，退出，完成一次通信，期間還可以進(jìn)行音視頻錄制等操作。再如若用戶想進(jìn)行電影播放，則操作系統(tǒng)會調(diào)出播放程序，播放用戶指定的電影文件。

　　視頻流的流程如下：由攝像頭(支持自帶插針式和TV輸出兩種)采集圖像數(shù)據(jù)，交給操作系統(tǒng)[3]，操作系統(tǒng)根據(jù)用戶需要，將視頻數(shù)據(jù)進(jìn)行本地顯示、編碼錄制或者發(fā)送到對端，對端收到視頻數(shù)據(jù)送入VPU單元進(jìn)行解碼，然后顯示或者錄制等。通話過程中音頻流的流程為：通過mic采集音頻數(shù)據(jù)，交給操作系統(tǒng)，操作系統(tǒng)將數(shù)據(jù)送給Linphone，Linphone進(jìn)行一定格式的編碼[4]，然后發(fā)送到對端，對端再進(jìn)行相應(yīng)的解碼，再將數(shù)據(jù)輸出到音箱或者耳機(jī)。

　　視傳機(jī)主要軟件Linphone的移植

　　Linphone有很多個版本，可以通過www.linphone.org免費下載。我們這里使用帶視頻功能的linphone1.6.0版本，要將這個Linphone使用在開發(fā)板上，需要做3個方面的工作：添加H264硬件視頻編解碼器(使用i.MX27的VPU單元進(jìn)行視頻編解碼)，修改程序使之與操作系統(tǒng)和其他應(yīng)用程序進(jìn)行通信，最后交叉編譯Linphone至開發(fā)板。
Linphone功能結(jié)構(gòu)

　　Linphone1.6.0版本的功能結(jié)構(gòu)如圖1。

　　console包括了整個終端界面部分，將界面操作和命令行輸入交由下層處理。

　　coreapi包含Linphone大部分核心接口函數(shù)，如讀配置文件進(jìn)行程序初始化、呼叫的建立和結(jié)束、對SDP消息的處理等。

　　osip2是一個短小簡潔的sip協(xié)議棧，專注于sip底層解析。

　　exosip是osip2的一個擴(kuò)展協(xié)議集，它部分封裝了osip2協(xié)議棧，使得它更容易被使用。

　　mediastreamer模塊負(fù)責(zé)語音及鈴音等的處理及傳輸，視頻的編解碼(調(diào)用ffmpeg的庫)、聲卡的選擇等。

　　ortp將音視頻打包為rtp包發(fā)送至指定端口。

　　speex是一種音頻解碼庫。
　添加H264硬件視頻編解碼器

　　Linphone1.6.0 本身具有視頻編解碼功能，默認(rèn)具有H263 、mpeg4、mjpeg等編解碼器，我們要仿照這些編解碼器的源碼結(jié)構(gòu)添加H264解碼器，重要的是將編解碼器的軟件編解碼部分替換成i.MX27的 VPU(視頻處理單元)來進(jìn)行硬件編解碼，因為i.MX27的CPU處理速度有限，遠(yuǎn)及不上PC的CPU，而i.MX27的VPU則是專門進(jìn)行視頻編解碼處理的協(xié)處理器，在處理視頻數(shù)據(jù)的時候是不需要CPU參與。

　　代碼的添加過程如下：在向Linphone注冊編解碼器的地方添加H264編解碼器，使得Linphone具備H264編解碼器的功能選項，注冊的內(nèi)容包括：編解碼器id，一些名稱文本等標(biāo)識符，編解碼器初始化，視頻數(shù)據(jù)預(yù)處理、處理、后處理，編解碼器銷毀(釋放系統(tǒng)資源)等函數(shù)鏈接，編解碼器方法(進(jìn)行基本視頻編解碼處理之外的操作)等。注冊好編解碼器后，就是如何真正實現(xiàn)編解碼器對視頻流的編解碼處理了，也就是編解碼器的初始化，視頻數(shù)據(jù)預(yù)處理、處理、后處理，編解碼器銷毀等函數(shù)的實現(xiàn)。視頻處理的軟件部分主要包括內(nèi)核空間的驅(qū)動和編解碼庫以及用戶空間的應(yīng)用程序。內(nèi)核驅(qū)動負(fù)責(zé)系統(tǒng)控制和系統(tǒng)資源的申請和釋放，提供一些IOCTRL接口給用戶空間的應(yīng)用程序使用調(diào)配系統(tǒng)硬件資源;用戶空間的應(yīng)用程序調(diào)用適當(dāng)?shù)腎OCTRL和編解碼庫函數(shù)來實現(xiàn)復(fù)雜的編解碼系統(tǒng)。

　　VPU的內(nèi)核驅(qū)動主要包括以下功能：模塊初始化、器件初始化、中斷服務(wù)策略、文件操作策略、器件關(guān)閉、編解碼庫、系統(tǒng)IO操作等。

　　視頻編解碼的計算和絕大部分視頻流的壓縮/解壓縮都是由i.MX27的硬件VPU單元來完成的，這樣軟件就不需要過多的控制或者時間消耗等來實現(xiàn)一個復(fù)雜的編解碼系統(tǒng)。VPU的硬件數(shù)據(jù)流可以用一個mpeg4格式數(shù)據(jù)的解碼實現(xiàn)過程展示(見圖2)。

　　硬件編解碼速度快、效率高、功耗和熱功耗低，節(jié)省了CPU的資源，實現(xiàn)了良好畫質(zhì)的傳輸，這一點充分體現(xiàn)了i.MX27芯片在視頻處理方面的優(yōu)勢。
結(jié)語

　　本文基于linphone、ffmpeg、speex、minigui、linux等開源軟件實現(xiàn)了嵌入式可視終端軟件系統(tǒng)——視傳機(jī)樣機(jī)，如圖3所示。樣機(jī)充分使用已有的開源軟件成果進(jìn)行開發(fā)，實現(xiàn)語音通話，視頻通話，視頻監(jiān)控，媒體文件播放等基本的功能。