大數(shù)據(jù)之熱
9月的浦東新區(qū)，天氣已經(jīng)略有涼意。張江高科技園區(qū)一個(gè)四周是玻璃的高檔辦公樓里，一大早，市場(chǎng)部門(mén)的資深員工李小姐正在自己的座位上開(kāi)始一天工作之前的熱身：倒杯水，花上一刻鐘到半小時(shí)在各大網(wǎng)站上瀏覽當(dāng)天要聞。在她最經(jīng)常去的幾個(gè)論壇里，通常汽車(chē)、服裝，或者旅游促銷(xiāo)的廣告會(huì)不請(qǐng)自來(lái);最近她發(fā)現(xiàn)這種多年不變的情形有了些不經(jīng)意的變化，比如剛剛跳出的這個(gè)窗口：大數(shù)據(jù)分析幫助你鎖定高價(jià)值客戶“大數(shù)據(jù)”和旅游論壇有啥關(guān)系?她百思不得其解。
她所不知道的是，她在瀏覽器搜索界面里曾經(jīng)輸入的“客戶”、 “促銷(xiāo)”、“通信錄”等關(guān)鍵詞，已被IE上面掛靠的抓取程序自動(dòng)獲取，并且被關(guān)聯(lián)了相應(yīng)的廣告，由IE插件完成最終的廣告推送。在北京郊區(qū)某處的機(jī)房里，基于“關(guān)聯(lián)規(guī)則”和“聚類(lèi)”等統(tǒng)計(jì)分析方法的分析軟件在時(shí)刻不停地處理成千上萬(wàn)個(gè)李小姐產(chǎn)生的數(shù)據(jù)。
她或許還沒(méi)有注意到的是，大數(shù)據(jù)和分析正在成為全世界炙手可熱的概念。先是幾年前谷歌首席經(jīng)濟(jì)學(xué)家宣稱(chēng)：數(shù)據(jù)分析員正成為21世紀(jì)最性感的職業(yè);又有2012年3月29日奧巴馬政府公布“大數(shù)據(jù)研發(fā)計(jì)劃” (Big Data Research and Development Initiative)，白宮科技政策委員會(huì)(OSTP)還成立了大數(shù)據(jù)高層指導(dǎo)小組以推動(dòng)這一戰(zhàn)略規(guī)劃。再有就是今年的事情了，地球人都已經(jīng)知道，2013年是“國(guó)際統(tǒng)計(jì)年”。
幾個(gè)月前，JMP的老朋友Michael Rappa教授于美國(guó)眾院聆訊，主題正是“Next Generation Computing and Big Data Analytics”――下一代計(jì)算及大數(shù)據(jù)分析。Rappa教授作為IAA(Institute of Advanced Analytics, NCSU，北卡州立大學(xué)高等分析學(xué)院)創(chuàng)始人，去年被美國(guó)科學(xué)基金會(huì)新創(chuàng)立的大數(shù)據(jù)委員會(huì)任命為學(xué)術(shù)聯(lián)合主席。奧巴馬政府的大數(shù)據(jù)研發(fā)計(jì)劃資金正是來(lái)自于美國(guó)科學(xué)基金會(huì)。
國(guó)內(nèi)學(xué)術(shù)界，得益于前中國(guó)人民大學(xué)常務(wù)副校長(zhǎng)袁衛(wèi)先生及其他統(tǒng)計(jì)學(xué)界知名教授學(xué)者的持續(xù)不懈的努力，2012年，教育部終于把統(tǒng)計(jì)從數(shù)學(xué)的范疇內(nèi)獨(dú)立出來(lái)，正式升級(jí)成為與數(shù)學(xué)、物理、化學(xué)、計(jì)算機(jī)等大學(xué)科平級(jí)的“一級(jí)學(xué)科”。
以統(tǒng)計(jì)學(xué)為核心的數(shù)據(jù)分析方法正在學(xué)術(shù)、工商和政府等領(lǐng)域顯現(xiàn)出越來(lái)越大的價(jià)值。李小姐電腦上的變化，則是這一趨勢(shì)的小小表征。
最近Gartner發(fā)布了2013年度商業(yè)智能和分析的魔力四象限圖，報(bào)告明確指出，大數(shù)據(jù)和分析正在成為企業(yè)IT規(guī)劃的核心。
一切的現(xiàn)象都在告訴人們，一個(gè)新的科技時(shí)代似乎正在來(lái)臨。有些IT職業(yè)追潮人士甚至激動(dòng)地認(rèn)為“人類(lèi)歷史上第三次科技革命”即將到來(lái)。
大數(shù)據(jù)之惑
問(wèn)題在于，什么是大數(shù)據(jù)?為什么人人言必稱(chēng)大數(shù)據(jù)?
“很大很大的數(shù)據(jù)”就是大數(shù)據(jù)。對(duì)“大”的定義在不斷刷新。10年前1GB數(shù)據(jù)已經(jīng)很大了，今天，1000GB并不算太大。
問(wèn)題其實(shí)不在于大，而在價(jià)值?！按髷?shù)據(jù)”再大仍舊只是數(shù)據(jù)，沒(méi)有足夠有效的分析與應(yīng)用，一切數(shù)據(jù)都是垃圾。紐約時(shí)報(bào)專(zhuān)欄作家David Brooks認(rèn)為，缺乏足夠有效的分析是大數(shù)據(jù)的最大問(wèn)題：越來(lái)越多的數(shù)據(jù)，帶來(lái)越來(lái)越多的相關(guān)性;其實(shí)很多相關(guān)性都是沒(méi)有意義的，這種欺騙性質(zhì)的數(shù)據(jù)關(guān)聯(lián)會(huì)把數(shù)據(jù)管理者和使用者引入歧途，浪費(fèi)大量的人力物力去管理、分析這些數(shù)據(jù)。
除了傳統(tǒng)意義上人們認(rèn)為的那些有行有列有數(shù)值或者文字的數(shù)據(jù)表單之外，IT技術(shù)還幫助人們收集了越來(lái)越多的其他類(lèi)型的資料，比如視頻，語(yǔ)音，圖片，文檔等。這些被稱(chēng)為“非結(jié)構(gòu)化數(shù)據(jù)”。
結(jié)構(gòu)化與非結(jié)構(gòu)化數(shù)據(jù)每天都在成倍的增加。以道路視頻監(jiān)控為例，全上海的攝像頭有10多萬(wàn)個(gè)，每一刻都在記錄圖片與視頻。一旦發(fā)生案件或者事件，這些記錄在硬盤(pán)庫(kù)里的資料就成為偵察與審判環(huán)節(jié)的重要證據(jù)。盡管目前技術(shù)尚不支持，業(yè)界仍然期望未來(lái)能在TB乃至于PB級(jí)的視頻數(shù)據(jù)里搜到一張?zhí)囟ㄉ碛盎蛘吣樋?。這類(lèi)搜索/分析技術(shù)未來(lái)將是啟動(dòng)視頻類(lèi)大數(shù)據(jù)應(yīng)用的引擎。
同樣，基于語(yǔ)音、照片或者文本的分析與數(shù)據(jù)挖掘同樣可以給人類(lèi)對(duì)數(shù)據(jù)的理解帶來(lái)革命性的突破。問(wèn)題在于，這類(lèi)技術(shù)仍停留在實(shí)驗(yàn)室階段。
盡管沒(méi)有足夠的應(yīng)用，大數(shù)據(jù)仍然不可阻擋地火熱了起來(lái)。不扯上大數(shù)據(jù)似乎就要落伍了一樣，大數(shù)據(jù)滿天飛的日子來(lái)到了。至于這股潮流到底會(huì)演變成象.com一樣的泡沫，還是第三次產(chǎn)業(yè)革命，在華威先生們眼里，已經(jīng)根本不重要了。業(yè)界，數(shù)據(jù)庫(kù)/存儲(chǔ)等領(lǐng)域供應(yīng)商當(dāng)然樂(lè)見(jiàn)其成，而企業(yè)的IT經(jīng)理們則又多了一個(gè)申請(qǐng)預(yù)算的借口。
數(shù)據(jù)的價(jià)值及企業(yè)數(shù)據(jù)戰(zhàn)略
數(shù)據(jù)的獲取與存儲(chǔ)仍然是IT建設(shè)的基礎(chǔ)架構(gòu)。一旦決定啟動(dòng)“大數(shù)據(jù)戰(zhàn)略”，對(duì)資源源源不斷的占用使得這一工作黑洞化。如何規(guī)避這種大數(shù)據(jù)黑洞?結(jié)合全球主要行業(yè)領(lǐng)導(dǎo)企業(yè)以及部分小而強(qiáng)的歐洲企業(yè)的成功案例，我認(rèn)為，應(yīng)該以應(yīng)用(分析及業(yè)務(wù)決策)為中心建立相應(yīng)的數(shù)據(jù)戰(zhàn)略，并且隨之建立相應(yīng)的從收集數(shù)據(jù)、管理數(shù)據(jù)到最終業(yè)務(wù)決策的一整套流程。而不是為數(shù)據(jù)而數(shù)據(jù)——首先要建立以應(yīng)用為中心的數(shù)據(jù)戰(zhàn)略。說(shuō)到應(yīng)用，銀行、保險(xiǎn)、汽車(chē)、化工等幾乎所有行業(yè)都在開(kāi)展以數(shù)據(jù)分析為基礎(chǔ)的各種應(yīng)用，以JMP軟件全球行業(yè)案例庫(kù)里面的部分典型客戶為例：
電商在分析顧客采購(gòu)行為數(shù)據(jù),以進(jìn)行促銷(xiāo)和相關(guān)貨品推薦(交叉/提升銷(xiāo)售)
航空公司在調(diào)查旅客反饋,以改進(jìn)空中服務(wù)(客戶挽留)
藥廠在對(duì)臨床實(shí)驗(yàn)數(shù)據(jù)進(jìn)行分析,以判斷新藥的安全性和有效性(研發(fā)新產(chǎn)品)
汽車(chē)廠商在對(duì)維修信息進(jìn)行分析，以改進(jìn)汽車(chē)整車(chē)和關(guān)鍵零部件的可靠性以提升客戶滿意度(挽留及獲取客戶)、降低客戶擁有成本和車(chē)廠的保修成本(降低成本)
手機(jī)公司在對(duì)手機(jī)銷(xiāo)售量進(jìn)行預(yù)測(cè)，以合理排產(chǎn)與優(yōu)化庫(kù)存(運(yùn)營(yíng)優(yōu)化)
衛(wèi)生管理部門(mén)在運(yùn)用數(shù)據(jù)模型對(duì)流行病趨勢(shì)進(jìn)行描述、監(jiān)控與預(yù)測(cè)
銀行在對(duì)客戶服務(wù)流程進(jìn)行優(yōu)化與改善，以提升客戶滿意度
電腦廠商在利用客戶對(duì)不同配置組合進(jìn)行市場(chǎng)調(diào)查，以進(jìn)行定價(jià)
保險(xiǎn)公司在根據(jù)保單出險(xiǎn)情況進(jìn)行保單定價(jià)的動(dòng)態(tài)調(diào)整，以確保該產(chǎn)品基本盈利能力
半導(dǎo)體企業(yè)在對(duì)制造全流程數(shù)據(jù)進(jìn)行分析/建模/優(yōu)化，以改善工藝，提升良率，從而實(shí)現(xiàn)成本降低與利潤(rùn)提升
食品公司在利用數(shù)據(jù)分析和市場(chǎng)調(diào)查手段，研發(fā)本地客戶最喜好的口味
快速食品行業(yè)在利用JMP地圖分析工具與人口統(tǒng)計(jì)學(xué)相結(jié)合，以進(jìn)行門(mén)店選址，客戶獲取及供應(yīng)鏈優(yōu)化
只有足夠有效的應(yīng)用，方可獲取數(shù)據(jù)的價(jià)值。企業(yè)只有在戰(zhàn)略層面確立了數(shù)據(jù)分析的重要性，方可持續(xù)改善。以GE為例，六西格瑪及相應(yīng)的數(shù)據(jù)分析流程已經(jīng)成為GE的全球戰(zhàn)略與文化。不僅如何，GE還持續(xù)不懈地推動(dòng)基于數(shù)據(jù)分析的持續(xù)改善工作。在高端航空發(fā)動(dòng)機(jī)研發(fā)及GE能源系統(tǒng)業(yè)務(wù)領(lǐng)域方面，GE也與時(shí)俱進(jìn)，導(dǎo)入JMP所代表的業(yè)界最高水平的實(shí)驗(yàn)設(shè)計(jì)(DOE)方法，以進(jìn)一步提升其研發(fā)水平。[!--empirenews.page--]
其次，一切都離不開(kāi)人。與這股指數(shù)級(jí)增長(zhǎng)的數(shù)據(jù)分析需求相對(duì)應(yīng)，統(tǒng)計(jì)、分析類(lèi)人才正成為職場(chǎng)上的稀缺品種和搶手貨。3月初華爾街日?qǐng)?bào)刊登了“全美最搶手職業(yè)排名”，數(shù)據(jù)分析類(lèi)職位高居榜單第二位。這是美國(guó)。對(duì)中國(guó)來(lái)說(shuō)，或許排名更高，因?yàn)橄∪薄?BR>最后，建立一整套以數(shù)據(jù)分析及決策流程，以取代傳統(tǒng)的拍腦袋決策體系。這一點(diǎn)對(duì)于中國(guó)企業(yè)來(lái)說(shuō)尤其需要強(qiáng)調(diào)。這不僅僅是對(duì)戰(zhàn)略的有效執(zhí)行，更需要企業(yè)拿出“改變”的決心和勇氣，在制度層面體現(xiàn)出對(duì)“改變”的鼓勵(lì)和包容。
在這個(gè)應(yīng)用為王的年代，對(duì)于企業(yè)來(lái)說(shuō)，不論是搭建基礎(chǔ)架構(gòu)還是應(yīng)用軟件，要不要投入，如何投入，其實(shí)是個(gè)老話題了，無(wú)外乎價(jià)值與價(jià)格。大數(shù)據(jù)/云計(jì)算，不論名字如何變化，邏輯依舊。