技術(shù)的革新與承載它的計算能力息息相關(guān)，如今的人工智能技術(shù)正逐步從研究實驗走向應(yīng)用與生產(chǎn)，在這一過程中，AI計算系統(tǒng)設(shè)計與優(yōu)化的重要性愈發(fā)明顯。

在不久的將來，AI計算系統(tǒng)將要面臨計算平臺優(yōu)化設(shè)計、復(fù)雜異構(gòu)環(huán)境下計算效率、計算框架的高度并行與擴(kuò)展、AI應(yīng)用計算性能等挑戰(zhàn)。算力的發(fā)展對整個計算需求所造成的挑戰(zhàn)會變得更大，提高整個AI計算系統(tǒng)的性能與效率迫在眉睫。

算力是人工智能的痛點

目前的人工智能，更多的是代表智能的個體，能夠通過自身的持續(xù)學(xué)習(xí)能力，智能的完成單點決策。

機(jī)器經(jīng)驗需要由大量的歷史數(shù)據(jù)來得出，所以數(shù)據(jù)收集無處不在，數(shù)據(jù)的增長會是幾何級數(shù)的。使用當(dāng)前集中式的存儲和集中式的通信模式，在未來是無論如何都無法通過一個巨型單點支撐如此大的體量，存儲和通信能力都是瓶頸，而且效率會非常低下。

不僅如此，算力成本也是人工智能行業(yè)的一大痛點?，F(xiàn)在的人工智能企業(yè)的硬件投入非常大。人工智能對計算的需求非常大，因此對高性能計算定制深度學(xué)習(xí)芯片要求很高，意味著很多企業(yè)要花很多錢買算力、建很多計算中心，造成了很大的資源浪費(fèi)。

AI計算能力愈發(fā)重要

全球人工智能市場商業(yè)價值一直處于高速增長趨勢，到2018年，所催生的商業(yè)價值會達(dá)到1．3萬億美元，而未來將會達(dá)到接近5萬億美元。從技術(shù)成熟度曲線可以看到，未來2到5年會有大量AI技術(shù)實現(xiàn)從創(chuàng)新期到成長期的過渡，現(xiàn)在仍有很多AI技術(shù)處于爬坡發(fā)展階段。

在推動AI發(fā)展過程中，有三大要素起著主導(dǎo)作用，除算力、數(shù)據(jù)外，計算方面也越來越重要。2021年計算方面的投資將占到整個AI投資的近一半以上，2017年至2022年將會達(dá)到近6倍的增長。

傳統(tǒng)服務(wù)器難以滿足AI算力需求

摩爾定律失效，CPU性能提升遭遇瓶頸。Intel宣布正式停用“Tick－Tock”處理器研發(fā)模式，未來研發(fā)周期將從兩年周期向三年期轉(zhuǎn)變。單顆CPU性能的提升在放緩，傳統(tǒng)服務(wù)器難以滿足并行算力需求，服務(wù)器CPU出貨量增長停滯。

AI計算系統(tǒng)設(shè)計迫在眉睫

AI計算發(fā)展趨勢演變過程中面臨著巨大的挑戰(zhàn)：隨著模型所需的精度越高，所需的計算量也會呈現(xiàn)增長趨勢。對于未來的，算法的發(fā)展對整個計算需求所造成的挑戰(zhàn)會變得更大，提高整個AI計算系統(tǒng)的性能與效率顯得尤為重要。

圍繞整個應(yīng)用、算力、模型、網(wǎng)絡(luò)的特點，例如有的模型參數(shù)比較密集，對系統(tǒng)通信要求比較高，有的計算性能要求比較高，則需要圍繞性能方面考慮如何提升整個系統(tǒng)性能的能力。

推理方面的復(fù)雜性比訓(xùn)練方面更高，它不僅體現(xiàn)在性能方面，更關(guān)心的是用戶的體驗。當(dāng)對于大規(guī)模進(jìn)行部署云計算時，需要考慮到它的運(yùn)維成本，需要低功耗平臺架構(gòu)來做支撐。

AI算力和需求都日趨壯大

語音識別、虛擬現(xiàn)實與機(jī)器視覺已從導(dǎo)入期進(jìn)入成長期。標(biāo)準(zhǔn)化的數(shù)據(jù)集豐富。語音與圖像數(shù)據(jù)較易標(biāo)簽化。15年圖像識別準(zhǔn)確率變已超過人類。CNN、RNN等神經(jīng)網(wǎng)絡(luò)基礎(chǔ)算力成熟。根據(jù)Imagenet測試結(jié)果，語音識別與機(jī)器識別準(zhǔn)確率均已在90％以上。

如今，AI面臨著巨大的計算挑戰(zhàn)，提高AI計算系統(tǒng)性能與效率變得尤為重要，需要從系統(tǒng)的角度進(jìn)行綜合考慮。

自2012年以來，在大型AI運(yùn)算中用到的計算量呈指數(shù)式上升，并且3．5個月計算量就會翻一倍。從2012年以來，這一指標(biāo)已經(jīng)增長了30萬倍。計算力的提升是AI進(jìn)步的一大重要因素，所以只要這一趨勢仍然延續(xù)，就值得為AI未來的發(fā)展努力下去。

AI算力決定芯片崛起

在理論層面，基于大數(shù)據(jù)和深度學(xué)習(xí)的人工智能技術(shù)高度依賴于系統(tǒng)的數(shù)據(jù)處理與學(xué)習(xí)能力。因此，硬件的計算能力成為繼數(shù)據(jù)、算力之后，另一制約人工智能發(fā)展的主要瓶頸，硬件計算能力與能效對于人工智能技術(shù)主要影響云端和邊緣端兩大主要領(lǐng)域的應(yīng)用。

單CPU的發(fā)展已經(jīng)不能滿足實際應(yīng)用的需求，AI時代必須要依靠并行計算。目前，并行計算的主流架構(gòu)是異構(gòu)并行計算平臺。

以協(xié)同過濾算力為例，它是一種非常重要的推薦系統(tǒng)算力，為此設(shè)計了兩個計算核，一個是計算相似度，一個是計算平均值，把這些核心計算全部都在GPU上進(jìn)行計算來加速算力。

未來AI算力的發(fā)展

自2012年以來，人工智能訓(xùn)練任務(wù)中使用的算力正呈指數(shù)級增長，其目前速度為每3．5個月翻一倍。

自2012年以來，人們對于算力的需求增長了超過300，000倍，如果是以摩爾定律的速度，只會有12倍的增長。在此期間，硬件算力的提升一直是人工智能快速發(fā)展的重要因素。因此，如果目前的發(fā)展趨勢持續(xù)下去，就需要為實現(xiàn)遠(yuǎn)超當(dāng)前方法負(fù)載的全新系統(tǒng)做好準(zhǔn)備。

從應(yīng)用場景來看，AI計算熱門行業(yè)場景覆蓋了互聯(lián)網(wǎng)、政府、醫(yī)療和金融四大行業(yè)，同時，根據(jù)市場潛力和時間發(fā)展成熟度，報告還對AI典型應(yīng)用場景進(jìn)行了評估，并預(yù)計未來2－3年，人工智能在生物識別和智慧城市建設(shè)領(lǐng)域的應(yīng)用將會率先步入商業(yè)應(yīng)用的成熟期；預(yù)計在未來5－10年，人工智能產(chǎn)業(yè)在智能家居和工業(yè)制造領(lǐng)域的應(yīng)用也將逐步步入高速發(fā)展的產(chǎn)業(yè)窗口。