毫無(wú)疑問(wèn)，智能手機(jī)和智能家居仍將是邊緣人工智能的兩個(gè)最大市場(chǎng)。與此同時(shí)，自動(dòng)駕駛汽車的潛力為邊緣人工智能公司帶來(lái)了極高的期望和市場(chǎng)估值。然而，自動(dòng)駕駛汽車的緩慢推出，以及智能手機(jī)市場(chǎng)的標(biāo)準(zhǔn)化，導(dǎo)致許多廠商在他剛才提到的市場(chǎng)之外尋求新的增長(zhǎng)機(jī)會(huì)。許多供應(yīng)商已經(jīng)轉(zhuǎn)向工業(yè)應(yīng)用和其他以移動(dòng)為中心的應(yīng)用，例如，英特爾、英偉達(dá)、高通和 Hailo 已與許多邊緣計(jì)算供應(yīng)商合作，為希望使傳統(tǒng)基礎(chǔ)設(shè)施更智能的公司提供 AI in the box 解決方案。供應(yīng)商還為機(jī)器人和無(wú)人機(jī)應(yīng)用推出了專用解決方案。此外，該行業(yè)本身見(jiàn)證了硬件和軟件供應(yīng)商之間的許多合作伙伴關(guān)系。這些關(guān)系在本質(zhì)上通常是共生的，因?yàn)樗鼈児膭?lì)領(lǐng)域?qū)I(yè)知識(shí)的交流并為垂直特定供應(yīng)商開(kāi)辟新的市場(chǎng)機(jī)會(huì)。

ZigZag 工具

關(guān)于用于以超低功耗運(yùn)行神經(jīng)網(wǎng)絡(luò)的尖端微處理器架構(gòu)的有價(jià)值的信息,開(kāi)發(fā)了一個(gè)叫做 ZigZag 的工具。幫助設(shè)計(jì)師比較硬件與不同的架構(gòu)、不同的內(nèi)存層次、不同的數(shù)據(jù)路徑、不同的組合如何以節(jié)能的方式運(yùn)行不同的神經(jīng)網(wǎng)絡(luò)。因?yàn)檩^低精度、越來(lái)越多的并行芯片可以提高能源效率，但以靈活性為代價(jià)。

它的核心是一種非?？焖俚姆治龀杀灸Ｐ汀Ｒ虼?，它采用神經(jīng)網(wǎng)絡(luò)工作負(fù)載，采用具有內(nèi)存層次結(jié)構(gòu)、數(shù)據(jù)路徑甚至技術(shù)特征的硬件架構(gòu)，并基于這種技術(shù)組合，嘗試估計(jì)在此特定設(shè)備上運(yùn)行工作負(fù)載所需的能量架構(gòu)，需要多少延遲或時(shí)鐘周期，以及該架構(gòu)的區(qū)域是什么。當(dāng)然，正如他之前所展示的，你不能只說(shuō)，他把工作負(fù)載映射到架構(gòu)上，不，有很多不同的方法來(lái)映射它，甚至是一個(gè)特定的工作負(fù)載，神經(jīng)網(wǎng)絡(luò)的一層，硬件架構(gòu)，這與他在空間上展開(kāi)什么循環(huán)有關(guān)，他暫時(shí)展開(kāi)哪些循環(huán)，他將哪些數(shù)據(jù)放入 SRAM 寄存器文件、1 級(jí)內(nèi)存、2 級(jí)內(nèi)存等等。他們的工具做什么，它需要神經(jīng)網(wǎng)絡(luò)工作負(fù)載并嘗試找到所有可能的良好映射和調(diào)度，它正在嘗試數(shù)百萬(wàn)個(gè)這樣的調(diào)度，在硬件架構(gòu)上并為每個(gè)調(diào)度估計(jì)能量/延遲/面積，然后附帶一組帕累托最優(yōu)解決方案，為您提供此神經(jīng)網(wǎng)絡(luò)工作負(fù)載、此技術(shù)、在這些硬件限制下，他可以實(shí)現(xiàn)的每次推理的最佳時(shí)間、每次推理的能量等。

IBM 的目標(biāo)：在 2025 年將 AI 計(jì)算性能每年提高 2.5 倍

BM Research 計(jì)劃在短期內(nèi)使用數(shù)字電子技術(shù)結(jié)合超低精度計(jì)算中的算法工作來(lái)實(shí)現(xiàn)這一目標(biāo)。有助于開(kāi)發(fā)模擬 AI 計(jì)算能力的工藝創(chuàng)新，包括 PCM、相變存儲(chǔ)器和 EC RAM、電化學(xué) RAM 技術(shù)。在推理方面，他們使用了 PCM 技術(shù)，并通過(guò)使用他們所謂的投影 PCM 技術(shù)對(duì)其進(jìn)行了改進(jìn)。

這本質(zhì)上是一個(gè)精心設(shè)計(jì)的層，用于解決您在直接使用 PCM 元素進(jìn)行模擬計(jì)算進(jìn)行推理時(shí)看到的一些非理想性或抗漂移。他們絕對(duì)不希望這種漂移發(fā)生 - 每次您在模擬域中使用并使用此模型進(jìn)行推理時(shí)。在右側(cè)，他們正在開(kāi)發(fā)材料，以便在深度神經(jīng)網(wǎng)絡(luò)正在編程時(shí)，這些材料可用于存儲(chǔ)數(shù)千個(gè)權(quán)重或數(shù)千個(gè)不同狀態(tài)。他們正在使用他們從高 k 金屬柵極技術(shù)中學(xué)到的對(duì)氧空位產(chǎn)生和消除的一些基本理解。

他們還在開(kāi)發(fā)一種稱為 ECRAM 的技術(shù)，即電化學(xué) RAM 技術(shù)，它一直在利用電池技術(shù)的一些原理，但他們已經(jīng)找到了一種將其集成到 CMOS 兼容晶圓中的方法。

Cerebras新型計(jì)算機(jī)

Cerebras構(gòu)建了一種針對(duì) AI 工作進(jìn)行優(yōu)化的新型計(jì)算機(jī)，他們的目標(biāo)不是變得更好，不是快兩倍或三倍，而是在 AI 工作上快 100 或 1000 倍。為此，他們解決了計(jì)算機(jī)行業(yè) 70 年來(lái)一直未解決的問(wèn)題：他們解決了構(gòu)建非常大的芯片的挑戰(zhàn)。在他們出現(xiàn)之前，最大的芯片大約有 800 平方毫米，大約是一張郵票的大小。他們制造了一個(gè)芯片，并在 2019 年 8 月宣布了它，即 46,000 平方毫米。所以它是一個(gè)餐盤的大小。

在這項(xiàng)人工智能工作中，更大的芯片處理信息的速度更快，在更短的時(shí)間內(nèi)產(chǎn)生答案。因此，他們所做的是，他們制造這些大型芯片，將它們放入他們?cè)O(shè)計(jì)的系統(tǒng)中，創(chuàng)造性地稱為 CS-2，用于 Cerebras Systems 2，然后交付給客戶。它大約有 16…15 個(gè)機(jī)架單元高，大約 26 英寸。Sally，他不確定如何為您轉(zhuǎn)換為公制。那是什么……11,000厘米或類似的東西。