Arm在整個(gè)機(jī)器學(xué)習(xí)和人工智能的潮流中可能有點(diǎn)晚了，至少在現(xiàn)代芯片的專門設(shè)計(jì)中是這樣的。但就部署在最廣泛設(shè)備上的人工智能和機(jī)器學(xué)習(xí)芯片的數(shù)量而言，這一芯片知識(shí)產(chǎn)權(quán)的設(shè)計(jì)者擊敗了所有人。

Arm的客戶，包括競(jìng)爭(zhēng)對(duì)手英特爾和英偉達(dá)，它們也正忙著在各處部署人工智能技術(shù)。該公司還創(chuàng)造了特定的機(jī)器學(xué)習(xí)指令和其他技術(shù)，以確保人工智能被嵌入幾乎所有電子產(chǎn)品，而不僅僅是進(jìn)入服務(wù)器的高端設(shè)備。

在服務(wù)器的層面上，像亞馬遜這樣的客戶正在將基于Arm的機(jī)器學(xué)習(xí)芯片引入其數(shù)據(jù)中心。最近，Arm機(jī)器學(xué)習(xí)小組副主席Steve Roddy在媒體活動(dòng)上與外媒進(jìn)行了溝通。

以下是采訪內(nèi)容：

Q：你對(duì)機(jī)器學(xué)習(xí)的關(guān)注點(diǎn)是什么？

Steve Roddy：我們瞄準(zhǔn)的是高端消費(fèi)者，這顯然是首選。Arm以什么出名？手機(jī)處理器。所以專用NPU（神經(jīng)處理單元）的概念首次出現(xiàn)在高端手機(jī)上�，F(xiàn)在，蘋果、三星、MediaTech、華為和高通都在設(shè)計(jì)自己的產(chǎn)品。這在一部1000美元的手機(jī)里很常見(jiàn)。

我們推出的是一系列處理器，不僅服務(wù)于這個(gè)市場(chǎng)，也服務(wù)于主流市場(chǎng)和低端市場(chǎng)。我們最初的設(shè)想是，我們進(jìn)入這個(gè)市場(chǎng)，為人們制造VR眼鏡、智能手機(jī)，以及那些你更關(guān)心性能而不是成本平衡的地方。歷史經(jīng)驗(yàn)表明，功能設(shè)置出現(xiàn)在高端手機(jī)上，需要幾年時(shí)間，然后轉(zhuǎn)移到主流的400－500美元的手機(jī)上，然后幾年之后，最終出現(xiàn)在更便宜的手機(jī)上。

我認(rèn)為，最有趣的是，整個(gè)NPU機(jī)器學(xué)習(xí)的進(jìn)展速度飛快，但原因不同。例如，過(guò)去800萬(wàn)像素的傳感器從這里開(kāi)始，然后當(dāng)它足夠便宜的時(shí)候，它會(huì)到另一個(gè)地方，然后當(dāng)它更便宜的時(shí)候，它又會(huì)轉(zhuǎn)移。不僅僅是組件成本下降并集成到其中，而是被其他東西所取代。機(jī)器學(xué)習(xí)算法可以用來(lái)做出不同的或更聰明的決策，來(lái)決定系統(tǒng)是如何集成和組合在一起以不同的方式增加價(jià)值，或者以不同的方式減少成本。

Q：你描述了神經(jīng)網(wǎng)絡(luò)如何找出做某事的方法，然后你會(huì)剔除那些實(shí)際上不必要的東西。你最終會(huì)得到一個(gè)更高效或更小的東西，它可以嵌入到微控制器中。

Roddy： 那是一個(gè)新興的領(lǐng)域。退一步說(shuō)，機(jī)器學(xué)習(xí)實(shí)際上有兩個(gè)組成部分。算法的創(chuàng)建，學(xué)習(xí)，或者訓(xùn)練，就像它所說(shuō)的，幾乎只發(fā)生在云中。對(duì)我來(lái)說(shuō)，我想開(kāi)玩笑地說(shuō)，大多數(shù)從業(yè)者都會(huì)同意，這是一個(gè)擁有一百萬(wàn)臺(tái)打字機(jī)的百萬(wàn)只猴子。其中一個(gè)寫莎士比亞十四行詩(shī)。訓(xùn)練過(guò)程就是這樣的。

事實(shí)上，谷歌是明確的。谷歌現(xiàn)在有一個(gè)叫做AutoML的東西。假設(shè)你有一個(gè)從某個(gè)開(kāi)源存儲(chǔ)庫(kù)中挑選的算法，它非常適合你的任務(wù)。它是一些你只需要稍微調(diào)整了一下的圖像識(shí)別的東西。你可以將其加載到谷歌的云服務(wù)中。他們這樣做，顯然是因?yàn)樗�以�?jì)算服務(wù)的方式運(yùn)行計(jì)量器。但基本上是你想付多少錢的問(wèn)題。

他們將隨機(jī)嘗試創(chuàng)建神經(jīng)網(wǎng)絡(luò)的不同變體。這里有更多的過(guò)濾器，那里有更多的層級(jí)，反向操作，不按順序執(zhí)行，然后重新運(yùn)行訓(xùn)練集。這個(gè)現(xiàn)在可以實(shí)現(xiàn)1％左右的準(zhǔn)確率。這只是你想花多少錢的問(wèn)題。在這一百萬(wàn)只猴子，一百萬(wàn)臺(tái)打字機(jī)的操作下，計(jì)算需要1000美元還是10000美元？請(qǐng)注意，我發(fā)現(xiàn)了一個(gè)在面部識(shí)別，語(yǔ)音識(shí)別，或者其他任何方面都比它精確2％的方法。

把這些都放在一邊。這就是神經(jīng)網(wǎng)絡(luò)的發(fā)展。這種部署稱為推理�，F(xiàn)在我想對(duì)我想要識(shí)別的物體進(jìn)行一次特定的推理。我想在車上運(yùn)行它，在人行橫道上認(rèn)出老奶奶，或者諸如此類的。Arm顯然專注于它所部署的大量硅市場(chǎng)，無(wú)論是邊緣市場(chǎng)還是終端市場(chǎng)。

例如，你在會(huì)議中心的墻上安裝了一堆傳感器，燈熄滅了，里面充滿了煙霧，因?yàn)樗�著火了。你可以用傳感器識(shí)別火災(zāi)，激活，并在地板上尋找尸體。他們可以向消防部門發(fā)出求救信號(hào)�！叭嗽谶@里”；“不要去這個(gè)房間，那里沒(méi)有人”；“去這個(gè)房間”。這是一件很酷的事情。但你希望它超級(jí)高效。你不想讓整個(gè)會(huì)議中心重新布線。你只需要把這個(gè)電池驅(qū)動(dòng)的東西貼起來(lái)，并期待它能運(yùn)行三六個(gè)月。每隔六個(gè)月，你可以更換傳感器的安全系統(tǒng)。

這是一個(gè)利用數(shù)學(xué)家創(chuàng)造的抽象模型并將其簡(jiǎn)化以適應(yīng)約束設(shè)備的問(wèn)題。這是未來(lái)最大的挑戰(zhàn)之一。我們有自己的處理器，它們很擅長(zhǎng)在終端設(shè)備上實(shí)現(xiàn)高效的神經(jīng)網(wǎng)絡(luò)。從一過(guò)程來(lái)自于數(shù)學(xué)家，他們正在構(gòu)思新型的神經(jīng)網(wǎng)絡(luò)并理解其中的數(shù)學(xué)原理，然后把它連接到較低層次的程序員那里，他是一個(gè)嵌入式系統(tǒng)的程序員——那里有一個(gè)巨大的技能缺口。

如果你是一個(gè)24歲的數(shù)學(xué)奇才，剛拿到本科數(shù)學(xué)學(xué)位和數(shù)據(jù)科學(xué)研究生學(xué)位，從斯坦福大學(xué)畢業(yè)，大的互聯(lián)網(wǎng)公司會(huì)在你的宿舍外為你提供了一份工作。實(shí)際上你是在神經(jīng)網(wǎng)絡(luò)及其背后的數(shù)學(xué)方面很出色，但你在嵌入式軟件編程方面沒(méi)有任何技能。那位嵌入式軟件工程師，負(fù)責(zé)組裝CPU、GPU和ARM NPU，將操作系統(tǒng)放在芯片上，做驅(qū)動(dòng)程序和低級(jí)固件，他說(shuō)：“嘿，這是一段代碼，里面有一個(gè)神經(jīng)網(wǎng)絡(luò)。確保它運(yùn)行在這個(gè)有2兆內(nèi)存和200MHz CPU的受限小設(shè)備上。讓它發(fā)揮作用�！�

負(fù)責(zé)嵌入的人會(huì)說(shuō)，“我不知道這個(gè)神經(jīng)網(wǎng)絡(luò)是干什么的。它需要的計(jì)算量是我的10倍。我可以扔掉的90％是多少？我怎么知道？”高層級(jí)的那個(gè)人，那個(gè)數(shù)學(xué)家，對(duì)約束裝置一無(wú)所知。他研究數(shù)學(xué)，大腦的模型。他不懂嵌入式編程。大多數(shù)公司不會(huì)同時(shí)擁有兩個(gè)人。很少有高度整合的公司會(huì)讓所有人聚在一個(gè)房間里進(jìn)行交談。

經(jīng)常會(huì)有這樣的言論，你說(shuō)你是數(shù)學(xué)家，我是嵌入式軟件工程師。我們必須有保密協(xié)議才能進(jìn)行對(duì)話。你愿意授權(quán)模型輸出，但你不會(huì)放棄你的源數(shù)據(jù)集，你的訓(xùn)練數(shù)據(jù)集，因?yàn)槟鞘悄愕膶毑�。這就是價(jià)值所在。你給我一個(gè)訓(xùn)練有素的模型，可以識(shí)別人行橫道上的貓、人或祖母，很好，但你不會(huì)透露細(xì)節(jié)。你不會(huì)告訴我發(fā)生了什么。這里我要解釋的是，這怎么不適合我的約束系統(tǒng)。你能為我做什么？

你不是嵌入式程序員。我不是數(shù)學(xué)家。我們?cè)撛趺崔k？這是我們投資的領(lǐng)域，其他人也在投資。隨著時(shí)間的推移，在未來(lái)這將是一個(gè)神奇的領(lǐng)域。這有助于關(guān)閉它之間的循環(huán)。這不是一個(gè)單向的事情，你給我一個(gè)算法，我不斷地破解它，直到我使它適合。你給我的是99％的正確率，但我只能實(shí)現(xiàn)82％的正確率，因?yàn)槲倚枰�花費(fèi)大量的計(jì)算來(lái)適應(yīng)它。這總比什么都沒(méi)有好，但我真的希望我能回到過(guò)去，重新訓(xùn)練，并有一個(gè)無(wú)止境的循環(huán)，在那里我們可以以更好的方式合作。把它看作是約束和理想之間的協(xié)作。

Q：我想知道這里聽(tīng)起來(lái)熟悉的部分是相同的還是非常不同的，但是Dipti Vachani談?wù)摿似�車�?lián)盟，以及每個(gè)人將如何在自動(dòng)駕駛汽車上合作，從原型到生產(chǎn)。她說(shuō)我們不能在這些車?yán)镅b超級(jí)計(jì)算機(jī)。我們必須把它們降低到更小、更便宜的設(shè)備上，這些設(shè)備可以投入生產(chǎn)。你說(shuō)的有什么相似之處嗎？超級(jí)計(jì)算機(jī)已經(jīng)找出了這些算法，現(xiàn)在需要把它們降低到實(shí)際水平。

Roddy：當(dāng)數(shù)學(xué)家創(chuàng)建這些神經(jīng)網(wǎng)絡(luò)時(shí)，他們通常使用浮點(diǎn)運(yùn)算。他們是在一個(gè)抽象的無(wú)限精度和本質(zhì)上無(wú)限的計(jì)算能力。如果你想要更多的計(jì)算能力，你需要啟動(dòng)更多的刀片服務(wù)器，啟動(dòng)整個(gè)數(shù)據(jù)中心。你在乎什么？如果你愿意寫支票到亞馬遜或谷歌，你可以這樣做。

Q：但你不能把數(shù)據(jù)中心放在車?yán)铩?/strong>

Roddy：沒(méi)錯(cuò)，一旦我有了算法的形狀，它就變成了一個(gè)問(wèn)題。你會(huì)聽(tīng)到像量化、聚類這樣的術(shù)語(yǔ)。如何減少?gòu)?fù)雜度，刪去那些實(shí)際上并不重要的部分呢？你的大腦中有很多神經(jīng)連接（這是在模仿大腦），但其中一半是垃圾。他們中有一半在真正的事。有很強(qiáng)的連接可以傳遞信息，也有很弱的連接可以修剪掉。如果你失去了一半的腦細(xì)胞，你仍然可以認(rèn)出你的伴侶或配偶。訓(xùn)練過(guò)的神經(jīng)網(wǎng)絡(luò)也是如此。它們?cè)谙胂蟮纳窠?jīng)元之間有很多聯(lián)系。你可以去掉其中的大部分，你仍然可以得到相當(dāng)好的準(zhǔn)確度。

Q：但是你會(huì)擔(dān)心你丟掉的東西在某些情況下可以用來(lái)防止車禍。

Roddy： 這是一個(gè)測(cè)試用例。如果我去掉一半的計(jì)算，會(huì)發(fā)生什么？這就是所謂的再培訓(xùn)。再培訓(xùn)，或者更重要的是要記住目標(biāo)。不是假設(shè)數(shù)據(jù)中心或超級(jí)計(jì)算機(jī)的無(wú)限容量，而是假設(shè)我的計(jì)算能力有限。

汽車行業(yè)就是一個(gè)很好的例子。假設(shè)10年后你是XYZ德國(guó)部件公司行人安全系統(tǒng)的實(shí)驗(yàn)室主任。你的算法運(yùn)行在最新和最好的雷克薩斯和奔馳汽車上。它們每個(gè)都有價(jià)值5000美元的計(jì)算硬件。你的算法也運(yùn)行在一輛9年歷史的中國(guó)轎車上，而這款車恰好是你的第一代系統(tǒng)。

你的一位科學(xué)家提出了最好的新算法。它的準(zhǔn)確率提高了5％。不管怎樣，奔馳車的精確度要高5％，但你有義務(wù)將其提供給另一個(gè)人（事實(shí)上，你可能有一份合同，要求你每季度更新一次）。更糟糕的是，現(xiàn)在我們有來(lái)自10家汽車公司的17個(gè)平臺(tái)。你如何把這個(gè)新的數(shù)學(xué)發(fā)明應(yīng)用到所有這些地方？必須有一些結(jié)構(gòu)化的自動(dòng)化。這是汽車聯(lián)盟在一個(gè)封閉領(lǐng)域所做努力的一部分。

我們正在開(kāi)發(fā)的技術(shù)是圍繞“我們?nèi)绾谓�立這些橋梁？”例如，你怎么把一個(gè)模型放入開(kāi)發(fā)人員使用的訓(xùn)練集（TensorFlows或者Caffes）。這讓他們可以說(shuō)，“好吧，與其假設(shè)我是在云中進(jìn)行推理，不如假設(shè)我是在一個(gè)智能門鈴的2美元微控制器上運(yùn)行？”為這個(gè)而訓(xùn)練，而不是為抽象而訓(xùn)練。這可以建立很多基礎(chǔ)設(shè)施。

不管好壞，它必須跨越行業(yè)。你必須在Facebook的數(shù)據(jù)科學(xué)家、XYZ半導(dǎo)體的芯片制造者、匣子制造商和軟件算法人員之間建立起橋梁，這些人都在試圖一起對(duì)其進(jìn)行內(nèi)部升級(jí)。

Q：聯(lián)盟中可能有像英偉達(dá)這樣的競(jìng)爭(zhēng)對(duì)手。你如何把這個(gè)保持在比競(jìng)爭(zhēng)對(duì)手更高的水平上？

Roddy：英偉達(dá)做的事，對(duì)我來(lái)說(shuō)，他們是顧客。他們?cè)谫u芯片。

事實(shí)上，英特爾從Arm那里買了很多東西。在架構(gòu)上，英偉達(dá)是一個(gè)很好的例子。他們有自己的NPU。他們稱之為NVDLA。他們知道在云中訓(xùn)練，是的，是GPU。那是他們的堡壘。但當(dāng)他們談到邊緣設(shè)備時(shí)，他們甚至說(shuō)不是每個(gè)人都能在口袋里裝上50瓦的GPU。他們有他們自己的版本，我們?cè)谶@里談到的MPU是以不同大小的整數(shù)運(yùn)算的定點(diǎn)來(lái)實(shí)現(xiàn)。從4平方毫米到1平方毫米的硅。這東西的功率不到一瓦特。這比高性能的GPU要好得多。

如果你口袋里有一部相對(duì)現(xiàn)代的手機(jī)，你就有了NPU。如果你在過(guò)去幾年里買了一部800美元的手機(jī)，它會(huì)有NPU。蘋果有一個(gè)。三星有一個(gè)。華為有幾代都有。他們都做了自己的事。我們預(yù)計(jì)，隨著時(shí)間的推移，這些公司中的大多數(shù)將不會(huì)繼續(xù)開(kāi)發(fā)自己的硬件。神經(jīng)網(wǎng)絡(luò)基本上只是一個(gè)巨大的數(shù)字信號(hào)處理濾波器。例如，在一幅大圖像中有一組龐大的系數(shù)。我的圖像分類器可能有1600萬(wàn)個(gè)系數(shù)，我有400萬(wàn)像素的圖像。那只是一個(gè)巨大的乘法運(yùn)算。它是多重累積的。這就是為什么我們要討論CPU的乘法累加性能。這就是為什么我們建造這些NPU，除了倍增積累什么也不做。這是一個(gè)巨大的過(guò)濾器。

現(xiàn)實(shí)是，要在8×8的乘法上進(jìn)行創(chuàng)新，你能做的只有這么多。基本的構(gòu)建塊就是它本身。這是系統(tǒng)設(shè)計(jì)。在我們的設(shè)計(jì)中有很多關(guān)于最小化數(shù)據(jù)移動(dòng)的東西。它在塊級(jí)和系統(tǒng)級(jí)的數(shù)據(jù)移動(dòng)方面很聰明。我不希望10年后，每個(gè)手機(jī)廠商和汽車廠商都有自己的專用NPU。這沒(méi)有道理。軟件和算法需要專用。架構(gòu)也需要專用。但是構(gòu)建塊引擎可能會(huì)得到許可，就像CPU和GPU 一樣。

沒(méi)有什么能保證我們會(huì)贏。我們希望如此。因?yàn)榭傆腥艘獙?shí)現(xiàn)。可能會(huì)有一些非常好的供應(yīng)商為NPU提供許可，并且大多數(shù)專利產(chǎn)品將會(huì)消失。我們希望我們是贏家之一。我們喜歡認(rèn)為我們有足夠的資金去投資去贏得勝利，即使我們的第一批產(chǎn)品沒(méi)有在市場(chǎng)上取得勝利。但有跡象表明它實(shí)際上相當(dāng)不錯(cuò)。我們預(yù)計(jì)這會(huì)在5到10年內(nèi)發(fā)生。在系統(tǒng)級(jí)，有太多的系統(tǒng)設(shè)計(jì)選擇和系統(tǒng)軟件選擇。這是關(guān)鍵的不同點(diǎn)。

Q：那么，在你將要競(jìng)爭(zhēng)的關(guān)卡上，你會(huì)覺(jué)得Arm正在追趕你嗎？或者你會(huì)對(duì)此提出異議嗎？

Roddy：這取決于你看的是什么，你的印象是什么。如果你坐下來(lái)說(shuō)，“現(xiàn)在：此時(shí)此刻AI在世界上運(yùn)行了多少，它在哪里運(yùn)行？”Arm無(wú)疑是贏家。絕大多數(shù)人工智能算法實(shí)際上并不需要專用的NPU。機(jī)器學(xué)習(xí)一直延伸到類似你手機(jī)上智慧文本輸入法這樣的東西。你的手機(jī)可能已經(jīng)啟用了“ok谷歌”或“你好Siri”。這是機(jī)器學(xué)習(xí)。它可能不在GPU或NPU上運(yùn)行。它可能只是運(yùn)行在M級(jí)內(nèi)核上。

如果你看看市場(chǎng)上的手機(jī)，有多少智能手機(jī)？可能是40億到50億？其中大約15－20％的手機(jī)有NPU。這是最后三代蘋果手機(jī)，最后兩到三代三星手機(jī)。就大概說(shuō)有5億吧�？犊�地說(shuō)，可能是十億。但每個(gè)人都有Facebook。每個(gè)人都有谷歌的預(yù)測(cè)文本。每個(gè)人都有語(yǔ)音助手。這是一個(gè)神經(jīng)網(wǎng)絡(luò)，它和其他系統(tǒng)一起在CPU上運(yùn)行。沒(méi)有別的選擇。

如果你快速瀏覽一下，看看大部分推論在哪里運(yùn)行，你會(huì)發(fā)現(xiàn)它們?cè)贑PU上，并且大部分在ARM上。即使在云中，當(dāng)您討論推理在何處運(yùn)行時(shí)（不是訓(xùn)練，而是部署），絕大多數(shù)推理都在CPU上運(yùn)行。很明顯，大部分是Intel的CPU，但是如果你使用亞馬遜的話，就有ARM的服務(wù)器。

金融界最經(jīng)典的是什么？我想有購(gòu)物中心的衛(wèi)星照片分析，這樣我可以看到Home Depot的交通模式，知道我應(yīng)該做空還是做多Home Depot的股票。人們真的會(huì)這么做。你需要一堆衛(wèi)星圖像來(lái)訓(xùn)練。你還需要財(cái)務(wù)報(bào)告。你有所有家庭倉(cāng)庫(kù)或JC Penny的所有交通圖片，你把它們和過(guò)去15年的季度結(jié)果聯(lián)系起來(lái)，這樣你就建立了一個(gè)神經(jīng)網(wǎng)絡(luò)�，F(xiàn)在我們認(rèn)為我們有了一個(gè)將交通模式與財(cái)務(wù)結(jié)果關(guān)聯(lián)起來(lái)的模型。讓我們來(lái)看看過(guò)去三天衛(wèi)星在北美所有家庭倉(cāng)庫(kù)的現(xiàn)場(chǎng)拍攝，并對(duì)他們的收入做出預(yù)測(cè)。

那個(gè)實(shí)際的預(yù)測(cè)，那個(gè)推斷，是在CPU上運(yùn)行的�？赡苄枰獛字艿腉PU訓(xùn)練來(lái)建立模型，但我有1000張照片。每一個(gè)推論都需要半秒鐘。你不需要為此啟動(dòng)一堆GPU。運(yùn)行它之后，20分鐘就可以完成。你已經(jīng)做了你的預(yù)測(cè)。事實(shí)上，我們是神經(jīng)網(wǎng)絡(luò)的主要實(shí)現(xiàn)者。但說(shuō)到對(duì)這么有魅力的NPU的看法的話，我們現(xiàn)在的市場(chǎng)上還沒(méi)有這樣的產(chǎn)品。因此，我們落后了。

但不可否認(rèn)的是，我們現(xiàn)在只是在設(shè)計(jì)層面介紹我們的NPU家族。我們有三個(gè)NPU。我們已經(jīng)給它們以授權(quán)。它們?cè)谖覀兛蛻舻氖种小Ｋ麄冋�在做設(shè)計(jì)。今年你不會(huì)看到硅。也許明年晚些時(shí)候。沒(méi)有人等著我發(fā)表聲明。整個(gè)行業(yè)還要再過(guò)十年才能穩(wěn)定下來(lái)。華為有自己的產(chǎn)品。蘋果有自己的產(chǎn)品。三星有自己的產(chǎn)品。高通有自己的產(chǎn)品。英偉達(dá)有自己的產(chǎn)品。每個(gè)都有自己的。他們真的需要每年投資100個(gè)人的人力在硬件上來(lái)生產(chǎn)8位乘法器嗎？答案可能是否定的。

Q：我記得蘋果公司在他們的活動(dòng)中介紹了他們最新的芯片。他們說(shuō)，機(jī)器學(xué)習(xí)比以前強(qiáng)大了6倍。對(duì)芯片這部分的投資是有意義的。這是可以給你帶來(lái)很多好處的部分。當(dāng)你在手機(jī)和其他強(qiáng)大的設(shè)備上看到這些更大的系統(tǒng)芯片時(shí)，你是否期望這部分會(huì)被放大到原來(lái)的兩倍甚至三倍？

Roddy：有些是，有些不是。我們看到機(jī)器學(xué)習(xí)功能以多種不同的方式擴(kuò)散。一個(gè)意料之外的方式是，它是如何比歷史可能預(yù)測(cè)的更快地進(jìn)入低成本設(shè)備的。屏幕尺寸和相機(jī)尺寸過(guò)去常常以固定的速度從高端到中檔再到低端一代代地下降。我們已經(jīng)看到了一個(gè)更快速的擴(kuò)展，因?yàn)槟憧梢杂肗PU做一些有趣的事情，在某種程度上可以讓你在系統(tǒng)的其他地方降低成本，或者啟用與系統(tǒng)其他部分不同的功能。

低成本手機(jī)中一個(gè)很好的例子是人臉解鎖。人臉解鎖通常是一個(gè)低功耗、低分辨率的攝像頭，必須從你的臉上辨別出我的臉。這就是它所需要做的一切。如果你是個(gè)十幾歲的孩子，你的朋友就不能打開(kāi)你的手機(jī)開(kāi)始發(fā)送有趣的短信。它通常只在CPU上的軟件中運(yùn)行，通常是ARM CPU。不管是1000美元的手機(jī)還是100美元的手機(jī)，這都足以解鎖手機(jī)。

但現(xiàn)在，你想把這款售價(jià)100美元的手機(jī)，變成發(fā)展中國(guó)家那些沒(méi)有銀行賬戶的人的代理銀行服務(wù)。你不希望通過(guò)這個(gè)糟糕的相機(jī)快速自拍來(lái)決定誰(shuí)在進(jìn)行金融交易。你需要更精確的面部3D映射。你可能需要同時(shí)進(jìn)行虹膜掃描。如果你能在應(yīng)用處理器的基礎(chǔ)上再增加一個(gè)20、30、40美分的小的專用NPU來(lái)實(shí)現(xiàn)這一點(diǎn)，它只會(huì)被用來(lái)做實(shí)際的詳細(xì)的面部分析，這大概就是我們想要的NPU家族中最小的尺寸。

突然之間，對(duì)于100美元的手機(jī)，安裝一個(gè)專用的NPU是有意義的，因?yàn)樗�使手機(jī)成為一個(gè)安全的銀行設(shè)備。這不是為了讓自拍看起來(lái)更好。一個(gè)買100美元手機(jī)的人不愿意為了讓自拍看起來(lái)更好而花錢。但是銀行公司愿意資助這款手機(jī)來(lái)獲得交易流，當(dāng)然，前提是他們能從發(fā)生在孟加拉國(guó)或其他地方的每一筆80美分的微交易中獲得一分錢。我們現(xiàn)在看到的功能，一開(kāi)始是出于虛榮心，例如讓Snapchat濾鏡更漂亮，讓我的自拍看起來(lái)年輕20歲，但現(xiàn)在你可以用它來(lái)做不同的事情。

Q：你認(rèn)為機(jī)器學(xué)習(xí)占硅預(yù)算的百分比應(yīng)該是多少？

Roddy：這取決于應(yīng)用程序。有一些產(chǎn)品類別是人們?cè)敢馔度氲�。如今最完美的狀態(tài)是什么？人們把10或12萬(wàn)億次計(jì)算放入手機(jī)。我們要做的一件事是查看各種類型的功能，計(jì)算工作量是多少？其中多少是神經(jīng)網(wǎng)絡(luò)部分，多少是其他形式的計(jì)算？

比如語(yǔ)音處理。M級(jí)CPU上運(yùn)行。你不需要它能做到“OK Google”和“Hello Siri”。你需要去另一端看一個(gè)類似綠屏的東西，我會(huì)用我的自拍說(shuō)，“看我！我在海灘上！”雖然我實(shí)際上在一個(gè)沉悶的會(huì)議室里，但它把我剪輯了出來(lái)，把我放在海灘上。盡管我在看球賽，但是“嗨，親愛(ài)的，我還在辦公室”。那需要巨大的馬力來(lái)實(shí)現(xiàn)。

但如果你受到Instagram的影響，然后你自然會(huì)花1200美元買最新款的手機(jī)，因?yàn)槟銜?huì)想要最酷的視頻。但如果在手機(jī)里裝一個(gè)具備每秒20萬(wàn)億次計(jì)算的NPU只要多花5美元，為什么不呢？它這么酷。它是由兩端驅(qū)動(dòng)的。你可以做些很好的事情。