訂閱
糾錯
加入自媒體

讓內(nèi)存干CPU的活兒 這項技術(shù)將芯片運行速度提升百倍

近日,美國普林斯頓大學(xué)研究人員推出了一款新型計算機芯片,其運行速度是傳統(tǒng)芯片的百倍。有媒體稱其采用了“內(nèi)存計算”技術(shù),使計算效率得到大幅提升。

這一神奇的技術(shù)到底是什么?它為何能顯著提高芯片性能?科技日報記者就此采訪了相關(guān)專家。

高度集成,把計算與存儲功能合二為一

對于我們常用的計算機來說,存儲器可分為內(nèi)部存儲器和外部存儲器。內(nèi)部存儲器,即“內(nèi)存”,是電腦的主存儲器。它的存取速度快,但只能儲存臨時或少量的數(shù)據(jù)和程序。

外部存儲器,通常被稱為“外存”,它包括硬盤、軟盤、光盤、U盤等,通?捎谰么鎯Υ罅繑(shù)據(jù),如操作系統(tǒng)、應(yīng)用程序等。當運行某一程序時,處理器(CPU)會先從內(nèi)存中讀取數(shù)據(jù),而后將一部分結(jié)果寫入內(nèi)存,并選擇性地將另一部分結(jié)果寫入外存進行永久保存。

也就是說,通常情況下,內(nèi)存只能存儲少量數(shù)據(jù),計算機中大部分數(shù)據(jù)都“住”在外存。當CPU運行程序時就需要調(diào)取數(shù)據(jù),若調(diào)取“住”在內(nèi)存的數(shù)據(jù),則用時較少;若調(diào)取“住”在外存的數(shù)據(jù),則可能要費些周折。

因此科學(xué)家就想,能否把數(shù)據(jù)都存在內(nèi)存里呢?于是,內(nèi)存計算技術(shù)出現(xiàn)了。

“內(nèi)存計算技術(shù)是伴隨著大數(shù)據(jù)處理技術(shù)的興起而興盛起來的。在處理大數(shù)據(jù)過程中,由于數(shù)據(jù)量極大,處理數(shù)據(jù)時頻繁訪問硬盤這些外存會降低運算速度。隨著大容量內(nèi)存技術(shù)的興起,專家開始提出在初始階段就把數(shù)據(jù)全部加載到內(nèi)存中,而后可直接把數(shù)據(jù)從內(nèi)存中調(diào)取出來,再由處理器進行計算。這樣可以省去外存與內(nèi)存之間的數(shù)據(jù)調(diào)入/調(diào)出過程,從而大大提升計算速度!北本┖娇蘸教齑髮W(xué)計算機學(xué)院教授、中德聯(lián)合軟件研究所所長劉軼告訴科技日報記者。

“但普林斯頓大學(xué)研發(fā)團隊采用的‘內(nèi)存計算’技術(shù)與上述概念中所指的內(nèi)存計算并不完全相同!眲⑤W說,普林斯頓大學(xué)所采用的技術(shù)其實是PIM(Process in-memory),通常被翻譯為“存內(nèi)計算”“存算一體”或“計算存儲一體化”。

“PIM技術(shù)是指直接在內(nèi)存中處理數(shù)據(jù),而不是把數(shù)據(jù)從內(nèi)存讀取到處理器中進行處理!眲⑤W指出,PIM的技術(shù)概念在1990年就已被提出,雖然相關(guān)研究論文早已發(fā)表出來,但相關(guān)技術(shù)始終難以落地。

劉軼認為“難落地”的主要原因在于,PIM技術(shù)尚難以達到傳統(tǒng)計算機馮·諾依曼結(jié)構(gòu)的靈活性和通用性水平!澳壳埃瑢W(xué)界所提出的PIM技術(shù),只能做某些類別的應(yīng)用,難以實現(xiàn)靈活編程!彼f。

可解決“存儲墻”問題,大幅提升性能

在劉軼看來,PIM技術(shù)的重要價值在于,其能解決傳統(tǒng)計算機結(jié)構(gòu)存在的“存儲墻”問題。傳統(tǒng)計算機采用的馮·諾依曼結(jié)構(gòu),需要CPU從內(nèi)存中取出指令并且執(zhí)行,某些指令又需要從內(nèi)存讀取數(shù)據(jù)進行處理,再將結(jié)果寫回內(nèi)存。由于處理器所執(zhí)行的程序和待處理的數(shù)據(jù)都被存在內(nèi)存中,這樣處理器在運行過程中需要頻繁訪問內(nèi)存。隨著微電子技術(shù)的發(fā)展,處理器性能的進步速度逐漸快于內(nèi)存性能。

近30年來,處理器性能每年提升55%,而內(nèi)存訪問速度每年僅提升7%。這使得處理器的處理速度遠遠快于內(nèi)存的讀取速度,直接導(dǎo)致了“存儲墻”的出現(xiàn),嚴重拖慢了程序執(zhí)行速度。

“這好比一個人消化能力很強,飯桌上也有很多食物,但這個人的嗓子眼兒很細,咽不下去。這就使得強大的消化能力‘無用武之地’,也限制了這個人吃東西的速度!眲⑤W說。

“近年來深度學(xué)習(xí)等新型算法的興起,對推倒‘存儲墻’提出了更迫切的需求!眲⑤W指出,新型算法訪問內(nèi)存的模式跟傳統(tǒng)模式不太相同,刷臉、圖片識別、機器翻譯等新型算法往往以類似于人腦的方式實現(xiàn)對復(fù)雜數(shù)據(jù)的處理。由于這類算法涉及的神經(jīng)元數(shù)量多、訓(xùn)練樣本量大,這導(dǎo)致在通用計算機上進行深度學(xué)習(xí)計算的效率比較低。

為了提高效率,科研人員開發(fā)了各種加速部件和專用的深度學(xué)習(xí)處理器,前者的典型代表是圖形處理器(GPU),后者的典型代表有谷歌公司的張量處理器(TPU)、國內(nèi)的寒武紀處理器等。

“CPU、GPU等處理器通過總線與內(nèi)存相連,總線的傳輸速度決定了計算的效率!敝袊詣踊瘜W(xué)會混合智能專業(yè)委員會副主任、復(fù)旦大學(xué)計算機學(xué)院教授張軍平告訴科技日報記者,人們正在嘗試通過改進,減少數(shù)據(jù)在總線上的傳輸次數(shù),提高計算效率。例如,科研人員讓CPU具備部分的GPU功能,或使GPU具備一些CPU的功能等。

劉軼表示,上述改進措施仍然屬于馮·諾依曼結(jié)構(gòu),不能從根本上解決“存儲墻”問題。相比之下,PIM技術(shù)在解決“存儲墻”問題上更具優(yōu)勢。首先,它的計算模式更適合深度學(xué)習(xí)等新型計算模式;其次,PIM技術(shù)避免了馮·諾依曼結(jié)構(gòu)處理器頻繁訪問內(nèi)存這一問題,減少了數(shù)據(jù)傳輸次數(shù),降低了功耗。

具有發(fā)展?jié)摿,但尚難取代通用處理器

記者通過查閱資料發(fā)現(xiàn),PIM技術(shù)應(yīng)用最大的難點在于制造工藝。

PIM技術(shù)需要利用先進的半導(dǎo)體工藝將處理器和存儲器集成在同一芯片內(nèi),使之通過片上網(wǎng)絡(luò)相互連接。但由于目前處理器與存儲器的制造工藝不同,若要在處理器上實現(xiàn)存儲器的功能,則可能會降低存儲器的存儲密度;若要在存儲器上實現(xiàn)處理器的功能,則可能會影響處理器的運行速度。

張軍平指出,現(xiàn)階段內(nèi)存本身不具備計算功能,因此若想實現(xiàn)內(nèi)存計算或PIM技術(shù)都需要對內(nèi)存進行重新設(shè)計。

“普林斯頓大學(xué)不是專業(yè)的芯片公司,其推出的新型芯片可能只是一種技術(shù)上的探索,離真正的產(chǎn)業(yè)化應(yīng)用還有相當長的距離!睆堒娖秸J為,隨著固態(tài)硬盤等技術(shù)的發(fā)展,如果硬盤讀寫速度足以媲美內(nèi)存,內(nèi)存與外存可能被集成為新型大容量高速存儲器。未來最理想的情況是,CPU、GPU等多種處理器與大容量高速存儲器實現(xiàn)一體化高度集成。

劉軼強調(diào),普林斯頓大學(xué)設(shè)計的這種處理器是一種專用處理器,它只針對深度學(xué)習(xí)應(yīng)用,無法取代傳統(tǒng)的通用處理器。

“正如華為、蘋果等公司推出的高端手機上大多配置了深度學(xué)習(xí)處理器,但只作為附屬部件,核心的計算和處理仍然由通用處理器來完成,只是把特定的任務(wù)和計算模塊交由深度學(xué)習(xí)處理器來進行計算,而且是在通用處理器的控制之下完成的!眲⑤W說。

“短期來看,PIM技術(shù)只能被用于特定類別的應(yīng)用場景,難以取代通用處理器!眲⑤W認為,從長遠來看,如果半導(dǎo)體材料和器件技術(shù)無法取得突破,集成電路的摩爾定律將在不久的未來失效,即集成電路芯片內(nèi)的晶體管數(shù)量將停止增長。這會對傳統(tǒng)的計算機系統(tǒng)結(jié)構(gòu)乃至計算機硬件和軟件產(chǎn)業(yè)造成巨大的影響,由此也很可能引發(fā)重大的技術(shù)變革。當新的計算結(jié)構(gòu)出現(xiàn)時,高度集成化的系統(tǒng)可能會對PIM技術(shù)有更多需求,但該技術(shù)能否成為主流仍有待觀察。

聲明: 本文系OFweek根據(jù)授權(quán)轉(zhuǎn)載自其它媒體或授權(quán)刊載,目的在于信息傳遞,并不代表本站贊同其觀點和對其真實性負責(zé),如有新聞稿件和圖片作品的內(nèi)容、版權(quán)以及其它問題的,請聯(lián)系我們。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號