AI計(jì)算的未來,GPU上岸,IPU崛起
前言:
AI近些年的大火,直接促進(jìn)了CPU和GPU的發(fā)展,而英偉達(dá)的GPU真正借此迅速成為AI市場的主流產(chǎn)品之一,其勢頭甚至蓋過了CPU。
而AI應(yīng)用需要專門的處理器,而IPU正是這樣的處理器。目前,AI在各行各業(yè)均得到廣泛應(yīng)用,IPU可以基于自身優(yōu)勢為世界的智能化進(jìn)程增添不竭動力。
英偉達(dá)專注的GPU優(yōu)勢逐漸縮小
從專注圖像渲染崛起的英偉達(dá)的GPU,走的也是相當(dāng)于ASIC的技術(shù)路線,但隨著游戲、視頻渲染以及AI加速需要的出現(xiàn),英偉達(dá)的GPU也在向著GPGPU的方向演進(jìn)。
當(dāng)硬件更多的需要與軟件生態(tài)掛鉤時,市場大多數(shù)參與者便會倒下。在競爭清理過后,GPU形成了如今的雙寡頭市場,并且步入相當(dāng)成熟的階段。
ASIC本身的成本、靈活性缺失,以及應(yīng)用范圍很窄的特點(diǎn),都導(dǎo)致它無法采用最先進(jìn)制程: 即便它們具備性能和能效優(yōu)勢,一旦無法采用最先進(jìn)制程,則這一優(yōu)勢也將不再明顯!
為保持其在GPU領(lǐng)域的寡頭地位,使得英偉達(dá)必須一直保持先進(jìn)的制程工藝,保持其通用性,但是要犧牲一定的效能優(yōu)勢。
相比于來自類GPU的競爭,英偉達(dá)不應(yīng)該忽視Graphcore的IPU,特別是Graphcore一直都在強(qiáng)調(diào)其是為AI而生,面向的應(yīng)用也是CPU、GPU不那么擅長的AI應(yīng)用。
利用AI計(jì)算打側(cè)面競爭戰(zhàn)
不管CPU還是GPU都無法從根本上解決AI問題,因?yàn)锳I是一個面向計(jì)算圖的任務(wù)、與CPU的標(biāo)量計(jì)算和GPU的矢量計(jì)算區(qū)別很大。
而另一邊的IPU,則為AI計(jì)算提供了全新的技術(shù)架構(gòu),同時將訓(xùn)練和推理合二為一,兼具處理二者工作的能力。
作為標(biāo)準(zhǔn)的神經(jīng)網(wǎng)絡(luò)處理芯片,IPU可以支持多種神經(jīng)網(wǎng)絡(luò)模型,因其具備數(shù)以千計(jì)到數(shù)百萬計(jì)的頂點(diǎn)數(shù)量,遠(yuǎn)遠(yuǎn)超過GPU的頂點(diǎn)規(guī)模,可以進(jìn)行更高潛力的并行計(jì)算工作。
計(jì)算加上數(shù)據(jù)的突破可以讓IPU在原生稀疏計(jì)算中展現(xiàn)出領(lǐng)先IPU 10-50倍的性能優(yōu)勢,到了數(shù)據(jù)稀疏以及動態(tài)稀疏時,IPU就有了比GPU越來越顯著的優(yōu)勢。
此外,如果是在IPU更擅長的分組卷積內(nèi)核中,組維度越少,IPU的性能優(yōu)勢越明顯,總體而言,有4-100倍的吞吐量提升。
在5G網(wǎng)絡(luò)切片和資源管理中需要用到的強(qiáng)化學(xué)習(xí),用IPU訓(xùn)練吞吐量也能夠提升最多13倍。
兩種芯片勢能英偉達(dá)與Graphcore的較量
Graphcore成立于2016年,是一家專注于機(jī)器智能、同時也代表著全新計(jì)算負(fù)載的芯片制造公司,其包括IPU在內(nèi)的產(chǎn)品研發(fā)擅長大規(guī)模并行計(jì)算、稀疏的數(shù)據(jù)結(jié)構(gòu)、低精度計(jì)算、數(shù)據(jù)參數(shù)復(fù)用以及靜態(tài)圖結(jié)構(gòu)。
英偉達(dá)的潛在競爭對手Graphcore的第二代IPU在多個主流模型上的表現(xiàn)優(yōu)于A100 GPU,兩者將在超大規(guī)模數(shù)據(jù)中心正面競爭。
未來,IPU可能在一些新興的AI應(yīng)用中展現(xiàn)出更大的優(yōu)勢。
第二代IPU相比第一代IPU有兩倍峰值算力的提升,在典型的CV還有NLP的模型中,第二代IPU相比第一代IPU則展現(xiàn)出了平均8倍的性能提升。
如果對比英偉達(dá)基于8個最新A100 GPU的DGX-A100,Graphcore 8個M2000組成的系統(tǒng)的FP32算力是DGX-A100的12倍,AI計(jì)算是3倍,AI存儲是10倍。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價拍賣
- 5 具身智能火了,但規(guī)模落地還需時間
- 6 國產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市