高通Cloud AI 100、AMD EPYC™ 7003系列處理器和技嘉服務(wù)器解決方案 共同推動(dòng)AI推理突破每秒千萬億次運(yùn)算
AI無疑已經(jīng)成為推動(dòng)下一代用戶體驗(yàn)的驅(qū)動(dòng)力。無論是快速瀏覽喜愛的社交應(yīng)用,還是基于數(shù)萬次AI推理提供的在線購(gòu)物推薦,幾乎每一項(xiàng)移動(dòng)終端體驗(yàn)都與AI密不可分。目前,這些平臺(tái)每天承載著數(shù)百萬的用戶量,這又意味著什么呢?它們需要海量性能出眾的高密度服務(wù)器,來提供滿足上述平臺(tái)持續(xù)運(yùn)行所需的AI推理性能。
目前,通過與AMD最新的EPYC™ 7003系列處理器和技嘉科技的最新G292-Z43服務(wù)器解決方案相配合,高通技術(shù)公司正助力性能出眾的機(jī)架式服務(wù)器滿足高性能需求。上述企業(yè)在硬件技術(shù)專長(zhǎng)領(lǐng)域的結(jié)合,帶來了頂級(jí)性能并為現(xiàn)代化數(shù)據(jù)中心樹立全新標(biāo)桿。高通技術(shù)公司尖端的Cloud AI 100能夠與技嘉服務(wù)器系統(tǒng)完美適配,這將推動(dòng)眾多出色的AI用例在高速數(shù)據(jù)分析、個(gè)性化推薦、智慧城市和5G通信等領(lǐng)域的普及。
技嘉G292-Z43服務(wù)器將支持兩臺(tái)AMD EPYCTM 7003系列處理器用于處理負(fù)載,以及多個(gè)高通Cloud AI 100 PCI-E卡用于支持需要密集計(jì)算的應(yīng)用來支持AI推理。高通Cloud AI 100推理加速器支持高達(dá)400 TOPS的算力,還擁有突破性的性能功耗比,并且僅通過單個(gè)高通Cloud AI 100 PCI-E卡即可實(shí)現(xiàn)。試想一下,如果每臺(tái)技嘉服務(wù)器最多可搭載16個(gè)高通Cloud AI 100 PCI-E推理卡,即可提供高達(dá)每秒6.4千萬億次運(yùn)算(400 TOPS x 16,1 POPS等于1000 TOPS)。這是首次基于高通技術(shù)公司AI技術(shù)的解決方案突破每秒千萬億次運(yùn)算(POPS)大關(guān)。更值得注意的是,每個(gè)服務(wù)器機(jī)柜可管理超過19個(gè)上述服務(wù)器單元,從而輕松實(shí)現(xiàn)超過100 POPS的算力,這充分體現(xiàn)了高通技術(shù)公司在AI領(lǐng)域的強(qiáng)勁實(shí)力。欲了解相關(guān)參數(shù),請(qǐng)參考以下信息圖。
更具體來看,單個(gè)算力為400 TOPS的HHHL(半高,半長(zhǎng))高通Cloud AI 100 PCI-E推理卡每秒可以支持19,000張圖像進(jìn)行Resnet50模型分類推理,相當(dāng)于一臺(tái)服務(wù)器機(jī)柜每秒可處理超過600萬張圖像。如此強(qiáng)大的AI性能有望在全球市場(chǎng)增強(qiáng)并規(guī);瘮U(kuò)展AI體驗(yàn)。我們衷心感謝AMD和技嘉科技為實(shí)現(xiàn)這一驚人成就所付出的努力。
高通Cloud AI 100 PCI-E卡和搭載AMD EPYCTM 7003系列處理器的技嘉服務(wù)器即將面市,請(qǐng)參考文末產(chǎn)品圖獲取更多信息。
高通Cloud AI是高通技術(shù)公司和/或其子公司的產(chǎn)品。
AMD、AMD剪頭標(biāo)識(shí)、EPYC以及其他相關(guān)產(chǎn)品由Advanced Micro Devices注冊(cè)。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國(guó)產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 國(guó)產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市