訂閱
糾錯
加入自媒體

大模型的火燒到了AI服務器上

2023-07-25 10:42
科技云報道
關注

大模型的紛爭已經隨著各大入局者公布產品后,熱度逐漸退去,但是由大模型帶來的產業(yè)鏈高頻共振,已經傳遞了算力層。

表現(xiàn)最為激烈的,就是AI服務器市場。大模型帶來的算力需求,直接引發(fā)了一波AI服務器搶購潮和漲價潮。

據(jù)《證券時報》報道,一家檢測企業(yè)透露,他們在去年6月購買的8臺AI服務器到今年三月已經漲價到130萬每臺,到現(xiàn)在價格飆升至160萬每臺。不到一年的時間,價格漲幅近20倍。

另外,AI服務器需求量大漲也直接引發(fā)了上游材料PPO(聚苯醚,用作高速覆銅板增強材料)的搶購潮,此前有業(yè)內相關人士坦言,由于全球PPO主流廠商僅一家,隨著AI服務器的放量,PPO未來很有可能成為產業(yè)鏈上的緊缺環(huán)節(jié)之一。

在這樣的背景下,AI服務器廠商擴產的消息也層出不窮。

鴻海集團旗下負責AI服務器業(yè)務的鴻佰科技就曾被曝出規(guī)劃新增五到六條生產線,以應對AI服務器客戶要求的消息。

市場火熱度可見一斑,這也直接點燃了資本市場。

從1月份開始,以浪潮信息、中際旭創(chuàng)、工業(yè)富聯(lián)為首的AI服務器概念股扶搖直上,多次漲停,甚至連長期虧損的寒武紀,股價都一路飄紅。

爆火的“AI服務器”

AI服務器是什么?

AI服務器是一種專門設計用于執(zhí)行人工智能(AI)、機器學習(ML)、深度學習(DL)等計算密集型任務的高性能服務器。

AI服務器通常配備有高效能的中央處理器(CPU)、圖形處理器(GPU)、張量處理器(TPU)或專用的AI加速器,以及大量的內存和存儲空間。

在異構方式上,AI服務器可以為CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多種加速卡。

具體的設計和配置可以根據(jù)需要進行大量并行處理的具體任務來進行調整。

目前,使用比較廣泛的AI服務器是CPU+GPU。這也與傳統(tǒng)的服務器區(qū)分開來。

據(jù)悉,傳統(tǒng)服務器主要以CPU為算力提供者,但是在運作的過程中需要引入大量分支跳轉中斷處理,這使得CPU的內部結構復雜,并不能滿足AI時代的需求。

而采用GPU并行計算的AI服務器,單卡核心數(shù)達到上千個,擅長處理密集型運算應用,如圖形渲染、計算視覺和機器學習。

上述提及的檢測企業(yè)使用的AI服務器,基礎配置就包括8顆英偉達A100GPU和80G存儲器。

AI服務器對于AI、ML和DL的計算密集型任務來說非常有用。主要功能包括:

大數(shù)據(jù)處理:AI服務器能夠處理和分析大量數(shù)據(jù),這是訓練AI和ML模型的關鍵。

并行計算:由于AI和ML算法需要對大量數(shù)據(jù)進行復雜的計算,AI服務器通常使用可以并行處理大量數(shù)據(jù)的硬件,如GPU。

存儲和內存:AI服務器通有大量的存儲空間和內存,以便存儲和處理大量的數(shù)據(jù)。

網(wǎng)絡能力:AI服務器需要高速和低延遲的網(wǎng)絡連接,以便快速傳輸大量的數(shù)據(jù)。

其實,這也解釋了為什么在大模型熱浪后,會引發(fā)AI服務器的搶購浪。大模型中包含著海量的數(shù)據(jù)參數(shù)、訓練、運行都需要更多的計算資源來處理,這就需要更高性能的AI服務器來支持。

當然,這一次AI服務需求大漲最直接的原因是大模型時代的到來,但是實際上,AI服務器在這個節(jié)點爆發(fā),與AI技術、大數(shù)據(jù)的發(fā)展都有關。

總的來說,AI服務器的爆火可以歸結為以下幾個關鍵因素。

首先,大數(shù)據(jù)的崛起,F(xiàn)代社會的每個角落,無論是社交媒體、電子商務還是互聯(lián)網(wǎng)搜索,都在產生大量的數(shù)據(jù)。

這些數(shù)據(jù)需要通過復雜的算法進行分析和解讀,以發(fā)現(xiàn)有用的模式和信息,而AI服務器就能提供足夠的計算能力來處理這些任務。

其次,AI和ML的普及也推動了AI服務器的需求。AI和ML現(xiàn)在已經廣泛應用于各種行業(yè),包括醫(yī)療保健、金融、零售和交通等。

這些領域的進步需要強大的計算能力來處理和分析數(shù)據(jù),訓練和運行復雜的AI和ML模型。

最后,云計算和邊緣計算的發(fā)展也為AI服務器的爆火提供了動力。

云計算使得企業(yè)和組織能夠無需購買和維護昂貴的硬件就能獲得強大的計算能力,而邊緣計算則需要在接近數(shù)據(jù)產生地點的服務器上進行數(shù)據(jù)處理和分析。

AI服務器 國內市場格局

AI服務器市場在過去的幾年里一直在持續(xù)增長,到現(xiàn)今,在大模型的加持下,AI服務器市場盤子越來越大。

據(jù)北京研精畢智信息咨詢發(fā)布的最新數(shù)據(jù)顯示,2022年全年,全球AI服務器行業(yè)市場出貨量達到85萬臺,同比增長約11%,到2023年中旬,AI服務器市場出貨量接近60萬臺,相比上年同期增長約39%。

未來,隨著自然語言處理和圖像、視頻等AI大模型的發(fā)展,算力需求的持續(xù)增長,預計到今年年底,全球AI服務器市場規(guī)模將超過200億美元。

到2025年,預計市場出貨量將提升至190萬臺左右,2022-2025年期間年平均增長率達41.2%。

就具體產業(yè)鏈來說,AI服務器產業(yè)鏈上游為CPU、GPU、內存和硬盤等核心零部件,以及數(shù)據(jù)庫、操作系統(tǒng)和基礎管理軟件等軟件供應;下游為應用市場,包括互聯(lián)網(wǎng)、云計算和數(shù)據(jù)中心服務商等。

目前,主導市場的是一些主要的AI服務器制造商,包括華為、浪潮、聯(lián)想和中科曙光等,這些公司的服務器被廣泛應用于AI和ML的研究和商業(yè)應用。

不過,值得注意的是,浪潮信息于近日發(fā)布了一份營收凈利潤雙雙下滑的半年度業(yè)績預告。

其中,浪潮信息2023年上半年扣非凈利潤同比下滑88%-99%。對此,浪潮信息方面稱,2023年上半年,受全球GPU及相關專用芯片供應緊張等因素的影響,營業(yè)收入出現(xiàn)下滑。

實際上,有行業(yè)人士分析,在AI服務器大火的背景下,浪潮信息業(yè)績不及預期,深層次原因還是在于傳統(tǒng)服務器行業(yè)整體不景氣,而目前浪潮信息AI服務器實際所占比例并不大。

浪潮信息此前曾表示,總體來看,公司AI服務器的整體業(yè)務占比在上升。AI服務器需求大漲帶來的業(yè)績,或許能在浪潮信息2023年年報才能體現(xiàn)。

不過,根據(jù)IDC發(fā)布的《2022年第四季度中國服務器市場跟蹤報告Prelim》,目前,在整個服務器市場(涵蓋AI服務器和傳統(tǒng)服務器)浪潮份額依舊以28.1%領先,但相比于去年30.8%的份額,還是有所下滑。

其實這也與說明一點,傳統(tǒng)CPU服務器行業(yè)受到AI的影響,市場逐漸萎靡。未來以AI服務器為代表的異構服務器或是大勢所趨。

在應用市場,數(shù)據(jù)顯示,全球市場中以Microsoft、Google、Meta和AWS為代表的四家北美云端供應商采購量相對比較高。

2022年末,Microsoft以接近20%的采購量占據(jù)當年首位;Google、Meta和AWS采購量占比排在之后,分別達到17%、15%和14%。

在國內,隨著科技廠商入局大模型已經大模型創(chuàng)業(yè)的興起,AI算力基礎設施的加快建設,對AI服務器的采購量占比也在相應升高。

2022年年末,字節(jié)跳動的AI服務器采購量大幅度提高,市場占比達到6%。

然而,市場也面臨著一些挑戰(zhàn)。首先,是能源消耗的問題。盡管AI服務器的性能在不斷提高,但其能耗也在增加。這對于環(huán)保和電力供應來說都是一個問題。

其次,AI和ML的快速發(fā)展和變化要求服務器制造商必須持續(xù)投入研發(fā),以確保他們的產品能夠滿足最新的需求。

關于未來,國內的AI服務器市場有很大的潛力。隨著AI、ML和DL的進一步發(fā)展和應用,預計對AI服務器的需求將繼續(xù)增長。

此外,隨著5G和物聯(lián)網(wǎng)技術的普及,未來在邊緣計算領域對AI服務器的需求將會增加。

總的來說,盡管市場面臨著一些挑戰(zhàn),但AI服務器的快速發(fā)展和廣泛應用表明,這是一個充滿活力和潛力的市場。

 相關閱讀

垂直大模型競爭,能突破數(shù)據(jù)“卡點”嗎?

大模型時代,AI基礎軟件機會何在?

GPU受限,國內AI大模型能否交出自己的答卷?

AI"入侵"服務器,計算市場正在重新洗牌

【科技云報道原創(chuàng)】

轉載請注明“科技云報道”并附本文鏈接

       原文標題 : 大模型的火燒到了AI服務器上

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內容
文章糾錯
x
*文字標題:
*糾錯內容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號