作者：Carol物聯(lián)網(wǎng)智庫 原創(chuàng)

去年11月，OpenAI以低調(diào)姿態(tài)推出ChatGPT，“大模型時代”的序幕自此緩緩拉開。

一年后，OpenAI舉辦了首屆DevDay開發(fā)者大會，重磅展示了GPT-4 Turbo等新進展，不僅呈現(xiàn)了知識庫更新和處理能力的飛躍，更是再次提醒了全球技術(shù)圈：我們正駛?cè)胍粋�迅猛發(fā)展的新紀元。

在這個紀元中，大模型不再局限于理論研究或大規(guī)模數(shù)據(jù)中心的應用，而是向各類硬件平臺拓展。范圍從高性能服務器擴散至日常移動設備，乃至在各種邊緣場景中部署大模型。此外，具身智能（Embodied AI）如智能機器人和自動化系統(tǒng)的應用，更是展現(xiàn)了與物理世界互動的新維度。這種技術(shù)應用的廣泛擴展和深化，不僅彰顯了算力和智能化的進步，也正在推動行業(yè)界限的不斷拓寬。

然而，大模型在硬件領域的落地同樣面臨著諸多挑戰(zhàn)。它要求硬件具備足夠的計算能力來處理復雜的AI模型，亦需在功耗、體積及成本間尋找平衡點。在此背景下，中國企業(yè)在硬件應用方面展示了顯著的發(fā)展和獨特的創(chuàng)新潛力。從數(shù)據(jù)中心到邊緣計算設備，智能手機到智能機器人，中國企業(yè)正在開拓大模型在硬件領域的應用前景。

為了更直觀地展現(xiàn)國內(nèi)大模型在硬件領域應用的現(xiàn)狀，本文將盤點在該領域活躍和具有代表性的中國企業(yè)。希望提供一個清晰的視角，讓大家了解在這一領域中，中國企業(yè)的活躍態(tài)勢和創(chuàng)新動向。

本次針對大模型在硬件領域落地情況的盤點，將重點分為兩大部分：在邊緣場景中實現(xiàn)的行業(yè)大模型和具身智能（Embodied AI）。在邊緣場景中實現(xiàn)的行業(yè)大模型關注的是如何在資源受限的環(huán)境中高效運行先進的AI模型；而具身智能Embodied AI則探索將AI技術(shù)與機器人或其他物理設備的結(jié)合，實現(xiàn)更高級別的自動化和智能化。通過對這兩個領域的深入盤點，不僅能夠展現(xiàn)中國企業(yè)在技術(shù)上的創(chuàng)新和應用，也能夠捕捉到整個行業(yè)未來發(fā)展的脈動。本文將主要盤點在邊緣場景中實現(xiàn)的行業(yè)大模型部分。

行業(yè)進展管窺：在邊緣場景中實現(xiàn)的大模型飛躍

在我們周圍，智能技術(shù)正不斷地創(chuàng)新和變革。無論是工廠的自動化生產(chǎn)線、醫(yī)療系統(tǒng)中的數(shù)據(jù)分析，還是城市交通的智能管理，這些改變正是行業(yè)大模型技術(shù)在邊緣場景應用的直接體現(xiàn)。這些技術(shù)的融入，雖不易察覺，卻在根本上改變了我們的工作和生活方式。

這些大模型在邊緣場景中的應用，使得數(shù)據(jù)處理和智能決策不再完全依賴遠程數(shù)據(jù)中心。它們的魅力在于優(yōu)化現(xiàn)有技術(shù)，提高效率，同時降低能耗。無論是在工業(yè)自動化、健康監(jiān)測還是智慧城市規(guī)劃中，這些技術(shù)都在提升響應速度和處理效率，同時保護用戶隱私并節(jié)約資源。

中國企業(yè)在這個領域展現(xiàn)出顯著的發(fā)展和創(chuàng)新潛力。從智能工廠到智慧醫(yī)療，再到城市交通系統(tǒng)，它們正在將大模型技術(shù)應用于實際場景，推動著行業(yè)向更高效、更智能化的方向發(fā)展。這不僅是對技術(shù)進步的回應，更是對日益增長的環(huán)保和能效需求的積極回應。

在接下來的內(nèi)容中，我們將盤點中國企業(yè)在邊緣場景中應用大模型技術(shù)的表現(xiàn)。通過這些盤點，我們可以看到大模型技術(shù)如何在實際業(yè)務中發(fā)揮作用，更重要的是，可以更清晰地感受大模型技術(shù)如何成為推動未來社會發(fā)展的重要動力。

1. 華為

華為將大模型運用在邊緣場景中的體現(xiàn)，主要集中在其智能手機和穿戴設備的AI處理能力上。華為開發(fā)了具有神經(jīng)處理單元（NPU）的麒麟系列處理器，例如麒麟 970 和麒麟 980 芯片。這些NPU專為高效的機器學習任務設計，能夠在手機和其他智能設備上實時處理復雜的AI計算，例如圖像識別和語音處理。這些處理器的關鍵創(chuàng)新在于它們能夠在非常低的功耗下運行大型神經(jīng)網(wǎng)絡模型，使設備能夠快速響應并進行實時數(shù)據(jù)處理。

華為旗艦系列手機已經(jīng)利用NPU來提升攝影體驗。通過在設備端運行的大型神經(jīng)網(wǎng)絡模型，華為的智能手機能夠?qū)崿F(xiàn)場景優(yōu)化、人臉識別和圖像增強等功能；在華為智能手表和健康追蹤設備上也集成了NPU，使得這些設備能夠進行健康數(shù)據(jù)的實時分析和監(jiān)測。例如，心率監(jiān)測、睡眠質(zhì)量分析和運動模式識別等功能，都是通過在設備上運行的機器學習模型實現(xiàn)的。這些功能的關鍵在于能夠在設備上直接處理復雜的數(shù)據(jù)集，而不依賴遠程服務器，從而確保數(shù)據(jù)處理的快速性和隱私性。

此外，華為開發(fā)的盤古大模型 3.0 版本采用了“5+N+X”三層架構(gòu)，以適應不同行業(yè)和場景的需求。這三層分別包括：L0層的5個基礎大模型（自然語言、視覺、多模態(tài)、預測、科學計算）、L1層的N個行業(yè)通用大模型、以及L2層的用戶自主訓練的細化場景模型。值得注意的是，基于盤古大模型3.0的“5+N+X”三層架構(gòu)，已經(jīng)為煤礦、鐵路、氣象、金融、制造、藥物研發(fā)等不同行業(yè)和場景提供了專門定制的解決方案。雖然這些大模型技術(shù)目前主要在服務器和云平臺層面應用，但它們對硬件設備的影響是間接的。例如，在云服務支持的智能應用中，這些大模型提供了強大的后端支持，從而使得前端的硬件設備能夠執(zhí)行復雜的任務，如數(shù)據(jù)分析和智能決策。

2. 360

今年，360正式推出了360智腦·視覺大模型。這是360集團在大模型技術(shù)上的重要創(chuàng)新，主要專注于視覺數(shù)據(jù)的處理，具備強大的圖像和視頻理解能力。這種視覺大模型不僅提高了對視覺內(nèi)容的認知精度，還具有優(yōu)秀的泛化能力，能夠減少對傳統(tǒng)深度學習算法大量數(shù)據(jù)的依賴性。因此，360在大模型落地硬件領域的表現(xiàn)，主要集中在其安全產(chǎn)品和智能硬件方面。

多模態(tài)大模型與物聯(lián)網(wǎng)的結(jié)合：360通過將多模態(tài)大模型與物聯(lián)網(wǎng)技術(shù)相結(jié)合，顯著提升了智能硬件的數(shù)據(jù)處理和分析能力。這種結(jié)合使得從物聯(lián)網(wǎng)設備收集的數(shù)據(jù)能夠被更加有效地融合和學習，從而在安防、巡店、看護等多種場景中產(chǎn)生更大的應用價值。

邊緣計算的強化：360的新一代智能硬件產(chǎn)品采用了邊緣計算技術(shù)，能夠在設備端進行數(shù)據(jù)處理和分析，而不完全依賴于云端。這種技術(shù)能夠減少對中央處理服務器的依賴，降低延遲，提高響應速度�；�于360智腦·視覺大模型的智能硬件產(chǎn)品，如戶外球機、槍球一體機、雙目拼接全景攝像機、家用攝像機、可視門鈴、行車記錄儀等，都具備了強大的邊緣計算能力。能夠在本地處理大量數(shù)據(jù)，而且能夠更有效地適應不同的應用場景，從而在諸如智能安防等領域中實現(xiàn)更高效的應用。

3. 百度

在今年的“百模大戰(zhàn)”中，百度的“文心一言”可謂是國內(nèi)最早一批大模型先鋒。如今，百度通過將其大模型“文心”與深度學習平臺“飛槳”進行緊密的技術(shù)升級與協(xié)同優(yōu)化，顯著提升了文心大模型的訓練速度和推理效率。近期，百度發(fā)布了飛槳開源框架v2.5，這是百度在大模型落地硬件領域的一個重要里程碑。這個框架全面完成了架構(gòu)升級，并在大模型訓練、推理和多硬件適配方面帶來了新的功能。特別是在硬件資源層面，飛槳與文心進行了協(xié)同優(yōu)化，提升了訓練吞吐速度和收斂效率，降低了大模型訓練的資源消耗。

智能音箱與智能屏的創(chuàng)新：百度率先推出帶屏智能音箱“小度在家”，開辟了智能音箱的新領域。通過加入屏幕，百度的智能音箱不僅提供聲音交互，還增加了視覺交互，為用戶創(chuàng)造更豐富的智能生活體驗。

智能硬件的多樣化：百度通過小度科技推出了包括智能屏、健身鏡、學習平板、耳機、電視等多種智能硬件產(chǎn)品，這些產(chǎn)品通過大模型技術(shù)實現(xiàn)了更智能的交互和服務。

AI大模型在教育賽道的應用：百度推出的智能學習平板集成了大模型技術(shù)，成為教育領域的一個增長點。通過這種方式，百度將AI大模型技術(shù)應用于實際的消費電子產(chǎn)品中，提升了產(chǎn)品的智能化水平。

大模型與硬件產(chǎn)品的深度融合：百度宣布將融合文心一言，打造專門針對智能設備場景的AI模型“小度靈機”，并計劃將其應用于小度的全系產(chǎn)品中。

在硬件適配和生態(tài)共建方面，文心大模型與英偉達、寒武紀、華為等12家硬件伙伴進行適配，覆蓋云和端側(cè)多種硬件類型。其中，百度飛槳與英特爾® OpenVINO™ 圍繞模型構(gòu)建、優(yōu)化及部署三個方面的合作不斷深入，不僅幫助開發(fā)者減少中間環(huán)節(jié)，還能夠讓一些大模型在邊緣部署成為可能，優(yōu)化了整個的邊緣推理和操作流程。目前，英特爾® OpenVINO™ 不僅能夠支持飛槳模型在英特爾 CPU 和集成顯卡上部署、在英特爾獨立顯卡上部署，還可以通過一行代碼支持飛槳模型在多張獨立顯卡上部署。與英特爾的合作，不僅加強了大模型技術(shù)在硬件領域的實用性和可行性，也對推動大模型技術(shù)的廣泛應用和行業(yè)創(chuàng)新起到了積極作用。

4. 聯(lián)想

在今年10月底的聯(lián)想的Tech World大會上，聯(lián)想集團宣布全面擁抱大模型時代，將大模型落地規(guī)劃放在端側(cè)大模型上，強調(diào)在端側(cè)運行大模型推理，不但可以避開網(wǎng)絡的限制，同時端側(cè)大模型因為能夠結(jié)合個人的數(shù)據(jù)，能夠做到更好的大模型效果，真正達到「人工智能雙胞胎」的效果。

據(jù)統(tǒng)計，端側(cè)大模型應用方面，聯(lián)想實現(xiàn)了以下關鍵進展：

AI PC的概念提出和展示：聯(lián)想提出了AI PC的概念，能夠創(chuàng)建個性化的本地知識庫，并通過模型壓縮技術(shù)運行個人大模型，實現(xiàn)更自然的AI交互和更高效的生產(chǎn)力。

在手機端運行大模型：推出支持在聯(lián)想手機端運行的大模型 Moto AI。通過用戶不斷與 Moto AI的交互，讓 Moto AI 了解并記住該用戶的喜好、習慣和個人風格。例如問 Moto AI “是否有我喜歡的歌手在今年的 Austin City Limits 音樂節(jié)上演出？”，大約30秒便可以給出正確答案。雖然目前回答時間比較長，但端側(cè)大模型支持在飛行模式下運行，且能夠利用端側(cè)的個人信息，理解到「我喜歡的歌手」是誰，并給出較新的大模型內(nèi)置知識（能回答關于今年音樂節(jié)的內(nèi)容）。

大模型壓縮技術(shù)：為了使大模型能夠在端側(cè)設備上運行，聯(lián)想開發(fā)了一種模型壓縮技術(shù)。這項技術(shù)能夠有效減小大模型的體積，同時保持其性能，使得原本僅能在云端運行的大模型可以在個人電腦或智能手機等設備上運行。

個性化和隱私保護：通過在端側(cè)運行大模型，聯(lián)想的設備能夠利用本地存儲的個人數(shù)據(jù)進行推理，從而提供更個性化的服務和建議。同時，這種方法確保了個人數(shù)據(jù)的隱私性，因為數(shù)據(jù)不會被發(fā)送到公有云或共享。

端側(cè)與云端的結(jié)合：聯(lián)想的混合人工智能計劃強調(diào)了端側(cè)大模型與云端大模型的結(jié)合，提供了一個安全、高效的AI解決方案，既能夠利用云端的強大計算能力，又能夠確保個人和企業(yè)數(shù)據(jù)的隱私安全。

5. 新華三

要想更好地適配和滿足AI大模型需求，需要新的存儲產(chǎn)品形態(tài)，對產(chǎn)品硬件和架構(gòu)進行重構(gòu)是必然的，對存儲性能和體驗的雙重提升，也是新華三未來整體戰(zhàn)略的縮影。具體而言，新華三著重強化AI算力，在優(yōu)化存儲與內(nèi)存、并行計算和分布式訓練、節(jié)能和綠色數(shù)據(jù)中心方面也提出了重要升級，這些措施共同推動了大模型向硬件領域的有效落地。

強化AI算力

服務器升級：新華三推出的H3C UniServer G6和HPE Gen11系列服務器，針對AI應用進行了性能優(yōu)化，AI算力提升高達10倍，通用算力性能提升53%。

專用AI服務器：發(fā)布了專門為大模型訓練設計的H3C UniServer R5500 G6服務器，以及適用于大規(guī)模推理/訓練場景的H3C UniServer R5300 G6。

硬件配置：R5500 G6配備NVIDIA HGX H800 8-GPU模組，支持GPU間高速通信，提升AI應用性能。這些服務器基于模塊化設計，可根據(jù)業(yè)務需求選擇CPU和AI平臺。

存儲與內(nèi)存優(yōu)化

新一代智慧存儲：發(fā)布了X10000智慧存儲，專門優(yōu)化以支持AI應用，包括改進的AI存儲智慧中樞3.0版。

存儲性能提升：實現(xiàn)系統(tǒng)資源凈空預測，提升數(shù)據(jù)分析效率，支持應用層面的壓力感知和變化，為AI大模型提供更高效的存儲解決方案。

并行計算和分布式訓練

智算解決方案：推出傲飛算力平臺，支持異構(gòu)計算資源統(tǒng)一管理和多元算力資源智能調(diào)度。

高性能網(wǎng)絡聯(lián)接：支持400G RoCE和400G IB兩種組網(wǎng)方式，以優(yōu)化AIGC計算的連接需求。

分布式存儲能力：提供8000節(jié)點的AI集群調(diào)度能力和60萬IOPS的分布式存儲能力，以滿足高性能并行數(shù)據(jù)處理需求。

節(jié)能和綠色數(shù)據(jù)中心

全棧液冷解決方案：實現(xiàn)數(shù)據(jù)中心運維效率和可靠性的全面提升，同時提高部署密度和交付效率。

PUE優(yōu)化：通過智能溫控技術(shù)減少關鍵制冷、散熱環(huán)節(jié)的能耗，降低數(shù)據(jù)中心PUE至1.1以下，實現(xiàn)節(jié)能減排。

6. 邊無際

邊無際在將大模型技術(shù)應用于硬件領域方面，通過開發(fā)ChatIoT，首次將大模型技術(shù)應用于物聯(lián)網(wǎng)領域。通過將大模型與物聯(lián)網(wǎng)開發(fā)框架Shifu深度融合，構(gòu)建了新的AIoT生態(tài)�？梢詫崿F(xiàn)自然語言面向設備的編程，并開放標準的API，讓ChatGPT等應用能夠充分利用設備的能力。在邊無際的技術(shù)基礎上，AI大模型可以在設備互聯(lián)互通的基礎上，進行應用的下發(fā)與部署。邊無際自主研發(fā)的Shifu作為一個中間件，將自然語言命令翻譯成設備特定的命令。

ChatIoT實現(xiàn)了LLM在物聯(lián)網(wǎng)應用中的標準化模式，這使得開發(fā)者可以通過自然語言與物聯(lián)網(wǎng)設備進行交互，無需傳統(tǒng)編程即可構(gòu)建AIoT場景。邊無際的技術(shù)實現(xiàn)了在物聯(lián)網(wǎng)中將自然語言轉(zhuǎn)換為設備特定命令的能力，從而使大模型技術(shù)在物聯(lián)網(wǎng)設備接入和應用開發(fā)中發(fā)揮作用，提高了開發(fā)效率，也降低了技術(shù)門檻。

7. 江行智能

江行智能在大模型落地硬件方面的主要成果體現(xiàn)在其DK701智能終端平臺的開發(fā)和應用�！�9】這一平臺專為新型電力系統(tǒng)業(yè)務場景設計，具備模組化結(jié)構(gòu)，可靈活擴展以滿足不同場景需求。DK701智能終端平臺的關鍵特點包括數(shù)據(jù)采集、數(shù)據(jù)管理、協(xié)議適配、安全管理等多項功能，特別是在數(shù)據(jù)實效性、運行處理效率、隱私安全性方面具有領先優(yōu)勢。

此外，DK701智能終端平臺還支持多元異構(gòu)數(shù)據(jù)統(tǒng)一接入和毫秒級柔性調(diào)控設備等技術(shù)，適用于資源聚合調(diào)控、能源監(jiān)測、邊緣EMS、碳排放管理等業(yè)務場景。江行智能的這些創(chuàng)新在邊緣計算智能終端產(chǎn)品領域為推動虛擬電廠及電力能源產(chǎn)業(yè)發(fā)展做出了重要貢獻。

8. 宇視科技

宇視科技針對AIoT行業(yè)推出了名為“梧桐”的行業(yè)大模型，專注于滿足AIoT行業(yè)的特定需求【10】。該模型覆蓋計算機視覺（CV）、自然語言處理（NLP）和多模態(tài)（MM）等多項能力。宇視還推出了AI長尾算法云訓練平臺和邊緣AI推訓一體機，致力于解決AIoT行業(yè)的技術(shù)分層問題、提高效率、挖掘新業(yè)務藍海，并加強內(nèi)容保真。通過這些能力，宇視助力AIoT生態(tài)伙伴找到AI高價值產(chǎn)品落地的控制點，并大大降低AIoT長尾需求的技術(shù)門檻。

梧桐行業(yè)大模型：宇視科技專為AIoT行業(yè)設計的大模型，涵蓋計算機視覺（CV）、自然語言處理（NLP）、多模態(tài)（MM）等能力。梧桐大模型通過行業(yè)場景學習和訓練調(diào)優(yōu)，能夠高效地處理行業(yè)特定任務。

云訓練平臺和邊緣AI推訓一體機：這些技術(shù)產(chǎn)品支持AI長尾算法的訓練和部署，提高AIoT產(chǎn)品的效率和效果。允許客戶以更低的成本獲取更優(yōu)的AI性能。

數(shù)據(jù)加密和身份認證：結(jié)合區(qū)塊鏈技術(shù)，保證數(shù)據(jù)的安全性和不可篡改性，增強監(jiān)測和調(diào)控業(yè)務的安全可信水平。

9. 曠視科技

礦視科技方面曾強調(diào)過其將專注于“AI in Physical”（物理世界中的人工智能）。也就是將會把重點放在通過智能機器人等硬件載體對物理世界的改造，而不是僅限于數(shù)字世界的AI應用。這種方法強調(diào)在工業(yè)、制造、物流等實體產(chǎn)業(yè)中實現(xiàn)AI技術(shù)與硬件載體的結(jié)合，以充分釋放AI的潛力。

智能托盤四向車系統(tǒng)：這是曠視推出的代表性產(chǎn)品之一，展示了他們在軟硬一體化方面的創(chuàng)新。這個系統(tǒng)使倉儲物流更加標準化、模塊化，提供柔性、成本效益高、易于部署和擴展的解決方案，與傳統(tǒng)自動化設備相比，具有更高的靈活性。

人工智能體育助教-曠視運動猿：曠視還推出了面向?qū)W校體育教育的AI體育助教。這個系統(tǒng)由訓練桿和智能塢組成，支持多種體育運動項目，顯示了曠視在教育領域的AI應用。

大模型的研究和應用：曠視對大模型的研究持續(xù)深入，他們專注于核心模型設計，并在多模態(tài)大模型方面取得了原創(chuàng)成果。這表明曠視不僅在開發(fā)具體的AI硬件產(chǎn)品上取得進展，而且在AI模型的基礎研究和開發(fā)方面也處于領先地位。

軟硬一體化解決方案：曠視堅持軟硬一體化的產(chǎn)品策略，通過算法定義硬件，創(chuàng)建標準化的AI產(chǎn)品，簡化客戶接入人工智能的過程。這種方法旨在承接復雜的場景需求，同時為用戶提供簡單易用的解決方案。

AIoT（人工智能物聯(lián)網(wǎng)）應用：在消費物聯(lián)網(wǎng)、城市物聯(lián)網(wǎng)、供應鏈物聯(lián)網(wǎng)等領域，曠視提供軟硬一體化的AIoT解決方案，以幫助各行各業(yè)提高效率和降低成本。

10. 商湯科技

在2023年的世界人工智能大會上，商湯科技再次提升了其“商湯日日新SenseNova”大模型體系，同時推出了一系列更新的大模型產(chǎn)品和成果。除了提升了大模型的核心能力，還加快了其在多個行業(yè)的實際應用和落地，包括金融、醫(yī)療、電商、移動終端等領域，推動了AI與大模型技術(shù)在端側(cè)落地的進程。

商湯SenseChat 2.0：作為一種自然語言處理模型，突破了輸入長度限制，提供不同參數(shù)量級的模型版本，適應多樣化的終端和應用場景。

商湯秒畫SenseMirage 3.0：參數(shù)量提升至70億，實現(xiàn)更高級別的圖片細節(jié)刻畫，強化圖像生成能力。

商湯如影SenseAvatar 2.0：數(shù)字人生成平臺，實現(xiàn)了語音和口型的顯著流暢度提升，支持4K高清視頻效果。

商湯瓊宇SenseSpace 2.0 和 商湯格物SenseThings 2.0：空間重建和物體紋理還原的顯著提升，優(yōu)化了3D建模和物體識別能力。

11. 寒武紀：

寒武紀是中國人工智能芯片領域的先驅(qū)之一。據(jù)寒武紀2022年度報告顯示，在互聯(lián)網(wǎng)行業(yè)，寒武紀的思元370芯片及加速卡與數(shù)家頭部互聯(lián)網(wǎng)企業(yè)在視覺、語音、圖文識別、自然語言處理等場景下完成了適配工作。在處理器設計、加速卡開發(fā)和軟件優(yōu)化方面，也為大模型的發(fā)展和應用提供了重要的硬件和軟件支持。

AI芯片技術(shù)創(chuàng)新：寒武紀專注于人工智能芯片的研發(fā)，尤其是在處理器架構(gòu)方面的創(chuàng)新。其芯片產(chǎn)品設計旨在優(yōu)化大數(shù)據(jù)處理和機器學習任務，為大模型的訓練和推理提供了強大的硬件支持。

多樣化產(chǎn)品線：寒武紀推出了多種產(chǎn)品線，如寒武紀1A、1H、1M系列智能處理器，以及思元100、270、290和370云端智能加速卡系列。這些產(chǎn)品針對不同的應用場景，提供了高效的AI處理能力，特別是在大模型訓練和推理方面。

新款智能加速卡的發(fā)布：寒武紀基于思元370云端智能芯片推出的MLU370-X8/M8加速卡，支持芯片間互聯(lián)，滿足多樣化人工智能模型的訓練和推理需求。這對于大模型的高效訓練和推理至關重要。

玄思1001智能加速器：寒武紀的玄思1001智能加速器，集成多張MLU370-M8智能加速卡，提供大容量內(nèi)存支持，支撐智能模型的分布式訓練需求。這對于大模型的訓練尤其重要，因為大模型需要巨大的計算資源和存儲容量。

軟件棧的持續(xù)發(fā)展：寒武紀不斷推進通用性訓練軟件棧的研發(fā)和改進工作，例如支撐新的硬件平臺、數(shù)據(jù)精度，以及新的框架版本，這對大模型的訓練和推理性能有著直接影響。

技術(shù)壁壘與應用廣泛性：寒武紀所研發(fā)的通用型智能芯片產(chǎn)品具有高技術(shù)壁壘，能夠適應人工智能領域高度多樣化的應用場景，包括視覺、語音、自然語言理解等，這為大模型的應用提供了廣闊的空間。

大模型訓練與應用的探索：寒武紀與互聯(lián)網(wǎng)企業(yè)的合作，展示了其在大模型訓練和應用方面的實際探索，這對于理解和優(yōu)化大模型在實際場景中的表現(xiàn)至關重要。

12. 思必馳（AISpeech）：

思必馳在大模型落地硬件領域的發(fā)展重點在于創(chuàng)新通用大模型的設計、提升語言交互能力，以及優(yōu)化智能硬件交互的應用場景。正如百度通過其“文心一言”大模型與深度學習平臺“飛槳”的緊密融合所展現(xiàn)的技術(shù)實力，思必馳也在通過DFM-2大模型在大模型領域競爭中確立其地位。

DFM-2大模型：發(fā)布了百億級參數(shù)的通用大模型“DFM-2”（Dialogue Foundation Model-2），專注于提供高度精準和實時的語言交互服務。DFM-2被定位為一個相對大規(guī)模的行業(yè)大模型，專門針對特定行業(yè)的需要進行優(yōu)化。

DFM-2大模型的五大核心能力提升

外部信源增強的精準推理決策：提供更復雜、更準確、更實時的信息服務。

基于深度認知的通用語義理解：提高產(chǎn)品的口語理解能力和交互準確率。

可信主動知識問答：基于文檔理解提供專業(yè)服務如售后客服、法律咨詢等。

多人設交互的個性化：支持單設備多角色，靈活切換，提供差異化服務。

復雜任務的自動規(guī)劃與執(zhí)行：使機器人能夠通過大模型拆解和規(guī)劃任務，執(zhí)行復雜操作。

在與智能硬件的交互的應用場景，則集中在智能汽車、智能家居、政務服務、醫(yī)療健康和科學研究等領域體現(xiàn)，并將針對個人電腦、智能手機等端側(cè)設備優(yōu)化大模型運行，以此提升效率和響應速度。

13. OPPO

OPPO 在最新一屆ODC開發(fā)者大會上發(fā)布了安第斯大模型（AndesGPT），并喊出“為每個人打造有用的大模型及智能體”的口號。其能力主要體現(xiàn)在知識、記憶、工具和創(chuàng)作四大核心領域。

知識：能夠融合知識圖譜及通用搜索提供更專業(yè)的問答，也通過?動識別知識依賴模塊、準確判別引?外部知識實際、引?精準召回機制來將外部知識與模型融合?成結(jié)果，降低“幻覺”的產(chǎn)生。

記憶：具備?時記憶機制，支持無限上下文擴展，自研SwappedAttention 優(yōu)化首字推理時長。

工具：理解設備控制與服務API，端到端生成指令。在訓練階段引?代碼和??本進?強化訓練，并通過指令構(gòu)建和微調(diào)，提升模型遵循指令的效果。還?持“系統(tǒng)設置、??應?、三?服務、代碼解釋器”等?具。

創(chuàng)作：AndesGPT 具備文生圖、圖生圖、中國風、高清壁紙、全流程支持音樂生成等。

此外，OPPO的生態(tài)為AndesGPT在端側(cè)落地提供了十分大的優(yōu)勢。如今OPPO在智能手表、電腦、平板、智能汽車、智能電動車等基于COLOS系統(tǒng)的終端中都可以同步上線AndesGPT功能。而AndesGPT通過端云協(xié)同的設計，也能夠提升針對任務執(zhí)?、降級應答等場景，提升極端場景下的可?性；同時在云端，OPPO 同樣提供可信的大模型服務，會結(jié)合機密計算技術(shù)，構(gòu)建加密、可信通道，充分保障用戶隱私。值得一提的是，OPPO 還將開源智能體 (Agent) 框架，支持智能體的高效孵化、托管與應用，開發(fā)者們很快就可以嘗鮮了。

14. 科大訊飛

在今年10月，科大訊飛發(fā)布了訊飛星火認知大模型V3.0（以下簡稱“星火3.0”）在文本生成、語言理解、知識問答、邏輯推理、數(shù)學能力、代碼能力和多模態(tài)能力方面都有了顯著的提升。據(jù)科大訊飛方面表示，未來星火V3.0將集成與部署進一系列賦能行業(yè)與場景的商業(yè)化產(chǎn)品中，包括教育、辦公、醫(yī)療等行業(yè)的AI原生應用。例如iFlyCode2.0（智能編程助手），與中科院文獻情報中心聯(lián)合打造的星火科研助手、教育領域的AI心里伙伴、醫(yī)療領域的曉醫(yī)助手等等。而在C端的智能硬件產(chǎn)品方面，科大訊飛也將大模型的能力落地到其智能辦公本、AI學習機、翻譯機、錄音筆等產(chǎn)品中。

其中，訊飛智能辦公本、訊飛翻譯機等C端產(chǎn)品有了星火V3.0的能力加持，能夠?qū)崿F(xiàn)對口語化文本進行書面化的語篇規(guī)整；開放式的對話問答能力支持用戶以手寫或語音輸入的方式與大模型進行問答互動；加上星火V3.0在語言理解、知識問答及多模態(tài)能力方面的能力，讓訊飛AI硬件產(chǎn)品在本年雙十一銷售額同比增長了126%，直接證明了C端用戶已經(jīng)開始為大模型產(chǎn)品買單了。

大模型的中國力量：從硬件戰(zhàn)場中崛起的未來智能

通過以上盤點感知到，隨著大模型技術(shù)的不斷成熟，中國企業(yè)正展現(xiàn)出在處理能力、能效優(yōu)化和邊緣計算領域的實力與飛躍。中國企業(yè)在大模型硬件領域的落地表現(xiàn)不僅彰顯了技術(shù)實力，更預示了一個深刻變革的時代。從華為的高效AI處理器到360的視覺大模型，再到百度的模型與平臺融合，展示了中國企業(yè)在提升硬件處理能力和優(yōu)化能源消耗方面的具體成就。這些進展不僅提高了設備的智能化水平，也為低功耗、高效能的智能硬件設備開辟了新的可能性。

展望未來，大模型技術(shù)與硬件的結(jié)合將進一步深化，特別是在AIoT、邊緣計算、智能機器人等領域，預計將迎來技術(shù)革新和應用拓展的新浪潮。這不僅是智能化轉(zhuǎn)型的關鍵驅(qū)動力，也將為眾多行業(yè)如智慧城市、精準醫(yī)療、工業(yè)自動化等帶來顛覆性的變革。

隨著這些企業(yè)在大模型硬件領域取得更多突破，中國企業(yè)在全球科技舞臺上的作用將越來越重要。這種深度參與和持續(xù)創(chuàng)新不僅將推動國內(nèi)科技生態(tài)的發(fā)展，也將為全球科技創(chuàng)新貢獻中國智慧。

綜合來看，中國企業(yè)在大模型硬件領域的發(fā)展態(tài)勢既成熟又有深度，而在端側(cè)硬件落地方面，與國際上對比也有著數(shù)量級的優(yōu)勢，一切只是時間問題。隨著技術(shù)的持續(xù)進步和應用場景的日益豐富，期待中國企業(yè)繼續(xù)在全球技術(shù)舞臺上發(fā)揮關鍵作用，為全球科技生態(tài)的多樣化和繁榮發(fā)展做出重要貢獻。

參考資料：

【1】《6000 字詳解華為盤古大模型：能否撐起世界 AI 另一極？》來源 | 極客公園；作者 | 極客公園：https://new.qq.com/rain/a/20230707A0ACV600#:~:text=7%20%E6%9C%88%207%20%E6%97%A5

【2】360智腦官網(wǎng)（私有化）：https://qycloud.#/360gpt.html

【3】360智腦官網(wǎng)：https://ai.360.com/

【4】《大模型時代，重估百度移動生態(tài)》來源 | 礪石商業(yè)評論；作者 | 路言：https://baijiahao.baidu.com/s?id=1777021449558685417&wfr=spider&for=pc

【5】《英特爾正式宣布與百度聯(lián)合發(fā)起飛槳+文心大模型硬件生態(tài)共創(chuàng)計劃 》來源 | 搜狐；作者 | 鞭牛士：https://news.sohu.com/a/713635814_115060

【6】《聯(lián)想全面擁抱大模型時代：首提AI PC概念，加強與微軟、英偉達合作》來源 | 騰訊網(wǎng)；作者 | 騰訊新聞潛望：https://new.qq.com/rain/a/20231025A02HQ900/

【7】《新華三百業(yè)靈犀達國內(nèi)先進水平！率先完成中國信通院大模型標準符合性驗證》來源 | 百家號；作者 | 砍柴網(wǎng)：https://baijiahao.baidu.com/s?id=1777635368656458732&wfr=spider&for=pc

【8】《瞄準新型電力系統(tǒng)，江行智能打造工業(yè)級邊緣計算智能終端 》來源 | 搜狐；作者 | 賽迪網(wǎng)官方：https://www.sohu.com/a/723598307_120603108

【9】《首個AIoT行業(yè)大模型官宣，第一批受益者是這群“搬箱人》來源 | 智東西；作者 | 三北：https://baijiahao.baidu.com/s?id=1765696392528200365&wfr=spider&for=pc

【10】《寒武紀通用型智能芯片產(chǎn)品完整支持商用大模型部署》來源 | 中國網(wǎng)科學中國；作者 | 投資界 http://science.china.com.cn/2023-08/31/content_42503363.htm

【11】《思必馳發(fā)布通用大模型DFM-2，滿足行業(yè)精度的需求》來源 | 百家號；作者 | 每日熱點匯報：https://baijiahao.baidu.com/s?id=1771738927118899943&wfr=spider&for=pc

【12】《從訊飛華為聯(lián)手，我們看到了國產(chǎn)大模型的“三級跳”》來源 | 財經(jīng)無忌；作者 | 山核桃：https://baijiahao.baidu.com/s?id=1780703103894788115&wfr=spider&for=pc

【13】《大模型商業(yè)化落地初顯，科大訊飛智能硬件雙十一銷量增長126%，拿下7項銷冠》來源 | 中國經(jīng)營網(wǎng)；作者 | 佚名：http://www.cb.com.cn/index/show/gd/cv/cv1362085291499

文末提示：“中國AIoT產(chǎn)業(yè)年會暨2024年智能產(chǎn)業(yè)前瞻洞察大典”，將于12月15日在深圳機場凱悅酒店舉辦，想了解更多中國AIOT產(chǎn)業(yè)和5G產(chǎn)業(yè)的發(fā)展態(tài)勢和特點？點擊閱讀原文，立即報名！

       原文標題 : 年度盤點④|盤點大模型時代的中國制造：硬件界的下一個熱點？