研華推出邊緣生成式AI系統(tǒng),亮相英偉達 2024 GTC
全球工業(yè)物聯(lián)網(wǎng)品牌廠商研華科技成功整合英偉達(NVIDIA) 生成式AI模型于MIC-733-AO邊緣AI推理盒子,并在英偉達GTC 2024 GPU科技展研華攤位上進行展示(No. 232),該產(chǎn)品預示:未來生成式AI將大幅減少開發(fā)者訓練模型的時間,在工業(yè)應用上也能以更快速更方便的得到AI推理的結(jié)果。
研華MIC-733-AO+英偉達生成式AI模型=邊緣生成式AI系統(tǒng)
研華MIC-733-AO邊緣AI系統(tǒng)基于英偉達Jetson AGX Orin™平臺,搭載英偉達Jetson AI實驗室的生成式人工智能模型,現(xiàn)在成功高效率運行大型語言模型(LLMs)、視覺語言模型(VLM)、視覺變換器(ViT)以及圖像生成和對話生成Llamaspeak,這要歸功于英偉達Jetson AGX Orin™平臺的獨特優(yōu)勢,包括加速計算、重要的AI軟件和預先訓練的模型,有助于創(chuàng)建、自定義和部署適用于各種應用和地點的生成式AI模型。
利用英偉達Jetson AI實驗室的生成式AI模型,AI開發(fā)者可以運用檢索增強生成(RAG)技術(shù),將LLMs和VLMs連接到公司的知識庫。這種方法消除了傳統(tǒng)AI模型訓練的需求,允許透過與系統(tǒng)的簡單對話交互來產(chǎn)生AI推論,明顯縮短了開發(fā)時間。研華MIC-733-AO擁有高AI運算效能和多個影像輸入接口,例如IP攝影機、USB/gigE工業(yè)相機、GMSL攝影機、激光雷達等,讓開發(fā)者可以輕松串接影像訊息結(jié)合AI運算,而工業(yè)級小體積設計更適合放在邊緣端應用,即使在英偉達Jetson AGX Orin運行滿載時,出色的散熱設計也能防止系統(tǒng)過熱確保正常運行。
邊緣生成式AI系統(tǒng)反應更實時,應用更多元
生成式AI通過從不同的輸入和輸出(例如文本和圖像)創(chuàng)建新內(nèi)容,正在改變?nèi)伺c計算機的互動方式。從云端到邊緣端,邊緣端生成式AI更適合需要快速反應和低延遲環(huán)境的良好解決方案。在邊緣端生成式AI相對于云端生成式AI的解決方案具有以下幾點優(yōu)勢:
實時反應:根據(jù)攝影機和傳感器等數(shù)據(jù)來源的邊緣計算系統(tǒng)能夠立即回應,無需等待與云端上傳數(shù)據(jù)造成的延遲。
數(shù)據(jù)安全:數(shù)據(jù)儲存在邊緣系統(tǒng)中,大幅降低云端數(shù)據(jù)傳輸相關的安全風險。
穩(wěn)定的網(wǎng)絡連接:即使沒有無線網(wǎng)絡,邊緣系統(tǒng)也能夠操作并將數(shù)據(jù)存儲在本地端,直到網(wǎng)絡恢復,而云端生成式AI在沒有網(wǎng)絡時將無法運作。
低傳輸成本:邊緣端AI因不需要隨時傳輸數(shù)據(jù)給云端,僅需低量傳輸,比云端AI隨時上傳數(shù)據(jù)更具成本效益。
邊緣生成式AI代表了人工智能時代的未來。研華MIC-733-AO邊緣生成式AI系統(tǒng),整合英偉達Jetson AI實驗室的生成式AI模型,為AI開發(fā)者提供了一個簡單的解決方案。
如果您對研華MIC-733-AO邊緣生成式AI系統(tǒng)感興趣,可聯(lián)系研華當?shù)貥I(yè)務,或者前往官網(wǎng)www.advantech.com.cn了解產(chǎn)品詳細,2024年5月,研華將在深圳、上海、武漢、北京舉辦AI Solution Day全國巡演,屆時將展示Jeston AI全家族產(chǎn)品,歡迎感興趣的伙伴積極報名。
原文標題 : 研華推出邊緣生成式AI系統(tǒng),亮相英偉達 2024 GTC
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-10.29立即報名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會
-
10月31日立即下載>> 【限時免費下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月14日立即報名>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價拍賣
- 5 具身智能火了,但規(guī)模落地還需時間
- 6 國產(chǎn)英偉達們,抓緊沖刺A股
- 7 三次錯失風口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實力拉滿
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市