應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

AI大模型逐力,邊緣計算產(chǎn)業(yè)迎來新機:《中國邊緣計算產(chǎn)業(yè)研究報告》正式啟動

2023-08-03 18:06 物聯(lián)傳媒
關(guān)鍵詞:邊緣計算人工智能

導(dǎo)讀:當(dāng)前,AI大模型已經(jīng)站在了從“玩具”向“工具”快速演化的關(guān)鍵迭代期。在AI向?qū)嶋H場景落地時,邊緣算力的重要性加速凸顯,邊緣算力在成本、時延、隱私上具有天然優(yōu)勢,也可以作為橋梁,預(yù)處理海量復(fù)雜需求,并將其導(dǎo)向大模型。

當(dāng)前,AI大模型已經(jīng)站在了從“玩具”向“工具”快速演化的關(guān)鍵迭代期。在AI向?qū)嶋H場景落地時,邊緣算力的重要性加速凸顯,邊緣算力在成本、時延、隱私上具有天然優(yōu)勢,也可以作為橋梁,預(yù)處理海量復(fù)雜需求,并將其導(dǎo)向大模型。

5月10日,谷歌年度I/O開發(fā)者大會上,谷歌AI大模型PaLM 2如期亮相,模型提供了Gecko(壁虎),Otter(水獺)、Bison(野牛)、Unicorn(獨角獸)四個版本,其中輕量級的Gecko模型可以在移動設(shè)備上運行,速度非??欤宦?lián)網(wǎng)也能在設(shè)備上運行出色的交互式應(yīng)用程序。

image.png

目前,以手機為代表的智能終端性能冗余,算力需求基本滿足目前應(yīng)用需求場景,導(dǎo)致終端消費者換機動力不足。而AI大語言模型的小型化發(fā)展,將帶來智能終端的再升級,在手機、智能家居、機器人等終端應(yīng)用上內(nèi)嵌部署AI模型,將迎來終端的核心架構(gòu)的變化。

Gecko 小到可以在手機上運行,每秒可以處理20個token,大約每秒16 或17 個單詞,大語言模型的小型化迎重大突破。小型化模型將打破智能終端性能冗余窘境,終端接口的硬件性能將迎大升級。

邊緣算力優(yōu)勢明顯

邊緣算力,通常指部署在設(shè)備本地的算力或者離用戶距離較近的數(shù)據(jù)中心中的算力,相較于云端算力,邊緣算力具有低成本、低時延、高隱私三大特性。在沒有邊緣計算的情況下,所有的數(shù)據(jù)都需要送到一個中心位置進行處理,就像城市中的人們都需要到市中心上班,會造成交通堵塞(網(wǎng)絡(luò)擁堵),且要花費大量通勤時間(處理延遲)。

引入邊緣計算就像在城市的各個區(qū)域建立了辦公室,人們可以在離家更近的地方工作。這樣可以減少通勤時間(即網(wǎng)絡(luò)延遲),避免交通堵塞(即網(wǎng)絡(luò)擁堵),并且還可以在離家更近的地方完成工作(即在數(shù)據(jù)產(chǎn)生的地方進行處理),從而保護個人隱私。


邊緣計算增速強勁

今年2月份,國際電信咨詢公司STL Partners近日發(fā)布了一份邊緣計算關(guān)鍵數(shù)據(jù)統(tǒng)計,數(shù)據(jù)預(yù)測顯示到2030年,邊緣計算潛在市場將在10年內(nèi)以48%的復(fù)合年增長率從2020年的90億美元增長到2030年的4450億美元;到2030年,北美、歐洲和東亞將產(chǎn)生88% 的邊緣服務(wù)收入;2026年,全球26%的網(wǎng)絡(luò)邊緣站點將位于中國。

根據(jù)億歐智庫的數(shù)據(jù),2021年我國邊緣計算市場規(guī)模已經(jīng)達到427.9億元,其中邊緣硬件市場規(guī)模為281.7億元,邊緣軟件與服務(wù)市場規(guī)模達146.2億元,2021-2025年中國邊緣計算產(chǎn)業(yè)規(guī)模預(yù)計年復(fù)合增速達到46.81%,2025年邊緣計算市場整體規(guī)模達1987.68億元,增長空間廣闊。

image.png


之前,邊緣側(cè)設(shè)備以部署通信能力為主,當(dāng)下,在以高通為代表的邊緣巨頭推動下,算力、AI能力等邊緣基建正在加速推動,邊緣算力作為AI觸及萬千場景的血管地位加速明晰。展望未來,邊緣算力將始于AI帶來的需求提升,同時也將賦能應(yīng)用,連接更多用戶,加速AI發(fā)展與迭代。


多元化場景的AI需要邊緣算力


當(dāng)前物聯(lián)網(wǎng)模組進入 AIoT 時代,集成了邊緣算力的智能模組正在逐漸成為支撐邊緣算力的核心形式。智能大腦不僅要處理視覺信息、生成提示詞,更要負(fù)責(zé)輸出指令來執(zhí)行機械動作,如特斯拉針對 Optimus 開發(fā)了 DOJO D1 芯片,充沛的算力(362 TFLPOS@FP8)驅(qū)動 Optimus 機器人流暢執(zhí)行各種任務(wù)。自動駕駛汽車上, L4 級別需要帶寬大于100 Mbps,時延5-10ms。

專注于人工智能和機器學(xué)習(xí)的初創(chuàng)公司Useful Sensors,通過更智能的界面改善人們的日常生活。由于tinyML 技術(shù)的迅速發(fā)展,一個售價為10美元(約合人民幣70+人民幣)的硬件模塊,可以嵌入電視、風(fēng)扇、遙控器、無人機、攝像頭等設(shè)備中,輕松實現(xiàn)智能功能。電視可以根據(jù)主人的手勢實現(xiàn)遙控、風(fēng)扇可以判斷主人的位置對準(zhǔn)送風(fēng)、攝像頭可以自動識別房間里的人員數(shù)量。

image.png

邊緣計算是打通工業(yè)互聯(lián)網(wǎng)賦能行業(yè)“最后一公里”的支撐技術(shù),其通過在網(wǎng)絡(luò)邊緣側(cè)匯聚網(wǎng)絡(luò)、計算、存儲、應(yīng)用、智能等資源滿足行業(yè)數(shù)字化的關(guān)鍵需求,形成統(tǒng)一標(biāo)準(zhǔn)規(guī)范有利于指導(dǎo)推動工業(yè)互聯(lián)網(wǎng)邊緣計算技術(shù)與業(yè)務(wù)的快速發(fā)展邊緣計算系列標(biāo)準(zhǔn)旨從供給側(cè)引領(lǐng)研發(fā)方向,在需求側(cè)引導(dǎo)產(chǎn)品選型,推動供需高效對接。

邊緣計算已成為各國政策推動的新興技術(shù)之一


2022年2月,美國白宮發(fā)布2022年最新版《關(guān)鍵和新興技術(shù)清單》(CETs)。此次最新版包括十四個關(guān)鍵技術(shù)領(lǐng)域和五個新興技術(shù)領(lǐng)域。涵蓋先進計算、先進工程材料、人工智能、量子信息技術(shù)等。其中先進計算下包括超級計算、邊緣計算、云計算、數(shù)據(jù)存儲、計算架構(gòu)數(shù)據(jù)處理和分析技術(shù)五大子領(lǐng)域。

2022年11月22日,工信部發(fā)布《2022年第三批行業(yè)標(biāo)準(zhǔn)制修訂和外文版項目計劃》的通知(以下簡稱《項目計劃》),共52項工業(yè)互聯(lián)網(wǎng)相關(guān)標(biāo)準(zhǔn)被劃分進新型基礎(chǔ)設(shè)施標(biāo)準(zhǔn)項目計劃表,其中,包含4項邊緣計算領(lǐng)域行業(yè)標(biāo)準(zhǔn)。

為推動邊緣計算技術(shù)產(chǎn)品的應(yīng)用創(chuàng)新、促進邊緣計算高價值可復(fù)制創(chuàng)新解決方案的快速孵化,物聯(lián)傳媒聯(lián)合AIoT星圖研究院、深圳市物聯(lián)網(wǎng)產(chǎn)業(yè)協(xié)會、AIoT庫等媒體機構(gòu),將在7月份推出《中國邊緣計算產(chǎn)業(yè)研究報告》,現(xiàn)已逐步開始報告的撰寫和前期調(diào)研工作,歡迎產(chǎn)業(yè)鏈上下游企業(yè)參與調(diào)研,交流行業(yè)信息和見解并提供優(yōu)秀案例。歡迎各位行業(yè)同仁添加以下微信,與報告分析師交流。

image.png