C114訊 7月10日消息(艾斯)不少人用“百模大戰”來形容剛剛落幕的2023年世界人工智能大會(WAIC 2023)。從ChatGPT開始的人工智能(AI)應用加速落地,在上周于上海舉行的這場人氣爆棚的全球盛會上得到了清晰印證。
英特爾中國區網絡與邊緣事業部首席技術官、英特爾高級首席AI工程師張宇博士在WAIC期間接受C114等媒體采訪時表示,最新這一輪人工智能的發展起始于2012年,隨后以卷積神經網絡為代表的深度學習技術得到了大規模應用。而大模型的發展則始于2017年,從技術積累的角度來看,模型尺寸的增加是一個方面,引入Attention等機制和Transformer等模型則推動了大模型技術或應用場景的不斷成熟。但需要看到的是,目前大模型的商業模式仍在摸索當中,仍需進一步觀察。
他指出,推動本輪人工智能發展最核心的要素,實際上是計算、通訊和存儲技術的不斷提升。同時,無論是大模型還是融合AI,實際上邊緣在整個AI生態系統中扮演著非常重要的角色。因為邊緣離我們日常生活最近,會直接影響用戶體驗。
邊緣AI發展仍處于推理階段
目前,傳統的人工智能算法和模型已經無法滿足日益增長的數字化轉型需求,因此在邊緣場景中使用人工智能已成為一種重要趨勢。邊緣人工智能是將人工智能算法和模型部署在邊緣設備上,從而提供更高效、更精準的用戶體驗,并為企業的決策和生產提供更多動力。但是,張宇分析稱,邊緣人工智能目前絕大部分的應用還處于邊緣推理階段。
具體來說,他認為邊緣人工智能的發展可以分為三個階段:第一個階段是邊緣推理,第二個階段是邊緣訓練,第三個階段是邊緣自主機器學習。“如果以攀登高峰來描述整個邊緣人工智能的發展,那么實現了邊緣推理,僅代表我們站到了山腳;實現了邊緣訓練,也僅代表我們站到了半山腰;只有真正實現了邊緣自主學習,才真正意味著我們站到了高山之巔。”
當然,邊緣人工智能的發展也面臨著眾多的挑戰,這其中不僅包括邊緣訓練的挑戰,也包括邊緣設備面臨的挑戰。由于提供的算力所能夠承載的功耗往往是有限的,所以如何在有限資源的情況下去實現邊緣的推理及訓練,這對芯片的性能、功耗比提出了更高的要求。同時,邊緣設備的碎片化非常明顯,如何利用軟件很好地實現在不同平臺之間的遷移,實際上也提出了更多要求。再者,還有數據保護方面的問題必須進行思考。
面向邊緣AI提供軟硬件端到端服務
“人工智能未來的發展需要依賴于底層技術的突破,這包括計算、通訊和存儲技術。只有這些底層技術不斷突破,才能實現對人工智能更高的要求。而這些底層技術正是英特爾在努力發展的方向,包括人工智能、邊緣到云的基礎架構、無處不在的連接和傳感技術等。英特爾的‘五大超級力量’也是在這些底層技術的基礎上構建的,這些‘超級力量’是人工智能應用的基石。”張宇談到,英特爾作為一家數據公司,其產品涵蓋了推動人工智能發展所需的計算、通訊和存儲的各個方面。
硬件層面,英特爾近日推出了面向邊緣的“英特爾 Developer Cloud for the Edge”硬件平臺,旨在為用戶提供免費的評估、基準測試和原型設計環境,以支持使用英特爾硬件的人工智能和邊緣解決方案的開發。該平臺可滿足開發者訪問英特爾最新架構CPU、GPU、VPU和FPGA等硬件資源的需求。此外在第四代英特爾 至強 可擴展處理器上,英特爾也專門針對人工智能工作負載內置了AMX(Advanced Matrix Extensions)Al加速引擎,提供了高峰值的矩陣乘法計算能力,進一步提高了人工智能的性能和效率。
軟件層面,英特爾近期發布了英特爾 OpenVINO 2023.0版本,從更大程度上幫助AI開發者簡化工作流程,在企業中更高效地部署高質量的計算機視覺AI解決方案,以推動創新和自動化發展。通過用于數據上傳、標注、模型訓練和再訓練的單一接口,英特爾Geti商用軟件平臺能夠幫助開發團隊減少模型開發所需時間,并降低AI開發技術門檻及開發成本。英特爾也將于2023年7月11日正式在中國市場推出第二代Gaudi深度學習加速器——Habana Gaudi2。這款專用于高性能深度學習AI訓練的Gaudi處理器,能夠幫助客戶以更低的成本進行AI訓練,更高效地進行大規模AI應用部署。
當邊緣AI加入電信運營商網絡
值得注意的是,今年英特爾集團進行了一次重大的戰略調整,也即IDM2.0戰略。基于此,英特爾內部新成立了網絡與邊緣事業部,將原來的物聯網、通信網絡和數據中心網絡基礎架構三個部分合并在一起。這樣一來,該部門涵蓋的范圍就包括了物聯網、5G基站、5G接入、5G核心網以及數據中心高速網絡基礎架構。如果從與AI的關系來看,這個基礎架構可以真正實現邊緣和云的打通——因為AI涉及到算法和數據的傳輸,而英特爾網絡與邊緣事業部關注的正是從邊緣到云的整個數據通路,特別是邊緣計算和人工智能應用這一部分。
“因為用戶的AI系統往往是一個端到端的系統,我們部門則可以提供更全面的解決方案來服務于合作伙伴。例如,我們目前正在與一些運營商合作,他們提供的MEC服務通常在基站側提供一些邊緣計算能力,以與邊緣物聯網設備進行連接。因此,我們部門可以提供物聯網解決方案和通信網MEC解決方案,將它們融合在一起,為運營商提供端到端的解決方案,從設備到網關再到MEC平臺,而不僅僅是一個盒子或一個MEC平臺。”張宇在介紹說。
另外,英特爾在通過將AI引入通信網絡實現綠色節能方面也取得了顯著成效。根據一些咨詢公司報告,在整個整個端到端的通信網絡中,大約70%的能量消耗發生在邊緣側,即接入網。但是接入網實際上有潮汐效應。因此,英特爾與合作伙伴一起,共同研究了如何利用AI技術更好地調度網絡資源,從而使其平均能源消耗降低。據悉,在今年初的MWC巴塞羅那展上,英特爾就展示了利用英特爾底層技術的相關解決方案。
“在調配工作負載時,實際上需要調整CPU的一些參數,英特爾CPU中有不同的可調參數,如P-state、C-state等。我們將這些參數開放給上層應用,應用可以根據當前用戶的負載流量主動利用AI分析的結果調整CPU的參數,使CPU工作狀態與當前負載更加匹配,達到最佳系統性能功耗比的指標。”張宇表示,這是英特爾實際已經在做或已經在部署的例子。