邊緣計(jì)算“下一程”:AI規(guī)?;瘧?yīng)用如何攻堅(jiān)
數(shù)字化浪潮的下一程洶涌推進(jìn),催生了前所未有的邊緣數(shù)據(jù)洪流,加速了計(jì)算從云到端的計(jì)算發(fā)展。在近日舉辦的規(guī)模攻堅(jiān)英特爾新質(zhì)生產(chǎn)力技術(shù)生態(tài)大會(huì)上,英特爾市場營銷集團(tuán)副總裁、用何中國區(qū)OEM&ODM銷售事業(yè)部總經(jīng)理郭威指出,下一程如今云和端的邊緣界限正在變得越來越模糊,兩者朝著彼此融合的計(jì)算方向發(fā)展。這一趨勢的規(guī)模攻堅(jiān)背后,是用何數(shù)據(jù)量的爆炸性增長,以及對數(shù)據(jù)在不同地點(diǎn)處理的下一程考量,而這也構(gòu)成了推動(dòng)邊緣計(jì)算興起的邊緣關(guān)鍵因素。
英特爾市場營銷集團(tuán)副總裁、計(jì)算中國區(qū)OEM&ODM銷售事業(yè)部總經(jīng)理郭威
越來越多的規(guī)模攻堅(jiān)企業(yè)應(yīng)用開始在邊緣運(yùn)行。根據(jù)Gartner的用何預(yù)測,到2027年,50%的關(guān)鍵企業(yè)應(yīng)用將在邊緣運(yùn)行。研究機(jī)構(gòu)GrandView Research則預(yù)計(jì),全球邊緣計(jì)算市場規(guī)模將在2024年至2030年間以高達(dá)36.9%的復(fù)合年增長率(CAGR)持續(xù)擴(kuò)張。企業(yè)正在邊緣計(jì)算上持續(xù)投入,預(yù)計(jì)從2024到2028年,全球邊緣計(jì)算支出將以雙位數(shù)的復(fù)合年增長率(CAGR)穩(wěn)健增長。
AI在邊緣也展現(xiàn)出強(qiáng)勁的發(fā)展勢頭。盡管目前,AI應(yīng)用主要集中在云端,但考慮到成本、時(shí)效性和安全性等因素,AI向邊緣下沉已成為趨勢。Gartner預(yù)測,到2026年,50%的全球邊緣部署將包含AI。今年以來,生成式AI在各行業(yè)的應(yīng)用不斷落地,企業(yè)積極利用大模型技術(shù)解決商業(yè)挑戰(zhàn),并推動(dòng)了一系列創(chuàng)新成果,大模型商用正進(jìn)入規(guī)?;l(fā)展的關(guān)鍵階段。
邊緣AI“痛點(diǎn)”大起底:成本、技術(shù)與規(guī)?;魬?zhàn)
盡管邊緣AI在數(shù)據(jù)處理和實(shí)時(shí)響應(yīng)方面展現(xiàn)出顯著優(yōu)勢,但在其部署過程中仍面臨一系列挑戰(zhàn)。
首先,將資源從云端轉(zhuǎn)移到邊緣通常需要額外的成本投入,包括硬件采購、部署、維護(hù)以及能源消耗等。企業(yè)需要在價(jià)值、質(zhì)量和成本之間做出權(quán)衡,算一筆“經(jīng)濟(jì)賬”。
其次,技術(shù)層面的復(fù)雜性是阻礙AI應(yīng)用的一大難題。“模型幻覺”問題是其中之一,即在邊緣環(huán)境下,AI模型可能會(huì)因數(shù)據(jù)質(zhì)量、模型訓(xùn)練不足或硬件限制等原因產(chǎn)生不準(zhǔn)確的輸出。
此外,邊緣應(yīng)用場景的多樣性與碎片化也為邊緣AI部署帶來了挑戰(zhàn)。場景、設(shè)備及工作負(fù)載的多樣性,意味著每個(gè)場景都有其獨(dú)特的需求和限制。如何設(shè)計(jì)出既靈活又可擴(kuò)展的標(biāo)準(zhǔn)化方案,以適應(yīng)不同場景的需求,成為實(shí)現(xiàn)邊緣AI規(guī)?;瘧?yīng)用的關(guān)鍵。
三大策略突破瓶頸,助力邊緣AI規(guī)?;l(fā)展
策略一:多樣化硬件產(chǎn)品,破解邊緣場景碎片化難題。
在邊緣計(jì)算場景中,面對不同的應(yīng)用負(fù)載和場景需求,通用處理器和通用算力芯片是滿足這些多樣化場景的最佳方案,這也是英特爾的優(yōu)勢所在。
為實(shí)現(xiàn)這一目標(biāo),英特爾不斷在CPU中集成更多先進(jìn)功能,通過CPU、GPU和NPU的協(xié)同工作,滿足各種場景下的復(fù)雜需求。
英特爾專為邊緣設(shè)計(jì)的多樣硬件產(chǎn)品組合,如英特爾酷睿處理器,為日常的工作負(fù)載提供了卓越的性能;英特爾酷睿Ultra處理器則集成了NPU(神經(jīng)網(wǎng)絡(luò)處理單元),為多種應(yīng)用場景提供了更強(qiáng)大的算力支持。此外,英特爾凌動(dòng)處理器、英特爾銳炫GPU For the Edge、英特爾至強(qiáng)6 處理器,以及專為加速深度學(xué)習(xí)訓(xùn)練和推理而設(shè)計(jì)的英特爾Gaudi處理器等,為客戶提供了豐富的選擇,使客戶以較低成本滿足多樣化負(fù)載和碎片化應(yīng)用成為可能。
策略二:開源開放平臺(tái),加速易用、可負(fù)擔(dān)的AI部署。
在軟件工具層面,英特爾提供了一系列工具集,如OpenVINO和oneAPI,這些工具集為開發(fā)者在英特爾平臺(tái)上優(yōu)化和部署AI應(yīng)用提供了強(qiáng)有力的支持。
在AI模型和框架方面,英特爾提供TensorFlow、HuggingFace、PyTorch和DeepSpeed等主流AI模型和框架,確保開發(fā)者能夠利用最前沿的工具來構(gòu)建和訓(xùn)練AI模型。
企業(yè)AI開放平臺(tái)(OPEA)是英特爾攜手行業(yè)領(lǐng)軍企業(yè)共同打造的開放性AI開發(fā)與部署平臺(tái)。該平臺(tái)幫助行業(yè)客戶更便捷地基于英特爾的產(chǎn)品,構(gòu)建完整的企業(yè)級(jí)AI應(yīng)用。
策略三:以場景驅(qū)動(dòng)創(chuàng)新,攜手生態(tài)破局未來市場。
英特爾攜手合作伙伴,深入挖掘行業(yè)場景的需求與痛點(diǎn),在特定場景中探索創(chuàng)新路徑,共同預(yù)見并應(yīng)對未來可能出現(xiàn)的新挑戰(zhàn)。
針對多元化的應(yīng)用場景,英特爾與合作伙伴攜手打造了定制化的垂直行業(yè)AI解決方案,如英特爾工業(yè)邊緣控制、基于英特爾架構(gòu)的AIPOS 方案等,滿足零售、工業(yè)、教育、醫(yī)療、能源和交通等不同領(lǐng)域的特定需求。
多元化的生態(tài)是英特爾持續(xù)深耕行業(yè)、推動(dòng)創(chuàng)新的基石。英特爾也將持續(xù)構(gòu)建和拓展合作伙伴生態(tài)系統(tǒng),與服務(wù)提供商、設(shè)備制造商等生態(tài)伙伴緊密合作,共促技術(shù)聯(lián)創(chuàng)、共享開發(fā)權(quán)益、共拓市場項(xiàng)目,加速人工智能的開發(fā)和落地部署。
2024年是大模型應(yīng)用的落地之年,AI應(yīng)用仍在創(chuàng)新的浪潮下持續(xù)拓展邊界。在云、邊、端融合的趨勢下,英特爾憑借CPU、GPU與NPU的強(qiáng)強(qiáng)聯(lián)合筑牢算力底座,以開放平臺(tái)和生態(tài)推動(dòng)技術(shù)創(chuàng)新與產(chǎn)業(yè)發(fā)展,讓更多行業(yè)企業(yè)能夠輕松擁抱AI技術(shù),從而引領(lǐng)生成式AI及大模型應(yīng)用走向規(guī)模化發(fā)展的新階段,推動(dòng)業(yè)界邁向更加智能、高效與可持續(xù)的未來。
本文地址:http://www.qzaqs.com/news/43f5599901.html
版權(quán)聲明
本文僅代表作者觀點(diǎn),不代表本站立場。
本文系作者授權(quán)發(fā)表,未經(jīng)許可,不得轉(zhuǎn)載。