發(fā)布時(shí)間:2024-12-23 02:46:48 來(lái)源:下愚不移網(wǎng) 作者:娛樂(lè)
在 2024 火山引擎 FORCE 原動(dòng)力大會(huì)開(kāi)發(fā)者論壇的英特云平I應(yīng)用硬件終端專場(chǎng),英特爾攜手扣子 Coze 推出行業(yè)首個(gè)的爾攜端云協(xié)同智能體開(kāi)發(fā)平臺(tái):Coze-AIPC,為智能體技術(shù)應(yīng)用發(fā)展帶來(lái)全新突破。手扣速
英特爾中國(guó)軟件技術(shù)部研發(fā)總監(jiān)翟磊表示:“我們看到了智能體行業(yè)端云協(xié)同的臺(tái)推大趨勢(shì),同時(shí)端側(cè)硬件平臺(tái)以及軟件技術(shù)也都具備。出A側(cè)插而要加速這一趨勢(shì)的專區(qū)落地,引領(lǐng)行業(yè)躍進(jìn),和端關(guān)鍵在于賦能開(kāi)發(fā)者——他們是店加聯(lián)結(jié)平臺(tái)、服務(wù)與消費(fèi)者的落地關(guān)鍵。英特爾這一想法與扣子不謀而合,英特云平I應(yīng)用希望通過(guò)此次合作,爾攜更好地支持開(kāi)發(fā)者,手扣速為用戶創(chuàng)建更多更好的臺(tái)推端云協(xié)同智能體,為全球用戶帶來(lái)前所未有的出A側(cè)插智能體驗(yàn)。”
此次扣子聯(lián)合英特爾共同發(fā)布的專區(qū)“Coze-AIPC” 是一個(gè)增強(qiáng)版的扣子智能體開(kāi)發(fā)平臺(tái)。它引入了一款運(yùn)行于英特爾平臺(tái)PC端的扣子App,深度整合英特爾 AI PC 強(qiáng)大端側(cè)能力與扣子云平臺(tái)優(yōu)勢(shì)。通過(guò)扣子創(chuàng)新的 “端插件” 機(jī)制,英特爾 AI PC 的 PC 操控、本地知識(shí)庫(kù)、本地推理、本地生成等能力被無(wú)縫嵌入扣子大模型與工作流。開(kāi)發(fā)者借助Coze-AIPC平臺(tái)“端插件商店”中預(yù)制的PC端側(cè)能力集,能迅速開(kāi)發(fā)出適配英特爾AI PC的智能體應(yīng)用,同時(shí)平臺(tái)還將支持開(kāi)發(fā)者創(chuàng)建更多個(gè)性化端插件不斷拓展端側(cè)能力邊界。
自從22年底OpenAI發(fā)布ChatGPT點(diǎn)燃行業(yè)熱情之后,在過(guò)去的兩年的時(shí)間里,大模型和生成式AI技術(shù)飛速發(fā)展,將AI的基礎(chǔ)能力推上了一個(gè)新的臺(tái)階。當(dāng)下除了進(jìn)一步演進(jìn)和迭代生成式AI的基礎(chǔ)能力外,行業(yè)的焦點(diǎn)也開(kāi)始擴(kuò)展到探索如何將這新一代的AI技術(shù)通過(guò)有價(jià)值的應(yīng)用落地。智能體應(yīng)用無(wú)疑是當(dāng)下關(guān)注度最高的一個(gè)領(lǐng)域,甚至有行業(yè)頭部企業(yè)認(rèn)為“智能體是AI應(yīng)用最主流的形態(tài),即將迎來(lái)爆發(fā)點(diǎn)”。其實(shí)智能體并不是這兩年才有的新概念,但在大模型技術(shù)的加持下,如今智能體變得更聰明,更像人,它已經(jīng)具備成為 AI時(shí)代下內(nèi)容,信息和服務(wù)新載體的能力。
在眾多類型的智能體中,工具類智能體無(wú)疑是當(dāng)下最熱門(mén)的賽道,它的出現(xiàn)旨在幫助人類極大地提高生產(chǎn),學(xué)習(xí),娛樂(lè)的效率或者體驗(yàn)。既然是提高生產(chǎn)力,那么跟生產(chǎn)工具端側(cè)的有效結(jié)合就成為比較關(guān)鍵的一環(huán)。這里的端側(cè)主要包括了移動(dòng)手機(jī),PC,以及各類用戶側(cè)輔助設(shè)備。而英特爾公司,需要解決智能體如何和PC端側(cè)進(jìn)行有效地結(jié)合的問(wèn)題。
英特爾公司一直是PC行業(yè)的技術(shù)領(lǐng)導(dǎo)者。2023年,英特爾為適應(yīng)AI時(shí)代進(jìn)步,再次引領(lǐng)PC行業(yè)變革,定義并發(fā)布了第一代AI PC。AI PC搭載英特爾全新一代酷睿 Ultra處理器,擁有CPU,GPU和NPU三種異構(gòu)計(jì)算單元,從高吞吐量計(jì)算到低功耗運(yùn)行,從快速響應(yīng)需求到為電池續(xù)航優(yōu)化的負(fù)載卸載,全方位滿足 AI 工作負(fù)載需求。無(wú)論是處理復(fù)雜的深度學(xué)習(xí)任務(wù),還是維持低延遲的交互體驗(yàn),英特爾 AI PC 都表現(xiàn)卓越,成為智能體在 PC 端的理想載體。
除了不斷提升PC的AI基礎(chǔ)算力,英特爾公司也持續(xù)大力布局端側(cè)AI軟件生態(tài)。目前英特爾AI PC已經(jīng)擁有完善的AI工具鏈支持,除了英特爾平臺(tái)專屬并高度優(yōu)化的工具 OpenVINO,還和微軟以及開(kāi)源AI生態(tài)一起合作,針對(duì)英特爾AI PC 進(jìn)行適配和優(yōu)化?;谶@些靈活的工具鏈,英特爾構(gòu)建出豐富的應(yīng)用場(chǎng)景,幫助智能體將其能力輕松擴(kuò)展到PC端側(cè)。在英特爾新一代AI PC上,運(yùn)行7B大語(yǔ)言模型僅有0.9秒首字時(shí)延,同時(shí)達(dá)到22token每秒的吐字速度;同時(shí)2.8B的多模態(tài)大模型,基于圖片的理解問(wèn)答也能實(shí)現(xiàn)“毫秒級(jí)”的首字時(shí)延。如果智能體按需將這些AI計(jì)算放在端側(cè),不僅可以降低成本,還可以排除和云端通信的網(wǎng)絡(luò)干擾,達(dá)到更低的時(shí)延。
扣子 Coze 則以靈活的工作流設(shè)計(jì)和無(wú)限拓展的能力集獨(dú)樹(shù)一幟。其平臺(tái)能依據(jù)不同場(chǎng)景迅速構(gòu)建智能體應(yīng)用框架,高效整合各類 AI 技術(shù)與工具,為開(kāi)發(fā)者提供豐富多樣的功能模塊,大幅降低開(kāi)發(fā)門(mén)檻與成本,加速開(kāi)發(fā)進(jìn)程。
雙方合作在應(yīng)用場(chǎng)景構(gòu)建上成果斐然。個(gè)人生活助手實(shí)現(xiàn)影視體育實(shí)時(shí)視頻智能問(wèn)答、關(guān)鍵畫(huà)面精準(zhǔn)識(shí)別、多模態(tài)情緒氛圍感知;智能工作助手達(dá)成文檔智能處理與專業(yè)寫(xiě)作、本地隱私數(shù)據(jù)庫(kù)表單智能填寫(xiě)。這些應(yīng)用背后,是英特爾實(shí)時(shí) AI 隱私計(jì)算與扣子 Agent 開(kāi)發(fā)者平臺(tái)深度融合的支撐,在保障隱私前提下優(yōu)化交互體驗(yàn)、提升效率,重塑 AI 助手標(biāo)準(zhǔn)。
隨著Coze-AIPC端云協(xié)同智能體開(kāi)發(fā)平臺(tái)的發(fā)布,英特爾與扣子Coze為開(kāi)發(fā)者提供了強(qiáng)大的工具,以創(chuàng)造更加智能、高效且個(gè)性化的應(yīng)用體驗(yàn)。未來(lái),期待更多基于這一平臺(tái)的智能體應(yīng)用涌現(xiàn),共同推動(dòng)AI技術(shù)在端側(cè)的廣泛應(yīng)用,探索智能體的無(wú)限潛能。
相關(guān)文章
隨便看看