發(fā)布時(shí)間:2024-12-28 17:54:59 來(lái)源:下愚不移網(wǎng) 作者:綜合
12月27日消息,科端聯(lián)發(fā)科官方宣布,新小語(yǔ)型聯(lián)發(fā)科天璣系列移動(dòng)平臺(tái)現(xiàn)已針對(duì)微軟最新推出的突破天璣Phi-3.5小語(yǔ)言模型(SLM)進(jìn)行了專門適配與優(yōu)化。
該優(yōu)化目前已經(jīng)落地天璣9400、全面天璣9300兩款旗艦芯片,優(yōu)化言模以及天璣8300次旗艦芯片,微軟而包括天璣8400在內(nèi)的科端未來(lái)的生成式AI技術(shù)芯片也都會(huì)支持。
開(kāi)發(fā)人員可以通過(guò)微軟Azure AI模型目錄,新小語(yǔ)型以及聯(lián)發(fā)科的突破天璣NeuroPilot SDK開(kāi)發(fā)工具包,使用微軟Phi-3.5進(jìn)行相關(guān)開(kāi)發(fā),全面尤其是優(yōu)化言模在內(nèi)置NPU AI引擎的聯(lián)發(fā)科平臺(tái)上進(jìn)行和優(yōu)化生成式AI推理。
所謂小語(yǔ)言模型,微軟就是科端相對(duì)于大語(yǔ)言模型(LLM)而言,最大區(qū)別就是新小語(yǔ)型參數(shù)量更少,從數(shù)千億甚至數(shù)萬(wàn)億參數(shù),突破天璣通常會(huì)減少到幾百萬(wàn)至幾十億,從而大幅降低了模型體積與復(fù)雜度,運(yùn)行效率更高,獲取更容易,還可以優(yōu)化定制。
因此,小語(yǔ)言模型非常適合智能手機(jī)這樣處理器、內(nèi)存等硬件資源相對(duì)有限的設(shè)備。
隨著生成式AI尤其是端側(cè)AI的快速發(fā)展和廣泛應(yīng)用,AI正在全面革新現(xiàn)代人的生活、娛樂(lè)、工作方式。
事實(shí)上,在生成式AI浪潮來(lái)臨之前,聯(lián)發(fā)科就已經(jīng)深耕端側(cè)AI生態(tài)的推進(jìn),天璣移動(dòng)平臺(tái)每一代都在演進(jìn)NPU AI硬件引擎,始終保持旗艦級(jí)性能,蘇黎世AI Benchmark測(cè)試中幾乎一直都是AI性能冠軍。
強(qiáng)大的端側(cè)AI性能,疊加聯(lián)發(fā)科在生態(tài)開(kāi)發(fā)方面的持續(xù)投入,為天璣平臺(tái)智能手機(jī)的AI智能化體驗(yàn)打下了強(qiáng)大軟硬件基礎(chǔ)。
為了加速端側(cè)AI應(yīng)用落地、普及,聯(lián)發(fā)科還打造了全新的“天璣AI智能體化引擎”,通過(guò)強(qiáng)大的端側(cè)AI性能,將傳統(tǒng)應(yīng)用轉(zhuǎn)化為更加智能化的AI應(yīng)用,已經(jīng)與多款知名應(yīng)用達(dá)成深度合作,讓年輕人的各方面生活都更智慧、更好玩。
未來(lái),聯(lián)發(fā)科也會(huì)持續(xù)推動(dòng)端側(cè)AI的深入發(fā)展,帶來(lái)更加豐富的端側(cè)AI應(yīng)用。
相關(guān)文章
隨便看看