AIGC與終端側(cè)設(shè)備相結(jié)合，可以更加有效地突出用戶使用個(gè)性、降低運(yùn)行成本、加快響應(yīng)速度，對(duì)于生成式AI的商業(yè)落地有著重要促進(jìn)作用。近來，聯(lián)想、小米等智能終端廠商紛紛加大了針對(duì)邊緣AI領(lǐng)域的開發(fā)力度，生成式AI浪潮正在從云端向邊緣與終端側(cè)延伸。

AI PC規(guī)模出貨元年即將到來

10月24日，聯(lián)想舉辦第九屆聯(lián)想創(chuàng)新科技大會(huì)，除了宣布與微軟、NVIDIA、英特爾、AMD、高通等企業(yè)在智能設(shè)備、基礎(chǔ)設(shè)施和解決方案領(lǐng)域持續(xù)深化合作之外，還展示了旗下首款A(yù)I PC（人工智能電腦）。據(jù)了解，這種本地運(yùn)行的小型化AI模型，可以幫助用戶實(shí)現(xiàn)修圖、智能剪輯、撰寫文檔等功能，甚至根據(jù)用戶思維模式發(fā)現(xiàn)發(fā)任務(wù)并自主解決。

對(duì)此，聯(lián)想提出，除“公共大模型”外，人們還應(yīng)發(fā)展企業(yè)端的“企業(yè)級(jí)私域大模型”和用戶端的“個(gè)人大模型”，以解決“公共大模型”存在的數(shù)據(jù)安全和隱私泄露風(fēng)險(xiǎn)、難以個(gè)性化定制、通用訓(xùn)練推理成本高等問題。其中，個(gè)人大模型對(duì)應(yīng)AI PC等邊緣AI產(chǎn)品，通過裁剪和量化等方式，刪減通用大模型中與個(gè)人使用無關(guān)的結(jié)構(gòu)，實(shí)現(xiàn)把高性能的小模型融入終端設(shè)備，讓每個(gè)用戶擁有自己的個(gè)性化大模型。聯(lián)想CEO楊元慶表示，考慮到企業(yè)保護(hù)商業(yè)機(jī)密的需求，本地部署的未來企業(yè)級(jí)大模型將與公有云部署的公共大模型呈現(xiàn)混合部署的形態(tài)。

手機(jī)廠商向邊緣AI延伸的力度也很大。小米日前宣布獲得高通驍龍8 Gen 3首發(fā)權(quán)，搭載驍龍8 Gen 3處理器的小米14將大幅提升在本地支持大模型的能力。同時(shí)，小米也將AI大模型植入澎湃系統(tǒng)，支持AI妙畫、AI搜圖、AI寫真、AI擴(kuò)圖等功能，進(jìn)一步提升用戶的使用體驗(yàn)。而在11月1日舉行的2023 vivo開發(fā)者大會(huì)上，vivo發(fā)布自研藍(lán)心大模型，包括十億、百億、千億三個(gè)參數(shù)量級(jí)共5款產(chǎn)品，全面覆蓋核心場(chǎng)景。而此前，華為、OPPO、榮耀等頭部手機(jī)廠商也都在積極布局大模型的開發(fā)。

手機(jī)、PC甚至汽車等終端設(shè)備之上越來越多地開始嵌入AI模型，已經(jīng)成為一個(gè)發(fā)展的大趨勢(shì)。群智咨詢預(yù)測(cè)，2024年伴隨著AI CPU 與Windows 12的發(fā)布，將成為AI PC規(guī)模性出貨的元年。而打造“輕量化”，適用于“端側(cè)”的AI模型也成為手機(jī)廠商當(dāng)前發(fā)展的重點(diǎn)。

加速AI模型商用落地

AI模型融入終端設(shè)備固然有利于改善用戶體驗(yàn)，提振消費(fèi)電子市場(chǎng)，但是其對(duì)促進(jìn)AI模型的應(yīng)用落地意義可能更大。小米AI實(shí)現(xiàn)室大模型團(tuán)隊(duì)負(fù)責(zé)人欒劍介紹，之所以AI大模型能夠受到人們持續(xù)廣泛的關(guān)注，是因?yàn)樗行苿?dòng)了人們?cè)谛畔?nèi)容上的大規(guī)模生產(chǎn)。而這又得益于人們通過大數(shù)據(jù)、大任務(wù)、大參數(shù)上對(duì)AI模型的訓(xùn)練。下一步如何實(shí)現(xiàn)大模型的輕量化，使AI模型也能在終端設(shè)備上有效運(yùn)行，將成為人們開發(fā)的重點(diǎn)。

實(shí)際上，生成式AI同智能終端結(jié)合，具備許多優(yōu)勢(shì)：一是個(gè)人信息無需上傳云端，可以降低隱私泄露和數(shù)據(jù)安全風(fēng)險(xiǎn)；二是AI模型接入本地?cái)?shù)據(jù)庫(kù)和個(gè)人信息，有望實(shí)現(xiàn)通用基礎(chǔ)AI大模型向個(gè)性化定制小模型轉(zhuǎn)變，提供更適合的用戶服務(wù)；三是通過壓縮AI大模型和終端軟硬件適配，邊緣AI可能降低運(yùn)行成本、加快響應(yīng)速度和提高服務(wù)效率。

以往人們?cè)谑褂肁I設(shè)備時(shí)經(jīng)常會(huì)詬病其不夠智能——“我都使用快大半年了，可我每次用完關(guān)閉，再重新啟動(dòng)，它就好像是一個(gè)新朋友，對(duì)于上次的互動(dòng)完全沒有記憶。”這其實(shí)正是云端大模型的一種通病。因?yàn)樗惶赡転槊恳晃挥脩舸鎯?chǔ)大量信息。在云端存儲(chǔ)大量用戶信息，并且動(dòng)態(tài)加載這些信息，在功能上是一個(gè)巨大挑戰(zhàn)。但是，把這項(xiàng)工作下放到端側(cè)就會(huì)變得相對(duì)簡(jiǎn)單。

也就是說，生成式AI由云端延伸至邊緣側(cè)，使AI技術(shù)與PC、手機(jī)等終端硬件設(shè)備緊密結(jié)合，將成為AI大模型應(yīng)用落地，商業(yè)化發(fā)展的大趨勢(shì)。它可以改善或者解決AI發(fā)展中面臨的個(gè)性化定制、安全和隱私風(fēng)險(xiǎn)、算力成本高昂、性能表現(xiàn)不及預(yù)期、交互能力弱等阻礙，加速AI模型的商業(yè)化應(yīng)用進(jìn)程。

終端芯片：CPU+GPU+NPU集成化

AI大模型輕量化、本地化過程也離不開芯片技術(shù)的支撐。實(shí)際上，高通、英特爾、英偉達(dá)、AMD等近來都在紛紛加碼推出針對(duì)性的產(chǎn)品。驍龍X Elite作為高通首款推出的“驍龍X系列平臺(tái)”PC處理器，集成專用神經(jīng)處理單元（NPU），可支持百億參數(shù)級(jí)大型語(yǔ)言模型。驍龍8 Gen 3平臺(tái)將支持軟、Meta、OpenAI、百度等20種以上AI大模型使用。英特爾最新Meteor Lake處理器，首次在PC處理器中內(nèi)置NPU，并將NPU與處理器內(nèi)計(jì)算引擎的AI功能結(jié)合，提升PC運(yùn)行AI功能的能效。英偉達(dá)和AMD也計(jì)劃2025年推出Arm架構(gòu)的PC芯片，進(jìn)軍邊緣端AI。

高通技術(shù)公司高級(jí)副總裁兼計(jì)算與游戲業(yè)務(wù)總經(jīng)理Kedar Kondap強(qiáng)調(diào)大模型本地化的優(yōu)勢(shì)。“隨著時(shí)間推移，PC將會(huì)變得高度智能化，和用戶之間建立起情感紐帶，PC會(huì)主動(dòng)理解用戶的想法，并在滿足需求的同時(shí)對(duì)用戶隱私提供足夠保護(hù)。而且PC將具有即時(shí)性，能夠立即回答用戶的問題，提供想要的答案。如果這些需求都要傳達(dá)到云端去解決，會(huì)增加很多復(fù)雜性，在類似用例中，終端側(cè)AI處理具備更多優(yōu)勢(shì)。”

而為了滿足大模型從云端向邊緣與終端延伸所需要的更大也更加復(fù)雜的AI算力，CPU+GPU+NPU的集成化將成為處理器未來發(fā)展的方向。這又使得Chiplet技術(shù)受到更高度重視。在談到這一趨勢(shì)時(shí)，中興微高速互聯(lián)總工程師吳楓表示，一方面，通過Die to Die互聯(lián)和Fabric互聯(lián)網(wǎng)絡(luò)，能夠?qū)⒏嗨懔卧呙芏取⒏咝省⒌凸牡剡B接在一起，從而實(shí)現(xiàn)超大規(guī)模計(jì)算。另一方面，通過將CPU、GPU、NPU高速連接在同一個(gè)系統(tǒng)中，實(shí)現(xiàn)芯片級(jí)異構(gòu)，可以極大提高異構(gòu)核之間的傳輸速率，降低數(shù)據(jù)訪問功耗，提高數(shù)據(jù)的處理速度，降低存儲(chǔ)訪問功耗，滿足大模型的參數(shù)需求。

原粒半導(dǎo)體聯(lián)合創(chuàng)始人原鋼則強(qiáng)調(diào)了Chiplet如何滿足當(dāng)下算力需求的技術(shù)發(fā)展方向。“針對(duì)邊緣側(cè)單任務(wù)的大模型場(chǎng)景，可以把模型切分到不同Chiplet進(jìn)行并行計(jì)算，通過在預(yù)訓(xùn)練模型的基礎(chǔ)上進(jìn)行額外訓(xùn)練，使其適應(yīng)特定任務(wù)。大模型的邊緣端微調(diào)，可使用本地存儲(chǔ)的私有數(shù)據(jù)，或者本地新采集的數(shù)據(jù)。“SoC主控+AI Chiplet”組合可有效復(fù)用芯片主控，顯著降低成本，快速滿足各類規(guī)格需求。這將是未來該領(lǐng)域的重要發(fā)展方向。”