文丨劉俊宏

編丨王一粟

大模型重塑一切的風，吹到了手機行業(yè)。

在見識了大模型重塑IT基礎設施、營銷、辦公、自動駕駛等行業(yè)后，深陷于手機行業(yè)銷量和技術雙周期“低谷”的手機廠商們，急迫且高調地涌入大模型+手機的賽道。

走在前面的是華為和小米。今年8月，華為和小米先后宣布自家手機助手接入大模型。一時間，手機助手也擁有了類似ChatGPT一般的深度對話、自然語言理解以及編程能力。

然而，這樣依賴云端的大模型部署方式，在使用上需要用戶等待太久，并且消耗大量帶寬和算力資源，對話也經常不流暢。

于是，在手機端部署大模型，形成端云協(xié)同的大模型的方案，成了所有手機廠商們的一致選擇。

為了把大模型塞進手機，OPPO、vivo、小米紛紛先后推出手機端十億參數級別的“輕量版大模型”。芯片廠商聯(lián)發(fā)科和高通也根據大模型的需求推出了更適合AI計算的手機SoC（系統(tǒng)級芯片）。

在11月即將到來的OPPO和vivo開發(fā)者大會后，“華米OV”們將再次在手機大模型上齊聚一堂。

如今，如何用好大模型的能力，雖然手機廠商還在初級階段，但已經在許多方向上有了共識，比如：如何壓縮模型、如何云和端協(xié)同、如何在底層打通大模型和系統(tǒng)、應用的能力等。

在硬件進化多年之后，手機也再次走到了軟件定義手機的新節(jié)點，這更考驗手機廠商的研發(fā)實力。也正因為如此，最近手機廠商也紛紛發(fā)布和升級自己的自研操作系統(tǒng)，以求在軟件體驗上勝出一籌。

可以預見，一波大模型?手機的新賣點就在路上，而隨著大模型對算力要求的提升，能否拉動起一波新的換機潮，把手機廠商們從寒冬中拉出來？

聚焦大模型

“華米OV”的新戰(zhàn)場

中國的手機廠商們喜歡“抱團作戰(zhàn)”，在進軍大模型上也不例外。

“華米OV”各就各位后，大模型在手機上的落地到底怎么樣？即將進入到“實踐檢驗真理”的時刻。

首先是近在眼前的vivo開發(fā)者大會。早在九月，vivo 執(zhí)行副總裁、首席運營官胡柏山就宣布即將發(fā)布自研大模型，并且會和新機一起跟大家見面。

不過，可能是“新聞太大，憋不住”，才一個月過去，vivo副總裁、全球AI研究院院長周圍，開始在微博上不斷“劇透”即將推出的大模型的信息和能力。

其中，即將發(fā)布的vivoLM（vivo大模型）一共分為5個版本，按照參數量又分成十億（1B/7B）、百億（66B）和千億（130B/175B）三個級別。其中，7B的版本是vivoLM 將對外開放的版本。

在具體的能力上，大模型是很好的文本生成助理，同時也是很好的知識獲取入口。周圍認為，“文本生成助理，除了普通的生文、總結、擴寫，它甚至能幫你寫SWOT分析。同時它也是很好的知識獲取入口，只要問對問題，它就可以用人人都能聽懂的語句解釋很多專業(yè)領域的知識，比你在搜索引擎里淘金要高效的多，真正的‘旦用難回’。”

按照這個描述，大模型當下與手機的結合可能更接近一個智慧助手的形象。

10月11日，OPPO宣布基于AndesGPT大模型打造的新版AI助手——新小布1.0開啟了第一輪公測。

OPPO對手機大模型的應用展望，也是助理形象。“今天AIGC真的像一個人在跟你對話，這是最超出想象的一個體驗。所以，未來的手機一定是你的超級助理。”在關于AIGC和大模型技術的顛覆性上，OPPO高級副總裁、首席產品官劉作虎在近日的采訪中表示。

比起“OV”在11月的“趕場”，華為和小米已經在各自的手機助手上開始了應用。

8月4日，在華為開發(fā)者大會上，華為常務董事、終端BG CEO、智能汽車解決方案BU CEO余承東宣布推出大模型加持的全新小藝，更新的功能還是主要體現在智慧交互，能夠完成自然語言理解的設備控制、文案內容輔助、圖片二次創(chuàng)作等功能。

在小米這邊，8月14日小米開啟了小愛大模型的邀請測試，覆蓋大量手機機型和部分智能音箱。升級版的小愛具有理解上下文、更高質量的問答、生成式內容輸出等能力，基本上相當于把文心一言、訊飛星火這種大模型App的能力直接嵌入到了手機中。但與App不同的是，這種嵌入會更加底層，交互也更多種多樣。

大模型如何裝進手機里？

把大模型裝進手機，猶如把大象裝進冰箱，有三步。

首先，手機行業(yè)雖然在大模型應用的具體架構和路徑上看法不同，但“云端+終端”的協(xié)同設計思路已經達成了共識。

在數據中心，大模型動輒幾百億、上千億的參數，訓練時對應上萬張GPU的硬件需求，完整的大模型根本不可能塞進手機“消費級”的硬件里面。

而純云端的方案下，用戶在等待網絡通信的時間、云計算傳輸時間、判斷反饋時間的疊加下，等待時間太長，體驗非常差。光是結合大模型的輸入法推薦詞的耗時都要長達兩秒，根本沒法用在實時聊天場景中，更別提在地庫、電梯、老辦公樓這些信號較弱的地點了。

再加上，想提供更多的智能輔助，勢必也會接觸到更多用戶信息。這些信息全上傳云端，那么隱私等信息安全也無法保證，而就算信息安全能夠支持，這些信息全部上傳云端，當前存量龐大的智能硬件所產生的天量數據，將對本就GPU硬件吃緊的廠商們帶來進一步的網絡帶寬、存儲等各方面硬件上的壓力。

正如高通高級副總裁Alex Katouzian所言，“隨著連接設備和數據流量加速增長，疊加數據中心成本攀升，（我們）不可能將所有內容都發(fā)送到云端。”

如此一來，要想讓移動終端（手機）擁有大模型的能力，就勢必要在端側安排端側大模型來“接應”。

云端和終端的分層，是端云協(xié)同的第一步。

“模型訓練需要巨大的算力，一定都會在云端進行。而手機端的應用，其實是推理。在推理的時候，模型可以只激活一部分的模塊、一部分的神經元來計算，”小米技術委員會 AI 實驗室大模型團隊負責人欒劍表示。

另外，云端和端側的大模型具體的應用場景也有所不同。

例如在手機上可以執(zhí)行一些簡單的任務，比如寫作、建議、文生圖等。另一些涉及到復雜的知識體系和實時性的信息，不太適合數據采集和學習的，例如訂票、訂酒店等操作，可以調動云端的能力。

接下來，是改造手機SoC，在原本的硬件平臺基礎上添加適合大模型的GPU、NPU（神經網絡處理器）、APU（加速處理器）等硬件。

在新款旗艦芯片上，針對大模型的搭載，高通和聯(lián)發(fā)科都有相對應的升級。例如在10月25日新鮮出爐的驍龍8Gen3上，NPU性能提升98%，并且還給了兩個低功耗的NPU單元。令人驚喜的是，驍龍8Gen3支持100 億參數的模型。這意味著，當前高通的新硬件裝下手機廠商們的大模型綽綽有余。

另一邊，與vivo和OPPO深度合作的聯(lián)發(fā)科，在其即將推出的天璣9300芯片上也集成了新的AI處理器。

不過，硬件上的升級還遠遠不夠。要想把大模型“塞進”巴掌大的手機里，還需要對大模型“瘦身”。

在參數層面，手機廠商們普遍選擇十億級別的大模型落地。例如小米的13億、vivo的10億和70億、OPPO的70億等。參數量的減小，有效降低了大模型在側端占用的存儲空間，避免了千億級的大模型，光是參數就要占據幾百G存儲空間的尷尬。

在參數精簡后，廠商們還需進一步調整模型，來讓小參數同樣能得出大參數的結果。

以華為的全新小藝為例，小藝是在華為盤古大模型的基礎上，針對終端消費者場景構建并精調的對話模型。在調整中，小藝重點學習了終端消費者可能產生的數據，如對話、設備操作，購物、吃穿用度等生活常識。在針對學習讓大模型“專精”后，華為在prompt（提示詞）和輸出格式做了逐字分析和壓縮，最終實現推理時延減半。

另一邊，當前的量化技術也在推動大模型變小。例如將模型從 FP32 縮小到 INT8。所謂 FP32，是一種單精度浮點數，可以表述小數點后 7 位，相當精確，但是運算開銷較大。INT8 就是 8 位整數，只占用 1 個字節(jié)，運算開銷較小。這個過程，可以理解為把原本精細的計算部分模糊化，量化操作讓端側的大模型無需達到云端的“盡善盡美”，也能給出合理的答案。

端云協(xié)同、硬件升級、大模型壓縮，經過這三步，大模型基本就可以合格的裝進手機中。

但實際上，大模型真正跟系統(tǒng)和應用結合才剛剛開始，一個軟件驅動行業(yè)的新周期漸露曙光。

抓住大模型，抓住

下一輪手機銷量排位賽

大模型進入手機，來自手機軟件能力的升級，變得前所未有的重要。

參考vivo大模型負責人周圍在微博的“劇透”。在大模型的用處中，vivo分為自然語言處理、圖像處理、推薦系統(tǒng)、人工智能安全、自動化決策和模型訓練優(yōu)化五個大類。

對于手機廠商布局端側大模型的動作，欒劍表示：“首先我覺得從手機廠商來說，一定會探索這種可能性。如果不探索的話，未來有可能在這個領域落后”。

而在用戶側的感知上，以生成圖像、圖像識別的圖像處理和商品推薦、音樂推薦的推薦系統(tǒng)為例，大模型的加入，將給智能手機帶來智能化的新高度。

前者可以對應當前手機的AI優(yōu)化攝影功能。區(qū)別于之前妙鴨相機這種小程序，大模型接入后的攝影將不再局限自動P圖、建議拍攝位置等功能，可以實現自然語言調整圖片內容，甚至還能建議你，自拍擺什么姿勢最好看。

而后者推薦系統(tǒng)將有望打破音樂、購物、出行、餐飲、長短視頻等一系列APP的“封閉”壁壘，實現不需要打開對應APP就全方位接收推薦算法。

這樣一來，大模型或許將改變APP的“勢力割據”，重塑應用軟件的生態(tài)也不是沒有可能。

更為關鍵的是，大模型將會和手機廠商自研的操作系統(tǒng)深度結合，提供系統(tǒng)級的體驗。

而手機軟件體驗上的差異，將解決當下手機廠商“硬件大同小異，只能外觀找不同”的同質化問題。

消費者挑選更智能的手機，將不需要看評測、對比拍攝樣張、看跑分、看溫度表現等等產品之間的細微差別。大模型的PK，手機產品將直接表現為“智力水平”的高低，這也正是為何手機廠商們當前開始熱衷大模型“打榜”的原因之一。

從AI 定義汽車，到AI定義手機、PC，大模型的注入將在一定程度上重塑手機市場的銷量格局。

當前手機廠商們“下餃子”式的入局大模型，還只是個開始，后續(xù)應用落地、模型迭代、優(yōu)化體驗等環(huán)節(jié)，眼見著將成為手機行業(yè)玩家們的新一輪“無限游戲”。

而來自軟件層面“看得見，摸得著”的智能化體驗，也將對過去手機發(fā)布會關于“攝像頭如何來之不易”、“性能參數又贏蘋果”、“手機殼材質太極限了”這些內容的大侃特侃，注入全新的內容活力。

更重要的是，大模型倒逼手機算力的提升，也將帶來一波換機潮。

過去，因硬件配置過剩，出現了一臺手機用5年的“手機釘子戶”，大模型的升級體驗或許將給其一個無法拒絕的換機理由，從而為手機行業(yè)帶來銷售層面的增長。

       原文標題 : “華米OV”的新戰(zhàn)場：手機大模型