文|柳書琪
編輯|謝麗容
2023年,一場大模型風暴席卷全球科技行業,百川智能、智譜AI、Minimax等一批明星創業公司和百度、阿裡、騰訊等互聯網大廠相繼佈局。到瞭2024年,風暴不減反而擴大化。智能硬件廠商如OPPO、榮耀等接連入局,大模型,被認為是智能終端的下一個制勝賽點。
“會不遺餘力地投入。”OPPO首席產品官劉作虎近期在接受《財經》采訪時表示,AI是OPPO未來科技的演進中最重要的方向。但他強調,這並非是OPPO的獨門秘籍,任何一傢手機廠商都是如此。
“今年不做大模型的手機廠商一定沒戲。”劉作虎判斷。
1月8日,OPPO發佈瞭全球首款落地70億參數端側大模型的手機Find X7系列,應用OPPO自研的安第斯大模型AndesGPT,以端雲結合的方式實現瞭AIGC圖片消除、通話語音摘要,以及在語音助手“小佈”上實現的如文生文、圖生圖、文章摘要等功能。
值得關註的是,手機首次搭載瞭大模型,售價卻低於前一代產品,Find X7標準版3999元起,較Find X6起售價下降500元。手機行業的價格競爭愈發白熱化。
據瞭解,OPPO接下來會在中端產品線Reno系列落地大模型。
手機行業等待一個劃時代的革新已久。近三年來雖然手機廠商層出不窮地推出一代又一代新手機,但多是漸進式創新和改善式創新,距離蘋果開創的由功能手機向智能手機迭代的劃時代革命已經13年有餘,目前尚未出現新革命。
大模型手機會是一場新革命嗎?
大模型手機意味著手機有可能從智能機朝著“智慧機”的方向演進,逐漸形成的智慧體(AI Agent)甚至很有可能顛覆目前的手機軟件操作邏輯,成為所有功能的集成化入口。用戶不用點擊一個個孤立的App獲得服務,而是可以得到基於使用場景推薦的個性化服務。
據瞭解,多傢主流手機公司均已有明確的大模型手機落地策略,市場看好這次技術迭代——第三方研究機構IDC預計,2024年中國內地智能手機市場出貨量將達到2.87億臺,同比增長3.6%,實現2021年以來首次同比增長。
很難說市場復蘇的因素中,有多少來自大模型的助力,用戶的接納與大模型能力的提升還需要時間。但大模型對手機廠商而言依然是一劑興奮劑,圖景中潛藏著無盡的商業可能。
大模型如何塞進小手機?
在Find X7系列發佈會上,OPPO軟件產品經理朱海舟演示瞭大模型在手機上的應用。他的妻子隨手拍下的照片中常出現一些過路人或者一塊廣告牌,大模型的能力讓她隻需要簡單圈出物體,就能消除雜物,並自動做符合場景的填充。
當他和母親通話後,AI會將通話內容整理出要點和代辦事項。
當他問“世界上最遙遠的距離是什麼”時,前一代小佈(OPPO智能助手)的答案是“以下是我在網上找到的答案……”,現在,小佈會從幾何學、天文學、文學等不同角度回答這個問題。
這些能力被封包在OPPO大模型手機的小佈智能助手功能裡。
性感功能背後,是龐大復雜的計算能力和硬件參數。OPPO軟件創新中心總經理張峻告訴《財經》,雲時代,這些功能可以在雲端實現,雲端參數規模更大、算力更高,實現的精度、時延等體驗更好。但端側同樣不可替代,原因在於當用戶在弱網乃至離網環境下,依然可以實現這些功能。數據部署在端側,更能保障用戶的隱私安全。
進一步說,手機廠商重視將大模型能力封裝在手機本身而不是借助雲端大模型,最核心的原因是想讓手機更懂你。雲端大模型的“養料”是互聯網上龐大的數據庫,手機大模型則熟悉的是用戶的偏好和習慣。相較之下,後者自然更適合手機的主人。二者的區別在於,雲端大模型會推薦必吃榜上的餐廳,而手機大模型推薦的是離你不遠、更符合你飲食習慣的餐廳。
但雲端和本地不矛盾,二者相結合,效果更佳。OPPO自研的安第斯大模型AndesGPT既包括雲端也包括終端,Find X7采用的也是端雲協同的混合式架構。這套模型包括三個層次:1800億參數的深度推理、處理高度復雜任務的Titan模型,700億參數快速響應、多場景適配的Turbo模型,以及70億參數輕量高效的Tiny模型。
參數體量越大,智慧程度越高,對算力、帶寬、存儲的要求也會越高。因此前兩者部署在雲端,在聯網環境下涉及到開放問答、復雜邏輯推理和計算時,手機會調用這兩類大模型;Tiny模型則部署在終端。用戶可以自行選擇調用雲端或終端模型。
但即便已經是Tiny大模型,也無法直接用在手機上,其中牽涉到大量技術攻關難題,包括內存壓縮、性能功耗優化等。70億大模型的正常大小是28GB,直接在手機上運行是不可能的。
這個問題是必須解決的。OPPO的解決方案大致有兩個。
其一,是對模型進行高精度4bit量化、蒸餾、剪枝的壓縮處理,同時針對關鍵的應用場景做精調和預訓練,以盡可能保留精度、減少損耗,最後實際占用存儲和內存最小約3.9GB左右。
其二,OPPO自研瞭推理引擎AI Boost和Transformer加速庫,優化內存管理,使功耗降低一半。同時與芯片廠商合作,通過並行計算的算子優化,降低時延。OPPO的70億大模型能做到10-15分鐘的通話內容,大約有2000字,摘要首字響應能做到2.9秒,“屬於響應速度非常快的。”張峻說。
不過,一個前提是,手機廠商的大模型能力,一定程度上仍取決於與芯片廠商的配合程度。去年高通和聯發科分別發佈的驍龍8Gen3芯片和天璣9300芯片均首次強調瞭大模型在終端上的應用。
劉作虎說,雖然OPPO停止瞭自研芯片,但保留瞭核心架構師,這個團隊和過往的經驗仍有效力。“我們做過芯片,知道該怎麼部署、模型與算法如何和GPU、NPU適配,不是簡單往上面一丟就行瞭。”
技術爆發的關鍵節點
在外界看來,大模型的爆發是在一朝之間,但技術積累卻需伏脈千裡。手機廠商對AI研發已久,隻是在上一個階段,這些技術還是偏向於單個功能,如圖像的背景虛化、美顏、夜景處理等層面。
OPPO對新一代的大模型技術的探索其實可以追溯到2020年,當年,OPPO自研的一億、三億和十億參數量的預訓練模型OBERT。兩年後的OPPO INNO Day(未來科技大會)上,OPPO又演示過文生圖技術。
2022年底ChatGPT橫空出世,意味著大模型技術從水底下預研轉為產業落地,整個科技產業受到極大震動。OPPO安第斯大模型首席架構師楊振宇向《財經》回憶,當時OPPO內部還在觀望,分析這到底是一項屬於實驗室技術,還是能很快實現商業化的成熟技術。
到瞭2023年3月,大模型技術的研發在OPPO內部被提上重要日程。立項之初,劉作虎說,“AIGC專項團隊就是戰鬥單元。”戰鬥單元的說法有兩點內涵,一是堅定地投入,二是真正帶來好的體驗、提升產品競爭力。
到瞭今年1月5日,OPPO又將AIGC專項團隊改組為獨立的行政單元“AI中心”,將軟件工程、數智、研究院等部門AI相關的人員集中於此,小佈助手和ColorOS內AI相關的功能也都在AI中心完成。
如今各傢手機廠商都將大模型技術視為下一代的重要節點,傾力投入,研究重點是更高的效率,更好的體驗,比如,同樣70億參數部署終端大模型,看起來站在同一起跑線上,但究竟如何發揮大模型的價值,是比拼的關鍵。
楊振宇認為,技術層面上每傢手機廠商都很難構建獨特的壁壘,但如何將技術與場景做密切、深度的結合,高效運轉,再在用戶反饋的基礎上迭代,這會是OPPO的優勢。
劉作虎是產品經理出身,他認為,以用戶洞察的方式做產品,本身就是一種差異化競爭。以產品驅動技術,進而確定大模型如何訓練、用什麼算力,這才是手機廠商的核心競爭力。
OPPO選擇的三種大模型應用都是從用戶使用場景出發。
通話摘要是個很小的功能,但如果你接到工作電話身邊卻沒有筆記本時,這項功能就變得不可或缺。
圖片消除更是一些人的剛需場景,傳統的AI也能消除,但對背景的填充、物體邊緣細節的處理都很粗糙,而大模型的優化效果明顯。
小佈助手是最典型的從上一代AI進入這一代大模型的產品。2018年推出小佈助手時,OPPO使用的還是傳統的NLP(自然語言處理)算法,進而演變為預訓練和微調算法,再變成以大模型為主驅動的算法。過去積累的對話相關的數據,也成為瞭小佈助手面向對話交互的大模型重要的語料信息。
以前語音助手被使用最多的功能是調侃、閑聊或者設置鬧鐘、查詢天氣等。2023年8月,OPPO推出瞭小佈嘗鮮版,讓一部分用戶率先體驗瞭大模型能力。楊振宇透露,用戶和小佈的交互次數和留存情況,相較之前有翻倍的提升。
一切剛剛開始
大模型對手機產業的變革才剛剛開始。它不隻是軟件層面的技術創新,而將會從底層硬件到操作系統、服務形態和交互模式的巨大改變。
張峻總結,大模型將會帶來三點顯著的變化:一是交互體驗上,人與手機的交互不再是與機器的交互,手機會變得人格化,變成個人專屬助理;二是服務形態上,服務將趨於原生化,未來用戶得到的是在一個場景下的一系列服務,而不是來自某個特定App的服務;三是智慧化的想象空間變得非常大,手機變成瞭人的“外掛”,體驗更加智慧、高效。
軟硬件底層平臺的技術也將迎來極大的變革。芯片過去的演進方向隻有遊戲、影像、視頻等場景,而現在AI成為瞭巨大的驅動力,牽引著NPU、內存、帶寬的發展。操作系統也將全面迭代,更多AI原生應用會出現,手機廠商大模型與應用廠商的垂直大模型將逐漸連成一片,割裂的大模型將逐漸聚合、形成生態。
不隻是手機,大模型對整個智能終端產業都將帶來劇烈變革。這場風,吹得正盛。
近期,PC產業提出瞭“AI PC”的概念,第三方市場分析機構IDC預計,AI PC2024年會快速增長至55%,並在2027年將達到85%,AI終端在所有終端中的占比也將由今年的41%增至2027年的79%。
AI原生的新型硬件產品也在嶄露頭角,如AI Pin、Rabbit等。AI Pin像一枚別針,而Rabbit是一款僅掌心大小的機器,二者都像是實體的ChatGPT,以語言交互等方式調用AI服務,拋棄瞭原有的操作系統和App的模式。這些設備一經推出,就吸引瞭科技愛好者和投資者的關註。
近期密切關註新的硬件形態的某頭部手機廠商高管對《財經》表示,如果看目前,從效率、體驗、生態、安全性等方面來看,顛覆這一代智能手機的產品還沒有出現。但他相信,“顛覆手機的形態一定在質變路上,會在未來某一時刻把你拋棄。”
“我們內部經常開玩笑說,這是個瘋狂的時代,AIGC到來以後,每天醒來都有很多變化。”張峻說,不排除AI會帶來硬件設備迭代的更多可能,用戶必然需要隨身智能終端,不一定是手機,但一定需要解決交互、顯示、供電等問題。從這些關鍵器件等演進上,產業目前還沒有出現顛覆性的技術來改變手機的形態。
一切才剛剛開始,OPPO需要做的是修煉好自己的內功。
張峻透露,未來OPPO對大模型手機的技術演進方向有二,繼續攻關大模型端側化部署的性能更優、處理能力更強,以及用更通用、先進的架構解決端雲協同問題。
OPPO的技術底氣源自多年來的研發投入和專利佈局。OPPO數據顯示,OPPO目前擁有超過5萬件的授權專利,90%是含金量較高的發明專利,集中佈局在5G、AI等領域,已是中國第二、全球第六的專利儲備大廠。
接下來,OPPO的目標是打造一款真正的AI手機,由一個個小的應用場景起步,由點至面,逐漸提升手機的AI體驗、個性化助理服務和創造能力。大局已定,接下來考驗的是OPPO的戰術實力。
發表評論 取消回复