快科技12月22日消息,據VB報道,蘋果公司最近公佈的兩篇論文,展示瞭該公司在人工智能研究方面取得的重大進展。
其中,一項高效的語言模型推理新技術,有望讓復雜的AI系統在iPhone、iPad等小內存設備上流暢運行。
在一篇論文中,蘋果研究人員解決瞭在內存有限的設備上部署大語言模型(LLM)的一個關鍵挑戰。
大傢都知道,像GPT-4這樣的大模型包含前千億個參數,如果直接在消費類硬件上運行的話,推理成本會非常高昂。
據悉,蘋果的技術人員最大限度地減少瞭在推理過程中從閃存到內存的數據傳輸。一系列方法將推理延遲提高瞭4-5倍。在 GPU上,加速達到 20-25倍。
這一突破對於在資源有限的環境中部署先進的LLM尤為重要,極大提高瞭適用性和可及性。
對於蘋果用戶意味著,這些優化可能很快允許復雜的人工智能助手和聊天機器人在iPhone、iPad 和其他移動設備上流暢運行。
此前,天風國際證券分析師郭明錤最新發文稱,iPhone 16將會推出AI相關的創新功能。
據悉,蘋果在在今年第三季度改組瞭Siri團隊,目標在於整合AIGC功能和LLM (大語言模型)。
在手機上,語音輸入將是AI、AIGC、LLM (大語言模型)的關鍵界面,所以強化Siri的軟件功能是推廣AI功能的關鍵。
郭明錤的最新調查顯示,所有iPhone 16機型均將顯著升級麥克風規格,除瞭更好的防水之外,還有更好的信噪比,以此來提升Siri的使用體驗。
發表評論 取消回复