苹果公司人工智能突破:小内存设备上的大语言模型

   发布时间:2023-12-22 11:42

【巨人财经】12月22日消息,近日,苹果公司发布了两篇研究论文,揭示了该公司在人工智能领域取得的重大突破。这些研究成果有望为iPhone、iPad等内存有限设备上的复杂AI系统带来流畅的运行体验。

其中一篇论文介绍了一项高效的语言模型推理新技术,该技术有望让大型语言模型(LLM)在资源受限的设备上运行更加高效。大型语言模型,如GPT-4,包含前千亿个参数,如果直接在普通消费设备上运行,推理成本将异常昂贵。苹果的研究人员通过采用一系列方法,最大限度地减少了从闪存到内存的数据传输,从而将推理延迟提高了4-5倍。在GPU上,加速效果更是达到了20-25倍。这一技术突破对于在资源有限的环境中部署先进的LLM尤为重要,极大地提高了其适用性和可用性。

据巨人财经了解,苹果用户将从中受益匪浅,因为这些优化有望使复杂的人工智能助手和聊天机器人能够在iPhone、iPad以及其他移动设备上更加流畅地运行。此前,天风国际证券分析师郭明錤发布的最新报告中也提到,iPhone 16将引入与人工智能相关的创新功能。苹果在今年第三季度进行了Siri团队的改组,旨在整合AIGC功能和大型语言模型(LLM)。这意味着在手机上,语音输入将成为AI、AIGC和LLM的关键界面,因此加强Siri的软件功能将成为推广AI功能的关键步骤。郭明錤的研究还显示,所有iPhone 16机型将显著升级麦克风规格,不仅提供更好的防水性能,还提高了信噪比,以提升Siri的使用体验。这一系列的举措将使苹果的AI技术在移动设备上取得更大突破。

 
 
更多>同类内容
全站最新
热门内容
本栏最新
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群