【标题】苹果发布论文解决大模型在手机内存不足的问题 【核心内容】

• 苹果发布了一篇论文，介绍了一种利用闪存解决大模型在手机内存不足问题的方法。
• 论文提出了三个步骤：利用稀疏性将闪存参与模型运行、使用滑动窗口技术管理神经元数据、增加数据块大小来提高读取效率。
• 这种方法可以在内存受限设备上高效运行比设备DRAM容量大两倍的模型，并在CPU和GPU上提速4-5倍和20-25倍。
• 苹果还推出了MLX框架和Ferret模型，展示了对模型可实现性和空间计算的重视。
• 苹果也在研究与Siri相关的AI技术，提高大语言模型的准确性。

【评论内容】苹果果然不负众望，发布了一篇论文解决大模型在手机内存不足的问题。这个方法真是巧妙，就像曹冲称象一样，通过几个步骤来降低对大模型的访问延迟。而且苹果还推出了MLX框架和Ferret模型，展示了对模型可实现性和空间计算的重视。看来苹果在AI领域已经做了很多工作，2024年讨论AI时肯定不能忽视苹果啦！