AI iPhone 或可行,苹果发表论文将 LLM 装进手机
来源: 巴比特496天前
据《科创板日报》12 月 21 日报道,苹果日前在 arxiv 发表论文,介绍了一种可以再超出可用 DRAM 容量的设备上运行 LLM(大语言模型)的方法。论文称,LLM 密集的计算量和内存要求对于 DRAM 容量来说是一大挑战,该论文构建了一个以闪存为基础的推理成本模型,将在两个关键领域进行优化:减少从闪存中传输的数据量、更多更流畅地读取数据块。这意味着,该项突破性研究扩大了 LLM 适用性和可及性,苹果将生成式 AI 集成到 iOS18 的计划或将加快推进。