​端侧AI，大模型的新战场？

端侧AI，大模型的新战场？

出品 | 虎嗅科技组

头图 | 视觉中国

有种观点认为，如今的智能手机已经成为人类的外部器官。但一个容易被忽视的事实是，这个器官在过去 10 年几乎没有任何革命性的进步。

10 年前，全球智能手机市场出货量达到 10.042 亿部，同比暴涨 38.4%。盛极而衰，那一年也成为了智能手机行业最后的辉煌，自此之后，市场增长开始逐渐放缓，直到完全失去增量。

最后一次回光返照—— 5G 换机潮后的市场疲软，足以说明移动互联网的红利，其实早就被终端厂商和应用厂商消耗殆尽。

然而，有些事情正在这个行将就木的行业中悄然发生。

去年 10 月，高通发布全新骁龙 8Gen3 处理器，并重点强调了这枚芯片在 AI 方面上的能力：支持终端侧运行 100 亿参数的模型，面向 70 亿参数大语言模型每秒生成 20 个 token；用时不到一秒就可以在终端侧通过 Stable Diffusion 生成图片。

芯片厂商提供了基础能力，终端厂商也随即开启 " 你方唱罢我登场 " 的模式，在短短一个月内，几乎所有的手机厂商都宣布已经在端侧跑通了自研的大语言模型。

同一时期，更加 " 古老 " 的 PC 行业也没有闲下。年初，在英特尔酷睿 Ultra 处理器后，包括联想、华硕、惠普、戴尔在内的多家厂商，都拿出了自己的 "AIPC" 方案。

暂且不论 "AI 手机 "、"AIPC" 在功能实现上如何，一个需要被前置讨论的问题是：端侧 AI 存在的意义是什么？

目前最集中的观点是，端侧 AI 在效率和安全性上有着不可替代的优势。

安全性自然不必多说，在用户数据无需上传至云端的情况下，隐私安全的确能从根本上得到保障。在效率方面，PC 行业的领军企业联想主张在端侧混合使用 CPU、GPU 和 NPU，搭建异构计算架构，能够使计算效率达到最高。

而相较于联想的 " 大包大揽 "，也有体量稍小的手机厂商提出了更加前卫的方案。

魅族认为，手机厂商缺少做大模型的基因，一味地拼参数没有意义。他们更倾向于打造一个完全开放的平台，供大模型平台使用，包括但不局限于向开发者提供系统权限、API 文档，并开放处理器的 AI 算力，让开发者拥有充分的自由度，从而实现更多创新功能和应用服务的制作。

除以上的技术路径外，大模型在端侧还有哪些表现形式？目前端侧 AI 还有哪些前沿进展？未来端侧 AI 还有哪些商业机遇？

2024 年 1 月 27 日，虎嗅前沿科技组特邀行业技术专家与创业者，共同讨论端侧 AI 领域的商业实践、技术实践、创投机会、探索方向。

活动概况：

活动名称：2024 AI 内参会

活动时间：2024 年 3 月 31 日，14：00-17：00

活动地点：北京 · 虎嗅二层（万科时代中心 · 十里）

欢迎扫描海报中的二维码报名，我们一起讨论端侧 AI 的无限可能！