一、端侧 AI 正在密集发布

过去 72 小时的端侧 AI 动态:

时间 事件
7月10日 PrismML 将阿里 270 亿模型压进 iPhone
7月12日 阶跃星辰发布 Step Edge 端侧模型全家桶
7月17日 WAIC 全球首款 AI 智能体手机首发

端侧 AI 不是概念了,是产品。

二、Step Edge 全家桶

模型 功能 典型场景
Step Edge Base 通用对话和推理 离线助手、本地问答
Step Edge Audio 语音识别和合成 车载语音、会议记录
Step Edge GUI 屏幕理解和操作 自动操作 APP、无障碍
Step Edge Gen 本地图片生成 相册编辑、表情生成

核心指标

指标 数值
本地响应速度 0.1 秒
隐私模式 全模态本地处理,数据不出设备
端云协同 简单任务本地、复杂任务云端、自动切换
部署平台 手机、汽车、IoT 设备

三、为什么端侧 AI 现在爆发?

三个条件同时满足了:

1. 模型压缩突破了临界点

2024: 7B 模型需要 14GB → 手机跑不动
2025: 4-bit 量化 7B 需要 4.7GB → 旗舰机能跑
2026: 270亿模型压到 4GB → 中端机也能跑

2. 手机芯片 AI 算力够了

iPhone 17 Pro 的 Neural Engine 达到 45 TOPS,高通骁龙 8 Gen 5 达到 50 TOPS——相当于一张入门级 GPU 的算力。

3. 隐私需求越来越强

AI 拟人化监管新规 7 月 15 日施行。端侧处理天然合规——数据不出设备,监管无从管起。

四、端侧 AI 的应用场景

场景 为什么需要端侧 代表产品
车载语音 隧道/地库无网络 Step Edge Audio
手机助手 延迟 str:
if self.estimate_tokens(task) 如果觉得有用,欢迎 点赞 + 收藏 + 关注。7月17日WAIC全球首款AI手机首发,我会第一时间解读。

🔜 下一篇:GPT-5.6 Sol Ultra 一小时证明 50 年数学猜想技术拆解