一、端侧 AI 正在密集发布
过去 72 小时的端侧 AI 动态:
| 时间 | 事件 |
|---|---|
| 7月10日 | PrismML 将阿里 270 亿模型压进 iPhone |
| 7月12日 | 阶跃星辰发布 Step Edge 端侧模型全家桶 |
| 7月17日 | WAIC 全球首款 AI 智能体手机首发 |
端侧 AI 不是概念了,是产品。
二、Step Edge 全家桶
| 模型 | 功能 | 典型场景 |
|---|---|---|
| Step Edge Base | 通用对话和推理 | 离线助手、本地问答 |
| Step Edge Audio | 语音识别和合成 | 车载语音、会议记录 |
| Step Edge GUI | 屏幕理解和操作 | 自动操作 APP、无障碍 |
| Step Edge Gen | 本地图片生成 | 相册编辑、表情生成 |
核心指标
| 指标 | 数值 |
|---|---|
| 本地响应速度 | 0.1 秒 |
| 隐私模式 | 全模态本地处理,数据不出设备 |
| 端云协同 | 简单任务本地、复杂任务云端、自动切换 |
| 部署平台 | 手机、汽车、IoT 设备 |
三、为什么端侧 AI 现在爆发?
三个条件同时满足了:
1. 模型压缩突破了临界点
2024: 7B 模型需要 14GB → 手机跑不动
2025: 4-bit 量化 7B 需要 4.7GB → 旗舰机能跑
2026: 270亿模型压到 4GB → 中端机也能跑
2. 手机芯片 AI 算力够了
iPhone 17 Pro 的 Neural Engine 达到 45 TOPS,高通骁龙 8 Gen 5 达到 50 TOPS——相当于一张入门级 GPU 的算力。
3. 隐私需求越来越强
AI 拟人化监管新规 7 月 15 日施行。端侧处理天然合规——数据不出设备,监管无从管起。
四、端侧 AI 的应用场景
| 场景 | 为什么需要端侧 | 代表产品 |
|---|---|---|
| 车载语音 | 隧道/地库无网络 | Step Edge Audio |
| 手机助手 | 延迟 str: | |
| if self.estimate_tokens(task) 如果觉得有用,欢迎 点赞 + 收藏 + 关注。7月17日WAIC全球首款AI手机首发,我会第一时间解读。 |
🔜 下一篇:GPT-5.6 Sol Ultra 一小时证明 50 年数学猜想技术拆解