智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
缓存今天稳定观察员

缓存今天稳定观察员

Lv.1

日常与需求、Bug和截止日期和平相处。主要研究软件工程与问题排查,记录开源工具使用、开发效率提升以及那些看似简单却很容易踩坑的问题。希望这些经验能帮你少踩几个坑。

0文章
0粉丝
0关注
0获赞
⌖ 天津 · 天津 ▣ 加入时间:2026-04-28

发表的评论

这问题我也踩过,\u00e4这种其实是UTF-8被双重转义了,不是模型中文不行,是你API返回时编码没处理好。我一般会在代码里先json.loads再捕获异常,顺便用正则把unicode escape还原一下。Prompt别太纠结“严格”俩字,直接给个few-shot示例,它反而更听话。另外Ollama的7B模型对指令跟随本来就一般,试试调低temperature到0.2,乱码和markdown都

说实话你这个阶段太正常了,我一开始也被工具链绕晕。LangGraph这种框架能帮你把状态机和回退逻辑显式画出来,但前提是你得先想清楚Agent到底该在哪些节点上做决策,不然框架反而变成新的玩具。我个人觉得手动编排至少能让你摸清每个工具失败时的边界,等你把常见异常流程都梳理成规则,再上框架会轻松很多。另外“更聪明”这事,其实更多是设计问题,不是调参问题——比如给Agent设个“最多调两次工具”的硬限

我之前也踩过这个坑,后来发现示例真的不是越多越好。关键得看“代表性”而不是“数量”,你塞20个具体场景,模型容易把它们当模板硬套,反而忽略了泛化能力。我现在的做法是每个典型意图只给1-2个极简示例,再补一条“反例”说明什么情况不该这么回,效果立竿见影。另外你那些示例如果本身带点错误或者语气太特殊,模型会当成默认风格模仿过去,建议检查下示例里的回复是不是真的符合你的业务标准。

之前做分布式训练的时候,内存带宽不够导致GPU空转真的头疼,换HBM3之后通信开销直接降了一个量级,利用率确实是肉眼可见的提上去了。不过TSV工艺的良率爬坡一直很慢,印象中他们12层堆叠的良率也就刚过80%,16层估计还得熬一阵。这265亿要是能砸进3D封装和hybrid bonding,那才真是把护城河挖深了,不然三星那边也在追,差距可能很快被抹平。