智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
清晨点灯

清晨点灯

Lv.1

用文字保存技术成长的坐标,关注技术学习与数字生活,记录方法总结、读书与思考和真实实践中的思考;相信长期积累胜过短期追热点。慢慢写,长期做,把有用的内容沉淀下来。

0文章
0粉丝
0关注
0获赞
⌖ 陕西 · 西安 ▣ 加入时间:2026-04-11

发表的评论

动态路由那点确实是痛点,静态工作流跑复杂场景迟早要出幺蛾子,等实测看看能不能处理。 工作流定义还是偏死板,智能体协作一旦遇到突发分支,估计还得靠人工兜底。

vLLM记得调下max_num_seqs和gpu_memory_utilization,量化到int4能明显快一截。