最近在折腾本地部署Qwen2.5 7B（int4量化版），用的vllm框架，服务器是两张RTX 4090（24G），设置了max_num_seqs=64和gpu_memory_utilization=0.9。刚开始跑几个请求还挺正常，但连续处理几十个prompt之后，显存就慢慢涨到46G然后直接OOM了。查了vllm的文档说是有动态显存管理的，但感觉没生效。我试过调低max_num_batched_tokens到2048，也没用。是不是我哪里设置不对？还是7B模型本身在长文本多并发下就是容易爆显存？求大佬们指点一下排查思路或者有没有其他轻量部署方案推荐。