最近在尝试用Llama 3.1 8B本地搭个问答机器人，部署在单卡A100上，框架用的vLLM。但发现一个问题：只要Prompt里提到“请举例说明”，模型就开始疯狂重复同一个例子，甚至连续输出好几段类似的话。我试过调整temperature到0.8，也加了top_p采样，但效果不明显。看了一些教程说要用prompt模板，比如加“请用不同的表述回答”，但好像还是容易陷入循环。是不是我prompt写得太简单了？还是说这种小模型本身就有这个毛病？有没有前辈踩过这个坑？或者有什么现成的prompt优化技巧能分享一下？先谢谢了。