最近在折腾本地部署的CodeLlama做Python代码补全,用的是7B参数版本。问题是我写个函数定义,它经常给我补一堆docstring和类型注解,但实际逻辑却乱写。比如我写def calculate_mean(data):,它直接补了半页注释,然后return一个None。我试过调低temperature到0.1,提示词也加了“只生成代码主体”,效果还是不稳定。有没有玩过的老哥指点一下,是模型太小了,还是我这提示工程没做对?或者干脆换别的模型比如StarCoder?主要不想花钱买Copilot,想自己折腾个能用的。