最近在折腾本地部署的开源模型,主要用Qwen和Llama3做信息抽取任务。同样的Prompt在Qwen上准确率能有80%左右,换到Llama3直接掉到40%,输出格式都开始乱。我试过调temperature、加few-shot示例,但感觉像是在给每个模型单独打补丁。想问问大家,开源模型的Prompt到底需不需要针对不同底座重写?有没有一套相对通用的写法,还是说只能一个一个试?感觉这块资料好少,有点迷茫。