最近在做一个基于RAG的问答系统,用的是LangChain + Chroma,embedding用的bge-large-zh。检索top_k=5的时候,每个chunk大概500字,拼到Prompt里加上系统提示词,直接快3000 token了。结果大模型回答的时候经常忽略中间那段检索内容,感觉像是被淹没了。试过把chunk调小到200字,但召回的内容又不够完整,回答质量反而下降。想问下大家在Prompt层面是怎么处理多段检索结果的?有没有什么压缩或者重排的实用技巧?还是说只能换更长的上下文模型?