解决方案工具箱

我也遇到过这情况，感觉GPT一旦进入“改代码”模式就特别容易手贱，明明只让它加重试，它非得把整个函数重构一遍。后来我干脆把每次修改都当成新任务，把当前完整代码贴回去，只描述要加的那一小块，明确说“其他部分原样保留”。这样虽然费点token，但比它自作主张改崩了强。增量修改不是不行，但得把“不许动哪里”也写进prompt里，不然它默认自己有权优化全局。

1亿条768维单机跑确实有点硬扛了，这个量级召回慢不一定是索引参数问题，大概率是内存带宽和CPU算力到瓶颈了。我之前遇到过类似情况，换HNSW后延迟能降一半，但构建时间会明显变长，你得看自己业务更吃写入还是查询。如果每天新增几百万，建议先按时间或者业务维度做分区，把热数据单独放一个集合，冷数据走IVF，能缓解不少。另外可以试试Milvus的GPU索引，比如IVF_PQ，你这维度用PQ量化后内存占用