xiaoyi
d2e9f086cb
feat(recall): 外部 cross-encoder rerank 真接入主链(此前只设 env、调用点仍走本地 cosine)
背景:11-12 牧尘令「rerank 开」,env 与 drop-in 都配了,但 recall 两个调用点仍调
RerankWithVectors(候选自带向量再算 cosine)⇒ 生产实际是假重排。2026-11-16 行为
实测:use_rerank=true 与 false 逐位相同、延迟同为 ~390ms,证实 0 外呼。
本笔:core.go / recall.go 两处调用点切到 RerankPreferAPI(有 key 走模力方舟
bge-reranker-v2-m3,分批 25 + 硬超时;失败降级向量 cosine);成功路径补日志
(失败才有日志 => 「有没有真调用」只能靠延迟猜,上次就是这么漏掉的)。
主尺实测(84 DA 题,no_cache,同窗口 on→off→on,漂移 0.0000):
off 0.2639 → on 0.5258(+0.2619 / +99%),35 题变好 / 6 题变差。
降级实测:endpoint 指死端口 ⇒ 召回仍返回结果 + 日志『降级向量 cosine』。
部署:zhiyid-20261116-rerankapi2,drop-in zzzzzzzzz-rerankapi-20261116.conf
2026-11-16 19:52:31 +08:00
..
2026-10-10 15:51:25 +08:00
2026-11-16 19:52:31 +08:00
2026-09-20 00:37:25 +08:00
2026-10-12 21:38:01 +08:00
2026-10-10 15:51:25 +08:00
2026-10-10 15:51:25 +08:00
2026-10-10 15:51:25 +08:00
2026-11-16 14:47:19 +08:00