prof-dev
b9cec60730
feat(distill): 三档粒度重构 ZHIYI_DISTILL_MODE/ CAP(t_afacc477 只交数据不部署)
E1 128 ep 隔离对照:A p50=23/act26.5% · B p50=47/act50.6% · C p50=34/act35.3%
E2 90 ep(>1000字) 截断+最优臂:C@1000 act=57.1% / C@2000 act=62.2% / C@none act=62.8%
AC3 32k 压测:单槽 cap32000 均值 23.7s p90=39.2s;生产 16K 槽路由判定全 fits_local=True(1000/2000 档 5-9s)
A37 结论:truncate+limitDistillContent+proxy路由+120s客户端超时 四重保护,现码路径 32k 场景不可重现
改动:新增 granularity_gate.go(env 三档 + cap 可配,默认 mode=context cap=1000);
engine.go 组装段按档拼附加段(current 逐字节等价现状 A)。
未部署生产;红线未改 FUSION_W/FEEDBACK_BIAS/POS_MODE;go build ./... + go test 全绿。
2026-10-31 13:07:48 +08:00
..
2026-10-10 15:51:25 +08:00
2026-10-14 01:44:39 +08:00
2026-10-31 13:07:48 +08:00
2026-08-20 01:13:06 +08:00
2026-08-20 01:13:06 +08:00
2026-09-21 22:55:03 +08:00
2026-09-21 22:55:03 +08:00
2026-09-22 09:57:58 +08:00
2026-08-20 01:13:06 +08:00