xiaowei
1d54231fca
G2: Embedding 本地化 — 配置模力方舟 API
- 确认 bge-m3 模型已下载 /home/muc/models/bge-m3/
- ONNX BGE 服务使用 12.7GB RAM,机器撑不住,已停用
- VLLM_ENDPOINT → https://ai.gitee.com/v1/embeddings
- 新增 MOLIFANG_API_KEY 环境变量
- deploy/zhiyid.service 同步到 /etc/systemd/system/
- 全链路验证通过: encode 389ms → ANN 40ms → rerank 921ms → MMR 0ms
- 本地 vLLM 部署标记为 G2.5(延后,需安装 vllm 依赖)
待办: G2.5 安装 vllm + 部署本地 BGE (port 8000) — 需要下载 torch 等依赖,约 30min
2026-05-30 02:08:30 +08:00
..
2026-05-29 01:07:05 +08:00
2026-05-29 01:07:05 +08:00
2026-05-28 17:45:19 +08:00
2026-05-29 01:07:05 +08:00
2026-05-29 01:07:05 +08:00
2026-05-29 02:51:46 +08:00
2026-05-29 02:51:46 +08:00
2026-05-29 01:07:05 +08:00
2026-05-29 01:07:05 +08:00
2026-05-30 02:08:30 +08:00