将 LiteLLM 路由文档转化为上线前清单:核对主/备部署、重试与负载策略;经 Proxy 时验证虚拟密钥与费用;通过可控主路故障演练确认回退触发;若用 MCP Gateway 则检查 store_model_in_db 与 SEP-986 命名。
使用场景
- 新助手上线需扛限流
- 迁移到多厂商 Router
- 启用 MCP Gateway 前评审
- 季度灾备演练
- 成本优化加备模型
主要功能
- 盘点 model_name 与主备角色
- 记录重试/超时/冷却配置
- 演练主部署故障观察 fallback
- 核对 Proxy 预算与护栏
- 检查 MCP 持久化与命名合规
- 填写 sign-off 表
相关推荐
相关推荐
3 收录条目
多区域 LLM 提供商就绪度核查
将出口管制与多厂商路由整理为规划清单:记录主/备路(含 Helicone、LiteLLM Router)、量化区域封锁敞口,并在管理层对某市场「零预期」时与财务口径一致;含法务会签、故障演练与上线前证据。
Agentic 编码供应商就绪度核查
在标准化 AI 编码栈前核查:SCM 状态页 incident、主备 Agent(Copilot/Cursor/Claude Code 等)、Braintrust 等 tracing 基线,以及托管与 Agent API 双故障演练;引用公开计费与 outage 报道。
AI 经济收益分配就绪度核查
将 AI 驱动财富与劳资关系整理为规划清单:记录 AI 增益是否转化为员工/公众收益、评估芯片股集中度风险、为 physical-AI 自动化前的劳资对话做准备;引用 CNBC 韩国副总理与三星罢工等公开报道作背景。