上线不是终点,第一周决定"能不能活下去"
AI 功能上线后第一周,最容易出的事**不是效果差**,而是:成本失控、延迟飙升、坏输入打崩、
以及"没人知道它到底在发生什么"。所以第一周要**盯指标**,而不是盯好评。
上线前就准备好的四件事
1. **埋点**:请求 id、模型与提示词版本、耗时(首字与总时长)、成败、校验失败原因、成本(见"埋点"那篇);
2. **护栏**:限流、配额、超时、最大输入长度、最大输出长度;
3. **降级链**:上游不可用时按"重试→小模型→规则兜底→明确不可用"逐层退(见"降级设计"那篇);
4. **回滚开关**:能一键关掉或切回旧版本/旧模型 —— **没有回滚开关就不要全量上线**。
第一周每天看什么
**当天(高频)**
**每天(固定时间)**
三个典型事故与对应防线
| 事故 | 防线 |
|---|---|
| 某租户脚本刷接口,成本当天翻倍 | 租户配额 + 限流 + 成本告警 |
| 某类超长输入让 P95 从 2s 变 30s | 输入长度上限 + 超时 + 排队可见 |
| 上游抖动导致大面积失败 | 重试 + 降级链 + 明确不可用提示 |