本篇 10 题｜覆盖初级到高级｜可观测性与服务目标。先用自己的话回答，再核对参考要点，最后练习工程追问。
本篇目录
- DEP-081 LLM 服务应监测哪些指标？
- DEP-082 日志、指标和追踪如何配合？
- DEP-083 GPU 利用率应该怎样解读？
- DEP-084 如何设计健康检查？
- DEP-085 SLO 与告警阈值有何关系？
- DEP-086 如何排查偶发 OOM？
- DEP-087 成本异常如何发现？
- DEP-088 如何监测回答质量退化？
- DEP-089 如何建立故障排查顺序？
- DEP-090 个人项目也需要可观测性吗？
DEP-081 LLM 服务应监测哪些指标？
难度：高级
参考答案：监测请求成功、排队、首字和总延迟、token 吞吐、资源占用与成本，并按模型和租户切片。质量指标需要独立抽样评估，不能由可用率替代。
工程追问：哪些指标适合实时告警？
DEP-082 日志、指标和追踪如何配合？
难度：高级
参考答案：指标发现趋势，追踪定位慢阶段，日志解释具体异常。通过关联 ID 串联，控制敏感内容和高基数字段，避免监控系统成本失控。
工程追问：为什么不能把每个用户问题作为指标标签？
DEP-083 GPU 利用率应该怎样解读？
难度：高级
参考答案：它反映部分设备忙碌情况，不能单独代表有效吞吐或用户体验。结合显存、功耗、队列、算子与延迟判断，区分忙于计算还是低效等待。
工程追问：利用率低但延迟高可能是什么原因？
DEP-084 如何设计健康检查？
难度：高级
参考答案：区分进程存活、依赖可用和模型已准备好，必要时执行轻量真实推理。探测本身需限频，避免造成负载或因短暂抖动触发反复重启。
工程追问：存活检查为什么不应依赖所有外部服务？
DEP-085 SLO 与告警阈值有何关系？
难度：高级
参考答案：SLO 定义用户可接受的服务水平，告警应关注其持续消耗与业务影响。单点资源尖峰不一定值得叫醒人，应结合持续时间与错误预算。
工程追问：个人服务如何减少无效告警？
DEP-086 如何排查偶发 OOM？
难度：高级
参考答案：关联请求长度、并发、缓存和后台任务，保存安全的资源快照。检查泄漏、碎片与峰值组合，避免只通过重启掩盖容量限制。
工程追问：如何构造最坏但合理的负载？
DEP-087 成本异常如何发现？
难度：高级
参考答案：比较请求量、平均 token、重试、路由和缓存命中变化，按租户与功能定位。设置消耗上限与异常告警，防止循环 Agent 或攻击请求持续花费。
工程追问：调用量没变但账单翻倍可能为何？
DEP-088 如何监测回答质量退化？
难度：高级
参考答案：建立稳定回归集与线上抽样评审，跟踪纠错、拒答和任务失败。将质量变化关联模型、提示、数据和路由版本，避免只听个别用户反馈。
工程追问：质量监测如何保护用户隐私？
DEP-089 如何建立故障排查顺序？
难度：高级
参考答案：先判断影响范围和最近变更，再检查入口、队列、依赖、推理和存储。以链路证据缩小范围，避免随机调参数导致现场进一步变化。
工程追问：什么时候优先回滚而非继续分析？
DEP-090 个人项目也需要可观测性吗？
难度：高级
参考答案：需要，但可以从结构化日志、基础资源监控、错误告警和备份验证开始。先覆盖可定位问题的最小集合，按实际需求增加复杂平台。
工程追问：低成本方案如何保留历史趋势？
复盘练习
任选一题，用“场景与约束 → 方案 → 验证方法 → 失败边界”组织一段回答。初级先讲清概念，中级补实现与测试，高级补成本、权限和故障取舍。难度标签是学习建议，同一题可继续深入。
延伸阅读
以下为本模块相关原始论文与官方文档，用于继续学习；本文为原创面试要点整理，具体框架行为以所用版本为准。