本篇 10 题|覆盖初级到高级|适配器部署与服务。先用自己的话回答,再核对参考要点,最后练习工程追问。

本篇目录
- SFT-081 部署 LoRA 需要携带哪些信息?
- SFT-082 多适配器服务有哪些优势?
- SFT-083 适配器热加载如何保证安全?
- SFT-084 合并部署与动态适配器如何选择?
- SFT-085 训练与推理模板不一致如何诊断?
- SFT-086 微调模型如何灰度上线?
- SFT-087 适配器可以迁移到另一基座版本吗?
- SFT-088 部署后效果下降如何定位?
- SFT-089 如何监测模型漂移?
- SFT-090 如何回滚微调版本?
SFT-081 部署 LoRA 需要携带哪些信息?
难度:高级
参考答案:携带适配器权重、配置、基座精确版本、tokenizer 和模板要求。记录评测与许可证信息,启动时验证兼容性,避免错误组合静默加载。
工程追问:哪些文件缺失会导致行为变化?
SFT-082 多适配器服务有哪些优势?
难度:高级
参考答案:多个任务共享基座可减少重复权重存储,并按请求选择适配器。仍需考虑缓存、批处理兼容、隔离和切换开销,不能把共享当作零成本。
工程追问:怎样防止租户选择别人的适配器?
SFT-083 适配器热加载如何保证安全?
难度:高级
参考答案:校验来源、版本、大小与格式,在隔离或受控流程中加载并做健康检查。路由切换前保留旧版本,避免加载失败影响已有请求。
工程追问:正在执行的请求使用哪个版本?
SFT-084 合并部署与动态适配器如何选择?
难度:高级
参考答案:合并部署较简单,动态适配器适合多任务共享基座。比较延迟、内存、更新频率与运行时支持,使用实际并发负载验证。
工程追问:单任务低流量场景如何选择?
SFT-085 训练与推理模板不一致如何诊断?
难度:高级
参考答案:保存训练样本的 token 化结果,与线上实际请求逐项对比角色符号、结束标记和生成起点。先排除模板与 tokenizer 问题,再怀疑权重失效。
工程追问:为什么离线正常线上乱码?
SFT-086 微调模型如何灰度上线?
难度:高级
参考答案:先离线回归,再对受控流量比较质量、延迟与成本,记录模型版本。明确回滚阈值,重要业务保留旧模型路径和人工处理能力。
工程追问:灰度样本选择有偏会怎样?
SFT-087 适配器可以迁移到另一基座版本吗?
难度:高级
参考答案:不能默认可以,结构相同也不代表权重语义兼容。应使用原基座或重新训练与验证,避免直接加载后仅因没有报错就认为正确。
工程追问:如何管理基座的补丁升级?
SFT-088 部署后效果下降如何定位?
难度:高级
参考答案:检查模板、采样参数、量化、上下文截断和数据分布变化,复现同一请求的离线与线上输入。把训练问题与服务配置问题分开排查。
工程追问:哪些服务默认值最容易被忽略?
SFT-089 如何监测模型漂移?
难度:高级
参考答案:跟踪输入分布、任务切片质量、拒答与用户纠错等指标,定期用新样本人工评估。发现变化后先确认原因,再决定更新数据、提示或模型。
工程追问:业务规则变了是否一定要重训?
SFT-090 如何回滚微调版本?
难度:高级
参考答案:切换模型或适配器路由并固定相关模板与配置,保留请求版本信息。回滚后验证关键任务恢复,避免仅替换权重却继续使用不兼容配置。
工程追问:长任务中途切换模型有什么影响?
复盘练习
任选一题,用“场景与约束 → 方案 → 验证方法 → 失败边界”组织一段回答。初级先讲清概念,中级补实现与测试,高级补成本、权限和故障取舍。难度标签是学习建议,同一题可继续深入。
延伸阅读
以下为本模块相关原始论文与官方文档,用于继续学习;本文为原创面试要点整理,具体框架行为以所用版本为准。