本篇 10 题|覆盖初级到高级|微调目标与方案选择。先用自己的话回答,再核对参考要点,最后练习工程追问。

本篇目录
- SFT-001 什么是监督微调 SFT?
- SFT-002 微调与提示工程如何选择?
- SFT-003 微调与 RAG 能否组合?
- SFT-004 持续预训练与指令微调有何区别?
- SFT-005 全参数微调有哪些特点?
- SFT-006 参数高效微调是什么?
- SFT-007 什么时候不值得微调?
- SFT-008 如何选择微调基座?
- SFT-009 微调目标怎样转成验收指标?
- SFT-010 如何估算一次微调的总体成本?
SFT-001 什么是监督微调 SFT?
难度:初级
参考答案:用输入与期望输出样本继续训练模型,使其适应任务、风格或输出行为。效果取决于数据与目标匹配,不能保证知识始终最新或回答完全正确。
工程追问:如何验证改善来自训练而非提示变化?
SFT-002 微调与提示工程如何选择?
难度:中级
参考答案:先建立提示基线;当稳定行为需求难以通过提示满足且有足够高质量数据时考虑微调。比较质量、训练成本、维护与推理成本,而非仅看技术复杂度。
工程追问:什么失败模式适合用微调解决?
SFT-003 微调与 RAG 能否组合?
难度:初级
参考答案:可以。RAG 提供可更新证据,微调帮助遵循格式、使用证据或执行领域任务。两者分别评测,避免把检索缺失误当成模型需要记忆更多事实。
工程追问:怎样设计基于证据回答的训练样本?
SFT-004 持续预训练与指令微调有何区别?
难度:初级
参考答案:持续预训练通常继续学习领域文本分布,指令微调学习输入到目标回答的行为。数据形式、损失掩码和验收目标不同,也可以分阶段组合。
工程追问:领域术语很多时先做哪一步?
SFT-005 全参数微调有哪些特点?
难度:中级
参考答案:更新全部或大部分模型参数,表达能力灵活但训练状态和检查点成本较高。需要更谨慎控制过拟合与遗忘,并与参数高效方法比较收益。
工程追问:数据很少时全参数微调有何风险?
SFT-006 参数高效微调是什么?
难度:初级
参考答案:只训练少量新增或选定参数,减少优化器状态与产物体积。它仍需前向和反向计算,不能把可训练参数少理解成所有训练成本同比下降。
工程追问:显存主要消耗在哪里?
SFT-007 什么时候不值得微调?
难度:初级
参考答案:目标不清、数据质量差、知识频繁变化或提示基线已满足需求时通常不值得。先修复数据与评测,避免投入训练却无法判断是否有效。
工程追问:如何给出停止训练项目的证据?
SFT-008 如何选择微调基座?
难度:中级
参考答案:比较任务能力、语言覆盖、上下文、许可证、部署资源与工具支持。使用相同评测集建立基线,不能只按参数量或通用榜单决定。
工程追问:基座更大但部署不了怎么办?
SFT-009 微调目标怎样转成验收指标?
难度:中级
参考答案:把业务需求拆成任务正确率、格式遵循、拒答边界和通用能力保持等指标。设置训练前基线与可接受退化范围,避免只观察训练损失。
工程追问:哪些指标必须同时通过?
SFT-010 如何估算一次微调的总体成本?
难度:中级
参考答案:包括数据清洗标注、训练试验、评测、存储和上线维护,而非只算 GPU 时长。用小规模试验估计吞吐和效果,再决定扩大规模。
工程追问:失败试验是否计入成本?
复盘练习
任选一题,用“场景与约束 → 方案 → 验证方法 → 失败边界”组织一段回答。初级先讲清概念,中级补实现与测试,高级补成本、权限和故障取舍。难度标签是学习建议,同一题可继续深入。
延伸阅读
以下为本模块相关原始论文与官方文档,用于继续学习;本文为原创面试要点整理,具体框架行为以所用版本为准。