Administrator
发布于 2026-10-12 / 0 阅读
0
0

微调面试题 SFT-001—SFT-010:微调目标与方案选择

750题总目录 · 微调模块目录

本篇 10 题|覆盖初级到高级|微调目标与方案选择。先用自己的话回答,再核对参考要点,最后练习工程追问。

微调知识导图:100题,10个专题
微调知识导图:100题,10个专题;点击图片查看大图。

本篇目录

  1. SFT-001 什么是监督微调 SFT?
  2. SFT-002 微调与提示工程如何选择?
  3. SFT-003 微调与 RAG 能否组合?
  4. SFT-004 持续预训练与指令微调有何区别?
  5. SFT-005 全参数微调有哪些特点?
  6. SFT-006 参数高效微调是什么?
  7. SFT-007 什么时候不值得微调?
  8. SFT-008 如何选择微调基座?
  9. SFT-009 微调目标怎样转成验收指标?
  10. SFT-010 如何估算一次微调的总体成本?

SFT-001 什么是监督微调 SFT?

难度:初级

参考答案:用输入与期望输出样本继续训练模型,使其适应任务、风格或输出行为。效果取决于数据与目标匹配,不能保证知识始终最新或回答完全正确。

工程追问:如何验证改善来自训练而非提示变化?

SFT-002 微调与提示工程如何选择?

难度:中级

参考答案:先建立提示基线;当稳定行为需求难以通过提示满足且有足够高质量数据时考虑微调。比较质量、训练成本、维护与推理成本,而非仅看技术复杂度。

工程追问:什么失败模式适合用微调解决?

SFT-003 微调与 RAG 能否组合?

难度:初级

参考答案:可以。RAG 提供可更新证据,微调帮助遵循格式、使用证据或执行领域任务。两者分别评测,避免把检索缺失误当成模型需要记忆更多事实。

工程追问:怎样设计基于证据回答的训练样本?

SFT-004 持续预训练与指令微调有何区别?

难度:初级

参考答案:持续预训练通常继续学习领域文本分布,指令微调学习输入到目标回答的行为。数据形式、损失掩码和验收目标不同,也可以分阶段组合。

工程追问:领域术语很多时先做哪一步?

SFT-005 全参数微调有哪些特点?

难度:中级

参考答案:更新全部或大部分模型参数,表达能力灵活但训练状态和检查点成本较高。需要更谨慎控制过拟合与遗忘,并与参数高效方法比较收益。

工程追问:数据很少时全参数微调有何风险?

SFT-006 参数高效微调是什么?

难度:初级

参考答案:只训练少量新增或选定参数,减少优化器状态与产物体积。它仍需前向和反向计算,不能把可训练参数少理解成所有训练成本同比下降。

工程追问:显存主要消耗在哪里?

SFT-007 什么时候不值得微调?

难度:初级

参考答案:目标不清、数据质量差、知识频繁变化或提示基线已满足需求时通常不值得。先修复数据与评测,避免投入训练却无法判断是否有效。

工程追问:如何给出停止训练项目的证据?

SFT-008 如何选择微调基座?

难度:中级

参考答案:比较任务能力、语言覆盖、上下文、许可证、部署资源与工具支持。使用相同评测集建立基线,不能只按参数量或通用榜单决定。

工程追问:基座更大但部署不了怎么办?

SFT-009 微调目标怎样转成验收指标?

难度:中级

参考答案:把业务需求拆成任务正确率、格式遵循、拒答边界和通用能力保持等指标。设置训练前基线与可接受退化范围,避免只观察训练损失。

工程追问:哪些指标必须同时通过?

SFT-010 如何估算一次微调的总体成本?

难度:中级

参考答案:包括数据清洗标注、训练试验、评测、存储和上线维护,而非只算 GPU 时长。用小规模试验估计吞吐和效果,再决定扩大规模。

工程追问:失败试验是否计入成本?

复盘练习

任选一题,用“场景与约束 → 方案 → 验证方法 → 失败边界”组织一段回答。初级先讲清概念,中级补实现与测试,高级补成本、权限和故障取舍。难度标签是学习建议,同一题可继续深入。

延伸阅读

以下为本模块相关原始论文与官方文档,用于继续学习;本文为原创面试要点整理,具体框架行为以所用版本为准。

继续学习

下一篇:数据工程与质量 · 返回微调目录


评论