本篇 10 题|覆盖初级到高级|数据工程与质量。先用自己的话回答,再核对参考要点,最后练习工程追问。

本篇目录
- SFT-011 微调数据越多越好吗?
- SFT-012 训练集、验证集和测试集如何划分?
- SFT-013 如何检测近重复样本?
- SFT-014 如何制定标注规范?
- SFT-015 合成数据有哪些风险?
- SFT-016 如何处理类别不平衡?
- SFT-017 训练数据包含隐私时怎么办?
- SFT-018 怎样处理错误或冲突标签?
- SFT-019 难例应该占多大比例?
- SFT-020 数据集版本需要记录什么?
SFT-011 微调数据越多越好吗?
难度:中级
参考答案:不一定,重复、错误和目标不一致的数据可能降低效果。优先提高覆盖与正确性,再通过受控实验观察数据规模带来的边际收益。
工程追问:怎样识别数据量增长但有效信息没增长?
SFT-012 训练集、验证集和测试集如何划分?
难度:中级
参考答案:按用户、来源文档、时间或任务族等相关单位隔离,防止近重复泄漏。验证集用于调参,测试集保留给最终评估,不能反复据其优化。
工程追问:同一文档生成的问题应如何划分?
SFT-013 如何检测近重复样本?
难度:中级
参考答案:结合规范化哈希、文本相似度或语义聚类识别重复,再按来源与任务判断保留。尤其检查跨数据集重复,避免测试成绩被记忆效应抬高。
工程追问:近似表述但标签不同怎么办?
SFT-014 如何制定标注规范?
难度:中级
参考答案:明确输入范围、答案标准、边界情况与拒答规则,提供正反例和争议处理流程。抽样复核一致性,不能只给标注者一个笼统任务名称。
工程追问:规范更新后旧标签如何处理?
SFT-015 合成数据有哪些风险?
难度:中级
参考答案:可能复制教师模型错误、表达风格单一或缺少真实难例。保留来源标记,结合规则与人工校验,并用独立真实样本评估泛化。
工程追问:怎样防止合成数据污染测试集?
SFT-016 如何处理类别不平衡?
难度:中级
参考答案:先确认真实分布和业务代价,再选择采样、损失权重或补充少数类数据。评测按类别报告,避免总体准确率掩盖重要类别失败。
工程追问:过采样会造成什么副作用?
SFT-017 训练数据包含隐私时怎么办?
难度:中级
参考答案:确认使用依据与必要性,脱敏或移除不必要个人信息并限制访问。评测是否出现记忆复述,训练后模型和检查点也应纳入数据治理。
工程追问:删除原文件就能消除模型记忆吗?
SFT-018 怎样处理错误或冲突标签?
难度:中级
参考答案:回到来源与标注规则裁决,无法确认的样本隔离或标记不确定。不要简单用多数标签覆盖少数,因为错误可能系统性集中在常见标注者。
工程追问:如何发现系统性的标注偏差?
SFT-019 难例应该占多大比例?
难度:中级
参考答案:没有通用比例,应结合真实流量、错误代价与模型短板设计混合。过度集中难例可能损害常见任务,需用分层评测观察取舍。
工程追问:如何避免训练集变成极端案例集合?
SFT-020 数据集版本需要记录什么?
难度:初级
参考答案:记录来源、许可、清洗脚本、样本清单、划分策略和内容哈希。任何数据修订都可追溯,才能解释不同训练结果和响应删除请求。
工程追问:只保存一个压缩包是否足够?
复盘练习
任选一题,用“场景与约束 → 方案 → 验证方法 → 失败边界”组织一段回答。初级先讲清概念,中级补实现与测试,高级补成本、权限和故障取舍。难度标签是学习建议,同一题可继续深入。
延伸阅读
以下为本模块相关原始论文与官方文档,用于继续学习;本文为原创面试要点整理,具体框架行为以所用版本为准。