蔚来
大模型后训练算法实习生一面、二面面经
完整信息
本篇目录
一面
- 介绍项目的业务背景、待解决的核心痛点，说明整体技术实现方案
- 讲解训练数据集获取途径，详细说明数据清洗、数据治理的实操流程
- 如果训练样本来自人工输出结果，是否可以理解为对人工能力做知识蒸馏，说说你的理解
- 假设能够获取完整的人工操作执行轨迹，会对大模型后训练带来哪些增益
- 在做模型后训练的过程中遇到过哪些问题，对应的排查和解决手段
- 模型训练完成之后采用哪些评测手段，相较于基座模型，能力提升体现在哪些维度
- 除了宏观的评价指标，有没有做细粒度评估，列举项目中遇到的典型坏案例
- 从业务视角阐述模型的预期目标，通过哪些条件判定模型已经达到上线标准
二面
- 完整阐述一个自己深度参与的项目，讲清全链路逻辑
- 奖励函数的设计思路，为什么选用这套设计方案
- 模型微调的具体实现方式，解释该训练方案选型的理由
- 训练过程遇到过哪些疑难问题，描述定位问题根因的思路
- 如何搭建整套评测体系，基线模型的选择依据是什么
- 对比DPO和PPO算法，分别需要什么类型训练数据，各自适配什么样的业务场景
- 梳理PPO完整训练流程，解释Value Model、优势函数advantage、clip裁剪机制各自承担的作用
本篇目录
当前问题0115
- 01
介绍项目的业务背景、待解决的核心痛点，说明整体技术实现方案
- 02
讲解训练数据集获取途径，详细说明数据清洗、数据治理的实操流程
- 03
如果训练样本来自人工输出结果，是否可以理解为对人工能力做知识蒸馏，说说你的理解
- 04
假设能够获取完整的人工操作执行轨迹，会对大模型后训练带来哪些增益
- 05
在做模型后训练的过程中遇到过哪些问题，对应的排查和解决手段
- 06
模型训练完成之后采用哪些评测手段，相较于基座模型，能力提升体现在哪些维度
- 07
除了宏观的评价指标，有没有做细粒度评估，列举项目中遇到的典型坏案例
- 08
从业务视角阐述模型的预期目标，通过哪些条件判定模型已经达到上线标准
- 09
完整阐述一个自己深度参与的项目，讲清全链路逻辑
- 10
奖励函数的设计思路，为什么选用这套设计方案
- 11
模型微调的具体实现方式，解释该训练方案选型的理由
- 12
训练过程遇到过哪些疑难问题，描述定位问题根因的思路
- 13
如何搭建整套评测体系，基线模型的选择依据是什么
- 14
对比DPO和PPO算法，分别需要什么类型训练数据，各自适配什么样的业务场景
- 15
梳理PPO完整训练流程，解释Value Model、优势函数advantage、clip裁剪机制各自承担的作用