货拉拉
大模型算法一面面经
完整信息
本篇目录
一、基础八股部分
1. 完整阐述强化学习整套原理，说一说引入强化学习的价值与适用场景
2. 监督微调SFT与强化学习，在训练范式、目标上存在哪些核心差异
3. 常见的大模型推理优化手段有哪些？结合你的项目说明落地方案
4. 大模型主流微调方案有哪些？你的项目选择全参微调还是LoRA，理由是什么
5. 详细讲解LoRA低秩适配的底层原理
6. 介绍Transformer位置编码机制，盘点主流方案，说说当下应用广泛的类型
7. 谈谈你对大模型上层应用方案的认知，例如RAG、知识图谱、技能引导等
8. RAG技术诞生主要解决大模型的哪些痛点问题
二、项目深度追问
1. 站在当前视角，你的项目存在哪些可行优化方向
2. 项目内SFT使用的QA数据集包含哪些样本类型，是否覆盖多样化任务，并非局限于单纯问答
3. 介绍项目立项背景，当时启动这项工作的核心诉求是什么
4. 训练数据集如何基于公开资源进行构建，样本搭建思路是什么
5. 面对和业务任务无关的用户Query，当前系统如何处理，有哪些后续优化思路（如意图识别）
6. 相较于对标模型，任务完成率存在6%差距，你采用什么样的评估体系衡量模型效果
7. 是否存在智能体执行轨迹出错、但最终答案恰好正确的样本？如何看待这类现象
8. 整套系统推理延迟表现如何？如果用户难以忍受等待时延，可以从哪些方向优化
9. 你目前这套技术方案，如何迁移、适配到货运相关业务场景
本篇目录
当前问题0117
- 01
完整阐述强化学习整套原理，说一说引入强化学习的价值与适用场景
- 02
监督微调SFT与强化学习，在训练范式、目标上存在哪些核心差异
- 03
常见的大模型推理优化手段有哪些？结合你的项目说明落地方案
- 04
大模型主流微调方案有哪些？你的项目选择全参微调还是LoRA，理由是什么
- 05
详细讲解LoRA低秩适配的底层原理
- 06
介绍Transformer位置编码机制，盘点主流方案，说说当下应用广泛的类型
- 07
谈谈你对大模型上层应用方案的认知，例如RAG、知识图谱、技能引导等
- 08
RAG技术诞生主要解决大模型的哪些痛点问题
- 09
站在当前视角，你的项目存在哪些可行优化方向
- 10
项目内SFT使用的QA数据集包含哪些样本类型，是否覆盖多样化任务，并非局限于单纯问答
- 11
介绍项目立项背景，当时启动这项工作的核心诉求是什么
- 12
训练数据集如何基于公开资源进行构建，样本搭建思路是什么
- 13
面对和业务任务无关的用户Query，当前系统如何处理，有哪些后续优化思路（如意图识别）
- 14
相较于对标模型，任务完成率存在6%差距，你采用什么样的评估体系衡量模型效果
- 15
是否存在智能体执行轨迹出错、但最终答案恰好正确的样本？如何看待这类现象
- 16
整套系统推理延迟表现如何？如果用户难以忍受等待时延，可以从哪些方向优化
- 17
你目前这套技术方案，如何迁移、适配到货运相关业务场景