大模型算法实习生一面、二面面经

#发面经攒人品# 一面
1.自我介绍
2.手撕Transformer多头注意力模块
3.手撕LayerNormalization
4.论文介绍
5.项目介绍
6.对论文的背景、方法等细节进行提问
7.介绍下Qwen3模型
8.如何将大模型的上下文长度从32k外推到128k
9.介绍下GRPO，DAPO对GRPO进行了哪些改进
10.反问:部门业务和实习生能涉及哪些业务

二面
1.自我介绍
2.论文介绍
3.项目介绍
4.对于一些场景下的仅有少量微调指令数据集，你是如何利用大模型来扩充它们的，如何保证它们生成的指令数据的质量能比较好
5.了解预训练过程吗，讲讲大模型常用的预训练流程
6.在RAG中，如何提取PDF页面中的表格数据并存储到向量数据库中，表格存在跨页的情况应该怎么处理
7.如果用户query设计到表格数据内容，怎样能够保证RAG能够精确检索到表格信息，检索完成之后应该如何给LLM来生成响应
8.讲讲大模型数据预处理过程中的数据生成和增强，有哪些数据生成和增强的方法
9.反问:实习生能否做后训练相关工作，算力是否充足