大模型算法面经合集

配图文字

二面

1. 简单做一下自我介绍。
2. 简述Transformer的结构，说明大模型选择Transformer而非RNN的原因。
3. 上下文长度增加会带来计算与访存压力上升，有哪些优化手段？
4. 除GQA分组共享KV之外，还有哪些同类优化方案，是否了解MLA多头隐式注意力？
5. 是否接触过LoRA低秩适配技术？
6. 是否有模型量化相关实践经验？
7. 算法部署到移动端设备时，受限于模型位宽与内存资源，可以开展哪些优化工作？
8. 大语言模型推理包含哪两个阶段？
9. 推理阶段逐层计算访存开销高，有哪些对应的优化手段？
10. 是否了解投机解码（Speculative Decoding）技术？
11. 分享一次和他人意见产生分歧，并成功说服对方的经历，说明事件背景、参与人员、分歧阻力、自身思考与处理方法。
12. 该方案是否落地投产？再分享一个你解决过复杂度最高的问题，包含难点、分析思路、重点考量、解决方案与最终效果。
13. 这件问题解决上最大难点是什么？