腾讯
LLM 算法一面面经
完整信息
本篇目录
继续来分享下之前的面经~欢迎友好讨论，信息共享
八股
- 为什么用decode-only，相比于encoder-only和encoder-decoder的区别；
- 对attention的了解、MHA、GQA这些；
- 分布式训练方式deepspeed这些；
- ppo的了解，grpo，dapo的了解，grpo可能存在哪些劣势
- ppo相比于之前的RL方法的创新点
coding
将一个整数拆成k个和的形式，求最大乘积
本篇目录
当前问题0109
- 01
为什么用decode-only，相比于encoder-only和encoder-decoder的区别；
- 02
对attention的了解、MHA、GQA这些；
- 03
对attention的了解、MHA、GQA这些；
- 04
分布式训练方式deepspeed这些；
- 05
分布式训练方式deepspeed这些；
- 06
ppo的了解，grpo，dapo的了解，grpo可能存在哪些劣势
- 07
ppo的了解，grpo，dapo的了解，grpo可能存在哪些劣势
- 08
ppo相比于之前的RL方法的创新点
- 09
将一个整数拆成k个和的形式，求最大乘积