快手
AI Infra面经
完整信息
本篇目录
给我面没招了，感觉自己好菜、面试很难，还是要多多练习
1.H100相比A100有哪些改进
2.介绍下wrap这个概念
3.DP、TP-SP的计算通信重叠原理，具体是什么通信和什么计算重叠
4.flash-attention知识点深挖
5.使用流水线并行和不使用PP并行，显存峰值一样吗
6.CUDA_DEVICE_MAX_CONNECTIONS具体含义是什么
7.launch bound是什么含义H2D和D2H可以重叠吗
手撕代码:
1)LRU
2)online-softmax和flash-attn伪代码
本篇目录
当前问题0110
- 01
H100相比A100有哪些改进
- 02
介绍下wrap这个概念
- 03
DP、TP-SP的计算通信重叠原理，具体是什么通信和什么计算重叠
- 04
flash-attention知识点深挖
- 05
使用流水线并行和不使用PP并行，显存峰值一样吗
- 06
CUDA_DEVICE_MAX_CONNECTIONS具体含义是什么
- 07
launch bound是什么含义
- 08
H2D和D2H可以重叠吗
- 09
LRU
- 10
online-softmax和flash-attn伪代码