字节跳动
AI Infra 后端面经
完整信息
本篇目录
继续来分享下之前的面经~欢迎友好讨论，信息共享
1.项目拷打
2.大模型推理加速办法
3.压缩量化方法有哪些 量化的优点有哪些
4.权重量化、激活值量化、kv cache量化都有什么好处
5.kv cache原理 了解page attention吗 为什么效果好
6.了解prefix cache吗
7.ai应用（agent）的构建大致讲一下包含哪些模块
8.手撕 一个环有10个点0-9，0开始出发，每步顺时针或逆时针走一个点，求经过n步回到0点有多少种不同走法
本篇目录
当前问题0108
- 01
大模型推理加速办法
- 02
压缩量化方法有哪些 量化的优点有哪些
- 03
权重量化、激活值量化、kv cache量化都有什么好处
- 04
kv cache原理
- 05
了解page attention吗 为什么效果好
- 06
了解prefix cache吗
- 07
ai应用（agent）的构建大致讲一下包含哪些模块
- 08
一个环有10个点0-9，0开始出发，每步顺时针或逆时针走一个点，求经过n步回到0点有多少种不同走法