快手

AI Infra 实习生一面面经

完整信息

9 条问法 · 9 道题

本篇目录

1.拷打项目

推理框架算子如何优化的

如何构建Memory pool的

如何对框架进行测试的?数据量有多少

2.八股

Vllm的page attention了解吗?chunk prefill是如何实现的?continous batching了解吗?

3.leetcode

二维数组每行有序,求第K小的元素(prioirty_queue,只写出来暴力#牛客AI配图神器#)

本篇目录
  1. 01
  2. 02
  3. 03
  4. 04
  5. 05
  6. 06
    Vllm的page attention了解吗?chunk prefill是如何实现的?continous batching了解吗?
  7. 07
  8. 08
  9. 09

相关公司