全部题目

模型、RAG、Agent与工程面试题一网打尽,配套答案解析与延伸追问。

已筛选

共 12589 道题

排序:

15916
CUDA 代码从编写到 GPU 执行经历怎样的编译流程?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
15919
NVIDIA GPU 为 FP8 计算提供了哪些硬件优化?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
1592
LLM 开发为何采用固定流程框架,纯自然语言有什么缺点?
AI 应用工程与治理AI Coding 与研发流程
比较选型
进阶
15920
使用 FP8 时,KV Cache 的大小如何计算?
模型基础与推理推理优化与模型压缩
原理机制
进阶
15922
你如何看待 AI 计算硬件形态的未来演进?
模型训练与对齐分布式训练与计算硬件
开放讨论
—
15923
硬件如何支持低精度量化计算,需要哪些能力?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
15924
FlashAttention 中各矩阵的形状和计算过程如何推导?
模型基础与推理Transformer 与注意力
原理机制
进阶
15925
多头、多 Batch 的注意力计算如何在 GPU 上并行?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶
15926
大语言模型在 NPU 上推理时,主要性能瓶颈在哪里?
模型训练与对齐分布式训练与计算硬件
原理机制
进阶
15927
Prefill 与 Decode 阶段的矩阵乘应如何分别优化?
模型训练与对齐分布式训练与计算硬件
方案设计
进阶