返回全部题目← 上一题11 / 89下一题 →题库/模型基础与推理/Q-14271MHA、MQA、GQA 与 MLA 的结构和计算方式有哪些差异？知识专题：Transformer 与注意力题目类型：比较选型技术难度：进阶相关面经：4 篇未标记未标记待复习已掌握收藏反馈（在 GitHub 新标签页打开）Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~问 AIKimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）本题目录相关面经相关题目相关面经4 篇公司未注明2026-09-04面经合集查看原面经 →MHA/MQA/GQA区别，为什么GQA现在主流（被问≥6次）智谱大模型算法2026-06-29一面查看原面经 →MHA、MQA、GQA三种注意力机制的区别、优劣及适用场景腾讯LLM 算法2026-03-29暑期实习一面查看原面经 →介绍self-attention，问为什么要除以根号下dk，可以除以其他数吗，或者有没有等价的方法?说一下不同的attention及原理和公式(MHA、MQA、GQA、MLA)百度大模型算法实习生2026-01-15实习一面查看原面经 →你知道 GQA、MHA 跟 MLA 的区别吗？相关题目4 题0036Transformer 中的 Attention 如何计算？同一知识专题题目类型：原理机制技术难度：进阶相关面经：48 篇0268Self-Attention 为何利于并行训练，与 RNN 相比有哪些局限？同一知识专题题目类型：比较选型技术难度：进阶相关面经：2 篇0572Self-Attention 为什么需要 Scaling？同一知识专题题目类型：原理机制技术难度：进阶相关面经：8 篇0575手写 Multi-Head Attention。同一知识专题题目类型：代码题技术难度：进阶相关面经：25 篇♥♥♥♥♥← 上一题已到最后一题← 上一题降低自注意力计算复杂度有哪些常见方法？下一题 →Self-Attention 中用 Q 替换 K，形成 QQV 是否可行，会有什么变化？
