返回全部题目← 上一题9 / 37下一题 →题库/模型基础与推理/Q-16466Transformer 输入的 Token Embedding 与位置编码怎样组合，是否逐元素相加？知识专题：Tokenizer 与位置编码题目类型：原理机制技术难度：进阶相关面经：2 篇未标记未标记待复习已掌握收藏反馈（在 GitHub 新标签页打开）Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~问 AIKimiKimi（新窗口打开）Qwen千问（新窗口打开）OpenAIChatGPT（新窗口打开）本题目录相关面经相关题目相关面经2 篇阿里巴巴机器学习算法2026-04-21一面、二面查看原面经 →写transformer的时候问位置编码和原始embedding是逐元素相加吗字节跳动风控算法实习生2026-04-16实习一面查看原面经 →旋转位置编码、绝对位置编码，是直接加到 token embedding 上的吗？相关题目4 题0287Token 与字符有什么区别？同一知识专题题目类型：比较选型技术难度：基础相关面经：3 篇0508位置编码的原理。同一知识专题题目类型：原理机制技术难度：进阶相关面经：5 篇0512大模型常见位置编码有哪些，各有什么优缺点？同一知识专题题目类型：比较选型技术难度：进阶相关面经：15 篇11936如何将大模型的上下文长度从 32K 扩展到 128K？同一知识专题题目类型：方案设计技术难度：进阶相关面经：2 篇♥♥♥♥♥← 上一题已到最后一题← 上一题重构模型词表时，如何处理新增词项与 BPE 分词规则的兼容问题？下一题 →相对位置编码通常注入 Attention 的哪个位置，怎样影响注意力分数？
