Prefill、Decode 的 Attention 与 MoE 计算分别适合哪些并行策略？
Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~
问 AI
本题目录
相关面经
1 篇
蚂蚁集团
AI Infra 实习生日常实习一面
Prefill / Decode × Attention / MOE 这四种组合，分别更适合什么并行策略
Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~
Prefill / Decode × Attention / MOE 这四种组合，分别更适合什么并行策略