实现算子融合时有哪些难点和性能取舍?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

6 篇

卓驭

HPC高性能计算工程师
校招秋招一面、二面、三面
查看原面经 →
基础与模型优化:多进程 / 线程性能差异,KV Cache、算子融合、量化等

华为

AI 工程师实习生
暑期实习一面
查看原面经 →
你怎么决定能不能融

阿里巴巴

AI Infra 实习生
暑期实习一面
查看原面经 →
你怎么扫描图、怎么判断独立性、怎么决定要不要下手
追问
如果一串算子里有中间结果被别的分支依赖,那你怎么办;如果有个常量被很多地方共用,你怎么判断能不能融

阿里巴巴

大模型算法
一面
查看原面经 →
说的算子融合具体是怎么做的

快手

AI Infra
校招
查看原面经 →
算子融合的实现难点
展开剩余 1 篇面经

OPPO

AI Infra 实习生
实习二面
查看原面经 →
算子融合决策,什么场景适合融合

相关题目

4 题