RL 链路卡死时,如何通过 CUDA Graph、TP 与确定性设置缩小问题范围?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

2 篇

禾赛科技

AI Infra
秋招一面
查看原面经 →
程序是否退出、运行状态有什么变化,以及它和训推一致性是什么关系。

阿里巴巴

AI Infra
二面
查看原面经 →
TP并行结合CUDA Graph场景下的稳定性、超时问题排查思路
追问
如何通过最小复现场景(TP=2)定位问题,对比TP=1、高TP规模的差异表现
追问
CUDA Graph属于问题触发条件还是根本原因?

相关题目

4 题