Weight-only 量化有哪些形式，CUDA Kernel 如何优化访存，Marlin 的思路是什么？

知识专题：推理优化与模型压缩题目类型：原理机制技术难度：进阶

相关面经：1 篇

未标记

Sorry o(╥﹏╥)o，暂无参考答案。带这道题，问问AI吧~

问 AI

Kimi 千问 ChatGPT

本题目录

相关面经

1 篇

公司未注明

2026-03-03面经合集

查看原面经 →

weight-only量化有哪些，实现weight-only量化cuda kernel时如何优化访存，是否了解Marlin kernel