CATLASS × AscendC 算子调测 API：两行代码看清 kernel 内部

CATLASS × AscendC 算子调测 API两行代码看清 kernel 内部【免费下载链接】pot-desktop一个跨平台的划词翻译和OCR软件 | A cross-platform software for text translation and recognition.项目地址: https://gitcode.com/GitHub_Trending/po/pot-desktop本文以 CATLASS 样例 00_basic_matmul 为例讲透 AscendC 算子调测 API 的用法在 kernel 里加两行 AscendC::printf 与 DumpTensor一条命令完成编译运行时直接读到核函数里的循环变量与 Tensor 内容快速定位 GEMM 结果异常的原因。一 · 为什么需要算子级调测你大概率遇到过这种场面算子跑完了输出对不上预期翻遍源码也不知道错在哪一环。主机端工具进不了核函数内部断点打不上去NPU 里的中间数据更是全程黑盒——kernel 调试常常只能靠盲猜。这套 AscendC 提供的调测能力就是冲着这个痛点来的往 kernel 里加两行语句核内部的变量值、Tensor 的真实内容都能直接回显到终端。整篇文章带你完整走一遍动手量只有两行代码。二 · 调测 API 能做什么这套工具就两类能力一个管打印一个管看数据AscendC::printf写法和标准 C 的 printf 完全一致只是语句要放进 kernel 里执行输出会回到主机端终端。适合打印循环次数、块索引、shape 这类标量变量——听它汇报运行状态。AscendC::DumpTensor把指定 Tensor 的数据直接倒到主机端输出传入 tensor 和 dump 范围即可适合核对 GM、L1 等层级的真实数据内容——把数据摊在桌面上看。这里 GM 是芯片上存放运算数据的片上存储L1 是每个核自己的本地内存。两样配合就是 kernel 调测的最小组合拳标量状态用 printf 看数据内容用 DumpTensor 看。三 · 实操 · 用 00_basic_matmul 走一遍下面整个实操基于 CATLASS 自带的矩阵乘法样例 00_basic_matmul如果你还没跑通过这个样例可先按 docs/zh/1_Practice/01_quick_start.md 完成环境准备。3.1 先定位埋点位置埋点不能随便放要选在核函数刚跑起来的前几行。这个样例里矩阵乘法的核入口是 include/catlass/gemm/kernel/basic_matmul.hpp 中的operator()AscendC::AIC它的第一段代码就备好了两类信息coreLoops当前核要承担的 tiling 循环总数。先盯住它就能知道这个核这一轮总共要干几票活gmA/gmB/gmC矩阵 A、B、C 对应的全局张量。想核对数据内容观察对象就是它们。所以两行调试语句全部加在这个函数体内一处就够。3.2 在核函数里加两行调试语句两个落点各有各的用意coreLoops算出来之后插一行AscendC::printf打印循环次数。这个数字随矩阵形状变化是块调度是否如预期的第一手证据gmA、gmB、gmC三个张量完成缓冲区绑定之后插一行AscendC::DumpTensor把矩阵 A 的前 16 个元素倒出来核对输入数据是不是你以为的那份。改动全貌如下只贴新增行与定位上下文其余代码保持原样// include/catlass/gemm/kernel/basic_matmul.hppoperator()AscendC::AIC 函数体内 uint32_t coreLoops matmulBlockScheduler.GetCoreLoops(); AscendC::printf(CoreLoops is %d\n, coreLoops); // ...中间省略 gmA / gmB / gmC 的 SetGlobalBuffer 绑定... gmC.SetGlobalBuffer((__gm__ ElementC *)params.ptrC); AscendC::DumpTensor(gmA, coreLoops, 16);DumpTensor的最后一个参数控制 dump 元素个数这里取 16 做个小批量试探。3.3 一键编译回到工程根目录执行 scripts/build.shbash scripts/build.sh 00_basic_matmul不用传任何额外编译选项——只要代码里调用了调试接口编译时会自动把对应支持打开编译产物落在output/bin下。3.4 跑起来并读懂回显进入产物目录执行样例参数依次是矩阵的 m、n、k 和 Device IDcd output/bin ./00_basic_matmul 256 512 1024 0看回显之前先提个醒DumpTensor不能 dump 任意层级的数据红线清单在第四节先跑起来再对照着看。实际回显数值仅为示例实际会随数据不同而变化opTypedevice_gemm, DumpHead: AIC-0, CoreTypeAIC, block dim24, total_block_num24, block_remain_len1048408, block_initial_space1048576, rsv0, magic5aa5bccd CoreLoops is 4 DumpTensor: desc4, addrc0013000, data_typefloat16, positionGM [3.402344, -1.056641, 2.830078, 2.984375, 4.117188, -3.025391, -1.647461, 2.681641, -2.222656, 0.539551, -0.226074, 1.289062, -1.352539, 0.134033, 4.523438, 4.160156] Compare success.逐行拆开读输出含义DumpHead: AIC-0, ...dump 请求的头部信息。AIC-0 表示来自 AI Core 0Cube 计算核block dim / total_block_num 描述本次数据搬运的块数magic 是协议魔数CoreLoops is 4我们插入的 printf当前核这一轮负责 4 次 tilingDumpTensor: ..., data_typefloat16, positionGMdump 的元数据数据精度是 float16取数位置在 GM 存储[3.402344, ...]矩阵 A 前 16 个元素的真实内容Compare success.样例自带的一致性校验通过说明加的两行调试代码没有干扰计算结果另外留意一点这个样例有多个核参与运算每个 Cube 核都会各自完成一组上述输出所以终端里会看到多段重复的 DumpHead这是正常现象别误以为是报错重放。四 · 调测绕不开的几道坎⚠️ 第一道坎也是唯一必须记住的红线DumpTensor的取数位置有层级限制不是全层级都能看。L0A、L0B不支持这两块是矩阵单元与向量单元之间的数据交换缓冲生命周期极短API 直接不开放FixPipe不支持管道中间缓冲同样读不出来Ascend 950PR/Ascend 950DT上L1额外不支持目标硬件如果是这两系数据观察点实际上只剩 GM。由此推出第二条经验既然 L0 和管道层看不到问题恰恰卡在数据交接环节时就用printf打印循环计数、块坐标这类标量做间接对照配合 GM/L1 的数据 dump 夹逼出异常发生的位置。第三道坎是可逆性调试接口调了才生效不调即关闭调试结束后把两行语句删掉同样的编译命令就会让样例回到常规版本无需切换任何配置也不会残留脏状态。✅五 · 小结一句话带走kernel 调试 printf 看标量 DumpTensor 看数据埋在核函数入口前几行全程两行代码。关键路径与命令速查步骤位置 / 命令埋点文件include/catlass/gemm/kernel/basic_matmul.hppoperator()AscendC::AIC函数体内调试语句AscendC::printf(CoreLoops is %d\n, coreLoops);与AscendC::DumpTensor(gmA, coreLoops, 16);编译bash scripts/build.sh 00_basic_matmul运行cd output/bin ./00_basic_matmul 256 512 1024 0m / n / k / Device ID下次再碰到算子结果不对但找不到原因的场面直接把这两行加上跑一遍——多数情况下回显会替你说话。【免费下载链接】pot-desktop一个跨平台的划词翻译和OCR软件 | A cross-platform software for text translation and recognition.项目地址: https://gitcode.com/GitHub_Trending/po/pot-desktop创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考