【DCU性能测试】使用CUDA Sample bandwidthTest测试海光DCU显存带宽

发布时间:2026/10/5 22:25:03

【DCU性能测试】使用CUDA Sample bandwidthTest测试海光DCU显存带宽
前言显存带宽是衡量GPU计算性能的关键指标之一直接影响模型训练和推理的效率。本文在海光BW1100 DCU上使用NVIDIA CUDA Samples中的bandwidthTest工具进行显存带宽测试验证DCU在内存带宽方面的能力。测试环境项目配置硬件平台海光BW1100GPUBW1101操作系统Ubuntu 22.04容器镜像pytorch:2.9.0-ubuntu22.04-dtk26.04-py3.10DTK版本26.04CUDA Samplesv12.5测试准备1. 拉取容器镜像dockerpull harbor.sourcefind.cn:5443/dcu/admin/base/pytorch:2.9.0-ubuntu22.04-dtk26.04-py3.102. 下载CUDA Sampleswget-Ov12.5.tar.gz https://codeload.github.com/NVIDIA/cuda-samples/tar.gz/refs/tags/v12.5tar-xzfv12.5.tar.gz3. 启动容器dockerrun-it\--networkhost\--namebandwidthTest\--privileged\--device/dev/kfd\--device/dev/dri\--device/dev/mkfd\--cap-addSYS_PTRACE\--security-optseccompunconfined\-uroot\-v/opt/hyhal/:/opt/hyhal/:ro\-v/data:/bandwidthTest\-v/data/home/cuda-samples-12.5/:/cuda-samples-12.5\-w/cuda-samples-12.5/Samples/1_Utilities/bandwidthTest\harbor.sourcefind.cn:5443/dcu/admin/base/pytorch:2.9.0-ubuntu22.04-dtk26.04-py3.10bash关键参数说明--device/dev/kfd --device/dev/dri --device/dev/mkfd映射DCU设备节点-v /opt/hyhal/:/opt/hyhal/:ro只读挂载海光HAL库-w设置容器启动后直接进入bandwidthTest目录4. 配置环境source/opt/dtk-26.04/env.shsource/opt/dtk-26.04/cuda/env.sh5. 编译bandwidthTestcdSamples/1_Utilities/bandwidthTest/makecleanmake编译完成后执行./bandwidthTest测试结果[CUDA Bandwidth Test] - Starting... Running on... Device 0: BW1101 gfx938:sramecc:xnack- Quick Mode Host to Device Bandwidth, 1 Device(s) PINNED Memory Transfers Transfer Size (Bytes) Bandwidth(GB/s) 32000000 21.9 Device to Host Bandwidth, 1 Device(s) PINNED Memory Transfers Transfer Size (Bytes) Bandwidth(GB/s) 32000000 37.9 Device to Device Bandwidth, 1 Device(s) PINNED Memory Transfers Transfer Size (Bytes) Bandwidth(GB/s) 32000000 1293.8 Result PASSbandwidthTest会分别测试以下三种传输模式Host to Device (H2D)CPU内存 → GPU显存带宽21.9 GB/sDevice to Host (D2H)GPU显存 → CPU内存带宽37.9 GB/sDevice to Device (D2D)GPU显存内部拷贝带宽1293.8 GB/s结果分析1. D2D带宽表现优异Device to Device带宽达到1293.8 GB/s这反映了DCU显存内部的高带宽能力。在大模型训练中权重更新、梯度同步等操作大量依赖D2D拷贝高D2D带宽意味着这些操作不会成为性能瓶颈。2. H2D与D2H带宽差异H2D为21.9 GB/sD2H为37.9 GB/sD2H略高于H2D约73%。这种差异在GPU架构中较为常见可能与数据传输的DMA引擎调度策略有关。对于推理场景模型加载阶段主要受H2D带宽影响21.9 GB/s的带宽对于常规模型加载是足够的。3. 实际应用影响训练场景大模型训练中DDP多卡通信、梯度同步主要依赖D2D带宽1293.8 GB/s的高带宽对分布式训练友好推理场景模型权重加载受H2D带宽限制对于7B级别模型约14GB参数理论加载时间约0.64秒可接受数据预处理数据从CPU到GPU的传输受H2D带宽影响批量数据加载时需注意pipeline设计总结海光BW1100 DCU在bandwidthTest测试中表现良好D2D带宽达到1293.8 GB/s展现了显存内部的高带宽能力对大模型训练场景友好。H2D/D2H带宽分别为21.9/37.9 GB/s满足常规模型加载和数据传输需求。在实际使用中建议关注数据传输pipeline的设计尽量减少CPU-GPU之间的频繁数据拷贝充分利用DCU高D2D带宽的优势。相关链接CUDA Samples: https://github.com/NVIDIA/cuda-samples/releases/tag/v12.5海光DCU开发者社区: https://developer.sourcefind.cn/

相关新闻

如何在Windows 11 24H2 LTSC系统上安装微软商店的完整指南

如何在Windows 11 24H2 LTSC系统上安装微软商店的完整指南

2026/8/23 0:51:49

如何在Windows 11 24H2 LTSC系统上安装微软商店的完整指南 【免费下载链接】LTSC-Add-MicrosoftStore Add Windows Store to Windows 11 24H2 LTSC 项目地址: https://gitcode.com/gh_mirrors/ltscad/LTSC-Add-MicrosoftStore 你是否在使用Windows 11 LTSC版本时发现微软…

2025-2026中小学生学习工具APP哪些值得用?小猿AI:全能型一站式智能学习平台

2025-2026中小学生学习工具APP哪些值得用?小猿AI:全能型一站式智能学习平台

2026/10/5 9:09:04

打开手机应用商店搜“学习工具”,几十款APP鱼龙混杂——有没有一款APP,能把作业检查、搜题解析、AI讲解、专项练习、错题复盘、考试备考全部装进同一个平台?让孩子的学习数据持续积累、让每一次练习都打在薄弱点上、让家长告别多APP切换的繁琐…

GTNH中文汉化完整指南:让格雷科技新视野秒变中文界面

GTNH中文汉化完整指南:让格雷科技新视野秒变中文界面

2026/10/5 1:08:16

GTNH中文汉化完整指南:让格雷科技新视野秒变中文界面 【免费下载链接】Translation-of-GTNH GTNH整合包的汉化 项目地址: https://gitcode.com/gh_mirrors/tr/Translation-of-GTNH 还在为GTNH整合包中复杂的英文界面而烦恼吗?面对数千个专业科技术…

CANN/GE ACL数据集缓冲区添加函数

CANN/GE ACL数据集缓冲区添加函数

2026/10/5 14:25:36

aclmdlAddDatasetBuffer 【免费下载链接】ge GE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、Te…

用ffmpeg高效批量调整图片尺寸的实战指南

用ffmpeg高效批量调整图片尺寸的实战指南

2026/10/5 16:54:26

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

Transformers 音频特征提取工具库 audio_utils 全解析:从 Mel 刻度换算到对数 Mel 频谱

Transformers 音频特征提取工具库 audio_utils 全解析:从 Mel 刻度换算到对数 Mel 频谱

2026/10/5 11:17:40

Transformers 音频特征提取工具库 audio_utils 全解析:从 Mel 刻度换算到对数 Mel 频谱 【免费下载链接】transformers 🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and mu…

RustFS 多节点集群重启与滚动升级实战:Readiness、Quorum 与 Degraded 模式完全指南

RustFS 多节点集群重启与滚动升级实战:Readiness、Quorum 与 Degraded 模式完全指南

2026/10/5 21:04:58

RustFS 多节点集群重启与滚动升级实战:Readiness、Quorum 与 Degraded 模式完全指南 【免费下载链接】rustfs 🚀2.3x faster than MinIO for 4KB object payloads. RustFS is an open-source, S3-compatible high-performance object storage system sup…

Java Integer缓存揭秘:128陷阱原理、避坑与面试全解

Java Integer缓存揭秘:128陷阱原理、避坑与面试全解

2026/10/5 15:05:44

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

RustFS Scanner 数据用量发布权威性决策:配额准入如何获得可用的权威依据

RustFS Scanner 数据用量发布权威性决策:配额准入如何获得可用的权威依据

2026/10/5 15:05:44

RustFS Scanner 数据用量发布权威性决策:配额准入如何获得可用的权威依据 【免费下载链接】rustfs 🚀2.3x faster than MinIO for 4KB object payloads. RustFS is an open-source, S3-compatible high-performance object storage system supporting mi…