CANN/asc-devkit bfloat16x2掩码不等比较函数

发布时间:2026/10/1 0:11:14

CANN/asc-devkit bfloat16x2掩码不等比较函数
__hneux2_mask【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明比较两个bfloat16x2_t类型数据的两个分量结果以unsigned int形式返回低16位为第一个分量的掩码结果高16位为第二个分量的掩码结果。如果分量不相等则对应16位掩码为0xFFFF否则为0x0。若任一输入的分量为nan对应16位掩码为0xFFFF。函数原型unsigned int __hneux2_mask(bfloat16x2_t x, bfloat16x2_t y)参数说明表1参数说明参数名输入/输出描述x输入源操作数。y输入源操作数。返回值说明比较输入数据各分量是否不相等的结果满足时对应16位掩码结果为0xFFFF不满足时对应16位掩码结果为0x0。特殊值如下x分量值y分量值对应分量返回值任一分量含nan0xFFFF±0±00x0000infinf0x0000-inf-inf0x0000inf-inf0xFFFF-infinf0xFFFF约束说明无需要包含的头文件使用该接口需要包含simt_api/asc_bf16.h头文件。#include simt_api/asc_bf16.h调用示例SIMT编程场景// 使用短向量可提升数据搬运效率 __global__ __launch_bounds__(1024) void simt_hneux2_mask(bfloat16_t* x, bfloat16_t* y, unsigned int* dst, uint32_t input_total_length) { uint32_t idx blockIdx.x * blockDim.x threadIdx.x; // 每个线程处理1个bfloat16x2_t类型的数据即2个bfloat16_t类型的数据因此idx input_total_length / 2的线程不处理数据 if (idx input_total_length / 2) { return; } bfloat16x2_t* input1 (bfloat16x2_t*)x; bfloat16x2_t* input2 (bfloat16x2_t*)y; dst[idx] __hneux2_mask(input1[idx], input2[idx]); }SIMD与SIMT混合编程场景// 使用短向量可提升数据搬运效率 __simt_vf__ __launch_bounds__(1024) inline void simt_hneux2_mask(__gm__ bfloat16x2_t* x, __gm__ bfloat16x2_t* y, __gm__ unsigned int* dst, uint32_t input_total_length) { uint32_t idx blockIdx.x * blockDim.x threadIdx.x; // 每个线程处理1个bfloat16x2_t类型的数据即2个bfloat16_t类型的数据因此idx input_total_length / 2的线程不处理数据 if (idx input_total_length / 2) { return; } dst[idx] __hneux2_mask(x[idx], y[idx]); } __global__ __vector__ void compare_kernel(__gm__ bfloat16_t* x, __gm__ bfloat16_t* y, __gm__ unsigned int* dst, uint32_t input_total_length) { asc_vf_callsimt_hneux2_mask(dim3(1024), (__gm__ bfloat16x2_t*)x, (__gm__ bfloat16x2_t*)y, dst, input_total_length); }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

DLSS Swapper终极指南:轻松管理游戏DLSS版本,释放显卡全部潜力

DLSS Swapper终极指南:轻松管理游戏DLSS版本,释放显卡全部潜力

2026/9/26 15:25:52

DLSS Swapper终极指南:轻松管理游戏DLSS版本,释放显卡全部潜力 【免费下载链接】dlss-swapper 项目地址: https://gitcode.com/GitHub_Trending/dl/dlss-swapper 还在为游戏内置的DLSS版本过旧而烦恼吗?想体验最新DLSS版本带来的性能…

终极离线AI写作神器:5分钟打造你的本地化创作助手

终极离线AI写作神器:5分钟打造你的本地化创作助手

2026/9/7 22:06:50

终极离线AI写作神器:5分钟打造你的本地化创作助手 【免费下载链接】AI-Writer AI 写小说,生成玄幻和言情网文等等。中文预训练生成模型。采用我的 RWKV 模型,类似 GPT-2 。AI写作。RWKV for Chinese novel generation. 项目地址: https://g…

AI程序员团队管理:成本优化与高效协作实践

AI程序员团队管理:成本优化与高效协作实践

2026/9/28 16:24:18

1. 项目背景:当AI程序员成为生产力主力军最近业内流传着一个令人震惊的案例:某创业团队仅用3名人类工程师带领100个AI程序员,一个月就烧掉了130万美元的运营成本。更令人意外的是,OpenAI公开表示愿意为这类项目提供资金支持。这个…

CANN/GE ACL数据集缓冲区添加函数

CANN/GE ACL数据集缓冲区添加函数

2026/9/29 22:00:59

aclmdlAddDatasetBuffer 【免费下载链接】ge GE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、Te…

用ffmpeg高效批量调整图片尺寸的实战指南

用ffmpeg高效批量调整图片尺寸的实战指南

2026/9/30 20:35:35

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

Transformers 音频特征提取工具库 audio_utils 全解析:从 Mel 刻度换算到对数 Mel 频谱

Transformers 音频特征提取工具库 audio_utils 全解析:从 Mel 刻度换算到对数 Mel 频谱

2026/9/30 20:35:38

Transformers 音频特征提取工具库 audio_utils 全解析:从 Mel 刻度换算到对数 Mel 频谱 【免费下载链接】transformers 🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and mu…

RustFS 多节点集群重启与滚动升级实战:Readiness、Quorum 与 Degraded 模式完全指南

RustFS 多节点集群重启与滚动升级实战:Readiness、Quorum 与 Degraded 模式完全指南

2026/9/30 20:35:36

RustFS 多节点集群重启与滚动升级实战:Readiness、Quorum 与 Degraded 模式完全指南 【免费下载链接】rustfs 🚀2.3x faster than MinIO for 4KB object payloads. RustFS is an open-source, S3-compatible high-performance object storage system sup…

Java Integer缓存揭秘:128陷阱原理、避坑与面试全解

Java Integer缓存揭秘:128陷阱原理、避坑与面试全解

2026/9/30 20:35:33

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

RustFS Scanner 数据用量发布权威性决策:配额准入如何获得可用的权威依据

RustFS Scanner 数据用量发布权威性决策:配额准入如何获得可用的权威依据

2026/9/30 8:20:32

RustFS Scanner 数据用量发布权威性决策:配额准入如何获得可用的权威依据 【免费下载链接】rustfs 🚀2.3x faster than MinIO for 4KB object payloads. RustFS is an open-source, S3-compatible high-performance object storage system supporting mi…