cann/asc-devkit核间同步初始化接口

InitDetermineComputeWorkspace【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径为basic_api/kernel_operator_determine_compute_sync_intf.h。InitDetermineComputeWorkspace是基于核间顺序执行的确定性计算的初始化配置接口能够初始化GM共享内存的值完成初始化后才可以调用WaitPreBlock和NotifyNextBlock。以上三个接口共同完成基于核间顺序执行的确定性计算确定性计算的具体含义请参考确定性计算。函数原型__aicore__ inline void InitDetermineComputeWorkspace(GlobalTensorint32_t gmWorkspace, LocalTensorint32_t ubWorkspace)参数说明表1接口参数说明参数名称输入/输出含义gmWorkspace输入临时空间初始化核间同步的共享内存类型为GlobalTensor。ubWorkspace输入临时空间用于操作gmWorkspace类型为LocalTensor。返回值说明无约束说明gmWorkspace申请的空间最少要求为GetBlockNum()*32BytesubWorkspace申请的空间最少要求为GetBlockNum()*3232Bytes。与IBSet/SyncAll不同该接口输入参数gmWorkspace缓存的值不需要初始化为0。使用该接口进行多核控制时算子调用时指定的逻辑AI Core核数numBlocks必须保证不大于实际运行该算子的AI处理器核数否则框架进行多轮调度时会插入异常同步导致Kernel“卡死”现象。调用示例// 初始化GM共享内存的同步状态必须在核函数开始时首先调用。 AscendC::InitDetermineComputeWorkspace(gmWorkspace, ubWorkspace); for(int64_t i 0; i tileNum; i) { AscendC::LocalTensorT srcLocal que.AllocTensorT(); AscendC::DataCopy(srcLocal, srcGlobal[i * tileCount], tileCount); // 等待前序核blockIdx-1完成操作。 AscendC::WaitPreBlock(gmWorkspace, ubWorkspace); // 开启原子累加。 AscendC::SetAtomicAddT(); AscendC::DataCopy(dstGlobal[i * tileCount], srcLocal, tileCount); AscendC::DisableDmaAtomic(); // 通知后序核blockIdx1当前核已完成。 AscendC::NotifyNextBlock(gmWorkspace, ubWorkspace); que.FreeTensor(srcLocal); }完整样例请参考sequential_block_sync示例。【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考