案例分析例程：剖析成功背后的逻辑

2023CANN训练营第2季————Ascend C算子Tiling切分原理与实战

在使用Ascend C进行算子开发时，多核自动并行和单核内流水线并行特性简化了代码搭建过程，开发者需聚焦于数据切分与计算逻辑实现。面对固定shape和动态shape的算子，动态shape的实现与注意点成为关键。本文通过一个动态shape的例程，探索了Ascend C算子Tiling切分原理与实战过程，从概念回顾、设计约束与策略、实现逻辑、结果验证与问题解决等多个层面进行详细阐述。

概念回顾：Tiling基本概念涉及数据切分与分块计算，将数据划分成可被AI Core处理的单位，以便高效利用本地内存。Tiling实现为编程提供相关参数，指导数据如何在不同计算单元间分配，最终传递给kernel侧用于数据切分指导。

设计约束与策略：首先，考虑到物理限制，数据必须保持32字节对齐，以适应AICore的存储需求。对于不满足对齐条件的输入向量，通过预先对齐以满足需求。同时，尽可能减少AI Core与外部数据的搬运频度，通过合理设计，确保数据在Unified Buffer间高效流动。充分利用多核/流水线技术，均衡分配计算任务，减少kernel侧的标量运算量。

实现逻辑：通过调用Ascend C API获取硬件信息，计算和处理输入向量的shape和数据类型，确保数据对齐与Tiling计算的准确性。根据输入向量的shape，选择合适的切分变量，设计适用于动态shape的Tiling算法。对于不同切分模式，如核间均分、核内均分、核间不均分等，通过TilingKey参数区分，实现对应的host侧和kernel侧代码逻辑。

结果验证：通过硬件平台选择，验证算法在实际运行环境中的性能。测试不同shape的输入向量，评估算法在动态shape场景下的适应性和效率。关注double buffer的实现，确保代码兼容性与性能优化。

问题及解决方法：在实际开发过程中，可能会遇到使用TILING_KEY_IS()导致的报错问题，解决方法是将相关判断逻辑移至kernel函数中，并通过变量传递TilingKey值。另外，开启double buffer时可能导致QUE数量超过限制的问题，改进方法涉及遵循文档指导，合理配置不同处理器的QUE数量约束。

本文以实战角度深入探讨了Ascend C算子Tiling切分的原理与实践，通过详细步骤和案例分析，为开发者提供了从概念理解到代码实现的全面指导。在不断探索与实践中，Ascend C算子开发能力将得到显著提升。