标签:自定义 迭代 CANN rep stride src0 src1 算子 字节
利用AI Core的Vector Unit,进行矢量加计算。
vec_add(mask, dst, src0, src1, repeat_times, dst_rep_stride, src0_rep_stride, src1_rep_stride)
-
mask
通常用这个参数的连续模式,就是设置前N个数据参与计算。
每次迭代可以计算256字节的数据。
比如,当计算float16类型数据时,每个数据2字节,所以mask设置成128时,就可以在一个迭代中计算256字节的数据。 -
dst, src0, src1
输出与输入Tensor。
通常事先通过tik_instance.Tensor定义定义好。 -
repeat_times
迭代次数。(最大值为255)
比如当Tensor大小是512字节时,因为一次迭代会计算256字节,所以应该迭代2次。 -
dst_rep_stride, src0_rep_stride, src1_rep_stride
步长。两次迭代头与头之间的block数。
通常连续计算时,设置为8。(32B*8=256B)
注:当前版本为CANN 5.0
标签:自定义,迭代,CANN,rep,stride,src0,src1,算子,字节 来源: https://blog.csdn.net/CProjectManager/article/details/120841582
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。