草庐IT

Spark源码解析(一):RDD之Transfrom算子

一、延迟计算RDD代表的是分布式数据形态,因此,RDD到RDD之间的转换,本质上是数据形态上的转换(Transformations)在RDD的编程模型中,一共有两种算子,Transformations类算子和Actions类算子。开发者需要使用Transformations类算子,定义并描述数据形态的转换过程,然后调用Actions类算子,将计算结果收集起来、或是物化到磁盘。在这样的编程模型下,Spark在运行时的计算被划分为两个环节。基于不同数据形态之间的转换,构建计算流图(DAG,DirectedAcyclicGraph)通过Actions类算子,以回溯的方式去触发执行这个计算流图换句话说

Spark源码解析(一):RDD之Transfrom算子

一、延迟计算RDD代表的是分布式数据形态,因此,RDD到RDD之间的转换,本质上是数据形态上的转换(Transformations)在RDD的编程模型中,一共有两种算子,Transformations类算子和Actions类算子。开发者需要使用Transformations类算子,定义并描述数据形态的转换过程,然后调用Actions类算子,将计算结果收集起来、或是物化到磁盘。在这样的编程模型下,Spark在运行时的计算被划分为两个环节。基于不同数据形态之间的转换,构建计算流图(DAG,DirectedAcyclicGraph)通过Actions类算子,以回溯的方式去触发执行这个计算流图换句话说

送你5个MindSpore算子使用经验

摘要:MindSpore给大家提供了很多算子进行使用,今天给大家简单介绍下常用的一些算子使用时需要注意的内容。本文分享自华为云社区《【MindSpore易点通】算子使用经验总结》,作者:Skytier。MindSpore给大家提供了很多算子进行使用,今天给大家简单介绍下常用的一些算子使用时需要注意的内容。使用mindspore.nn.BatchNorm注意momentum参数BatchNormalization里有一个momentum参数,该参数作用于mean和variance的计算上,保留了历史Batch里的mean和variance值,即moving_mean和moving_varianc

送你5个MindSpore算子使用经验

摘要:MindSpore给大家提供了很多算子进行使用,今天给大家简单介绍下常用的一些算子使用时需要注意的内容。本文分享自华为云社区《【MindSpore易点通】算子使用经验总结》,作者:Skytier。MindSpore给大家提供了很多算子进行使用,今天给大家简单介绍下常用的一些算子使用时需要注意的内容。使用mindspore.nn.BatchNorm注意momentum参数BatchNormalization里有一个momentum参数,该参数作用于mean和variance的计算上,保留了历史Batch里的mean和variance值,即moving_mean和moving_varianc

Dive into TensorFlow系列(2)- 解析TF核心抽象op算子

本文作者:李杰TF计算图从逻辑层来讲,由op与tensor构成。op是项点代表计算单元,tensor是边代表op之间流动的数据内容,两者配合以数据流图的形式来表达计算图。那么op对应的物理层实现是什么?TF中有哪些op,以及各自的适用场景是什么?op到底是如何运行的?接下来让我们一起探索和回答这些问题。一、初识op1.1op定义op代表计算图中的节点,是tf.Operation对象,代表一个计算单元。用户在创建模型和训练代码时,会创建一系列op及其依赖关系,并将这些op和依赖添加到tf.Graph对象中(一般为默认图)。比如:tf.matmul()就是一个op,它有两个输入tensor和一个输

Dive into TensorFlow系列(2)- 解析TF核心抽象op算子

本文作者:李杰TF计算图从逻辑层来讲,由op与tensor构成。op是项点代表计算单元,tensor是边代表op之间流动的数据内容,两者配合以数据流图的形式来表达计算图。那么op对应的物理层实现是什么?TF中有哪些op,以及各自的适用场景是什么?op到底是如何运行的?接下来让我们一起探索和回答这些问题。一、初识op1.1op定义op代表计算图中的节点,是tf.Operation对象,代表一个计算单元。用户在创建模型和训练代码时,会创建一系列op及其依赖关系,并将这些op和依赖添加到tf.Graph对象中(一般为默认图)。比如:tf.matmul()就是一个op,它有两个输入tensor和一个输

理论+实践,揭秘昇腾CANN算子开发

摘要: 本文介绍了CANN自定义算子开发的几种开发方式和算子的编译运行流程。然后以开发一个DSLAdd算子为例,讲解算子开发的基本流程。本文分享自华为云社区《昇腾CANN算子开发揭秘》,作者:昇腾CANN。开发者在利用昇腾硬件进行神经网络模型训练或者推理的过程中,可能会遇到以下场景:训练场景下,将第三方框架(例如TensorFlow、PyTorch等)的网络训练脚本迁移到昇腾AI处理器时遇到了不支持的算子。推理场景下,将第三方框架模型(例如TensorFlow、Caffe、ONNX等)使用ATC工具转换为适配昇腾AI处理器的离线模型时遇到了不支持的算子。网络调优时,发现某算子性能较低,影响网络

理论+实践,揭秘昇腾CANN算子开发

摘要: 本文介绍了CANN自定义算子开发的几种开发方式和算子的编译运行流程。然后以开发一个DSLAdd算子为例,讲解算子开发的基本流程。本文分享自华为云社区《昇腾CANN算子开发揭秘》,作者:昇腾CANN。开发者在利用昇腾硬件进行神经网络模型训练或者推理的过程中,可能会遇到以下场景:训练场景下,将第三方框架(例如TensorFlow、PyTorch等)的网络训练脚本迁移到昇腾AI处理器时遇到了不支持的算子。推理场景下,将第三方框架模型(例如TensorFlow、Caffe、ONNX等)使用ATC工具转换为适配昇腾AI处理器的离线模型时遇到了不支持的算子。网络调优时,发现某算子性能较低,影响网络

带你掌握如何使用CANN 算子ST测试工具msopst

摘要:本期带您了解如何使用msopst工具。本文分享自华为云社区《【CANN文档速递13期】算子ST测试工具【msopst】》,作者:昇腾CANN。如何获取msopst工具msopst工具存储在Ascend-cann-toolkit安装目录的“toolkit/python/site-packages/bin”路径下。支持对TBE算子以及AICPU算子进行ST测试。CANN软件安装完成并生效环境变量配置脚本后,即可直接使用此工具,您可以在任意路径下执行如下命令查看工具相关参数:总体使用流程自定义算子部署到OPP算子库后,开发者可使用msopst工具验证算子在昇腾AI处理器上执行的正确性,总体流程

带你掌握如何使用CANN 算子ST测试工具msopst

摘要:本期带您了解如何使用msopst工具。本文分享自华为云社区《【CANN文档速递13期】算子ST测试工具【msopst】》,作者:昇腾CANN。如何获取msopst工具msopst工具存储在Ascend-cann-toolkit安装目录的“toolkit/python/site-packages/bin”路径下。支持对TBE算子以及AICPU算子进行ST测试。CANN软件安装完成并生效环境变量配置脚本后,即可直接使用此工具,您可以在任意路径下执行如下命令查看工具相关参数:总体使用流程自定义算子部署到OPP算子库后,开发者可使用msopst工具验证算子在昇腾AI处理器上执行的正确性,总体流程