草庐IT

tensorflow-gradient

全部标签

TensorFlow中的Adadelta的源代码在哪里

最近,我对Adadelta有些困惑TensorFlow,我想修改学习率的规则,但我不知道该怎么做。我认为我必须修改源代码:因为规则已封装在train.AdadeltaOpertimizer,班级不返回学习率,它只有最初的学习率:防守在里面(self,Learning_rate=0.001,rho=0.95,epsilon=1e-8,use_locking=false,name=“adadelta”):TensorFlow中的Adadelta的源代码在哪里看答案我不了解您要修改什么,因此我将展示如何找到所有内容的源代码。TF中的每个函数都有有关文档中此函数的源代码的信息。它将您指向Python文

TensorFlow:numpy.take的模拟?

有类似numpy.take?我想形成N+1-二维数组N-维数阵列,更精确地来自具有形状的阵列(B,H,W,C)我要实现(B,H,W,X,C)大批。我想对于我的情况,即使没有这样的一般操作,也有解决方案。但是我真的不确定,如果我要编写具有多个中间操作和张量的代码(转换,重复等等),则TF将能够优化它并删除不必要的操作。此外,我想这样的代码将是不洁的,而且很糟糕。我想添加具有变化值的维度。IE。对于(h,w)->(h,w,3)尺寸案例索引必须为[[[0,0],#[0,-1],maybepaddingwithzerosbutfornowpadwithedgevalue[0,0],[0,1]],

ios - TensorFlow-Lite Swift 设置(bridge-header/includes/root 文件夹)

TensorFlowLite最近发布了。代码库带有demoiosapplication.我想创建/运行相同的应用程序,但使用Swift。我已按照以下步骤操作:https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/lite/g3doc/ios.md#using-in-your-own-application这还不够。1)我想我现在缺少的是一些桥接头。2)我也不确定这些特定的Obj-C包含在swift中会是什么样子:#include"tensorflow/contrib/lite/kernels/re

ios - 有没有办法在 iOS 上训练 TensorFlow 模型?

用于将已训练的TensorFlow模型移植到iOS的文档定义明确:https://github.com/tensorflow/tensorflow/tree/master/tensorflow/examples/ios但是,如果模型:可以在设备上接受进一步培训,或者可以从头开始创建并在设备上训练TensorFlow可以做到这一点吗?我知道其他提供设备上培训的Swift/C++库,但我对这项技术更感兴趣。 最佳答案 从CoreML3和UpdatableTask开始,设备上的训练现在是API的一部分:https://developer.

python - Tensorflow Lite iOS Camera 示例不适用于重新训练的 MobileNet 模型

我正在尝试运行theTensorflowLiteCameraexample使用重新训练的Mobilenet模型。我根据theinstructions成功运行了iOS相机应用程序和thisfix.该应用程序按预期使用模型mobilenet_v1_1.0_224.tflite运行。我安装Tensorflow:pip3install-Uvirtualenvvirtualenv--system-site-packages-ppython3./venvsource./venv/bin/activatepipinstall--upgradepippipinstall--upgradetensorf

TensorFlow:训练有素的模型存储在哪里以及如何访问?

TensorFlow如何存储其模型(图)?它在checkpoint文件?我知道在Caffe中,该模型存储在一个.caffemodel文件,用于部署(测试)训练后的模型。我刚刚训练了模型教程,现在在我的/tmp/mnist_convnet_model目录:哪个文件包含实际模型?例如,如果我想使用此训练有素的模型对单个图像进行分类,则该文件用于分类?看答案是的,模型在各种checkpoint文件-尽管*.ckpt文件现在分为data和index文件。我不确定索引文件中有什么,但是*.data*文件包含重量和偏差值。这*.meta文件包含图:变量,数据结构,转换等。这里是关于护理和喂养的好教程。

TensorFlow示例,但中间层

我正在尝试使此代码工作。它可能看起来不像它,但主要来自TensorFlowMNIST示例。但是,我正在尝试获得三层,并且我更改了输入和输出大小。输入大小为12,中间大小为6,输出大小为2。这是我运行此操作时发生的情况。它不会丢下错误,但是当我运行测试选项时,我总是会得到50%。当我回到训练时,它会运行,我确定权重正在改变。有节省模型和权重的代码,因此我非常有信心每次重新开始时都不会消除我的权重。self.d_y_out背后的想法是拥有一些可以让我运行模型并仅获得一个图像输出的东西。我认为问题接近说“问题?”的评论。self.d_keep=tf.placeholder(tf.float32)se

gradient_checkpointing

点评:本质是减少内存消耗的一种方式,以时间或者计算换内存gradient_checkpointing(梯度检查点)是一种用于减少深度学习模型中内存消耗的技术。在训练深度神经网络时,反向传播算法需要在前向传播和反向传播之间存储中间计算结果,以便计算梯度并更新模型参数。这些中间结果的存储会占用大量的内存,特别是当模型非常深或参数量很大时。梯度检查点技术通过在前向传播期间临时丢弃一些中间结果,仅保留必要的信息,以减少内存使用量。在反向传播过程中,只需要重新计算被丢弃的中间结果,而不需要存储所有的中间结果,从而节省内存空间。实现梯度检查点的一种常见方法是将某些层或操作标记为检查点。在前向传播期间,被标

TensorFlow安装教程

诸神缄默不语-个人CSDN博文目录TensorFlow是学习深度学习时常用的Python神经网络框架,本文将介绍其部分版本在Linux系统使用pip进行安装的方法。(注:TensorFlow官方推荐使用pip进行安装。)作者使用anaconda作为管理虚拟环境的工具。以下工作都在虚拟环境中进行,对Python和Aanaconda的安装及对虚拟环境的管理本文不作赘述,后期可能会撰写相关的博文。首先进入官网:TensorFlowTensorFlow安装的总界面:InstallTensorFlow2文章目录1.TensorFlow2最新版安装(本文撰写时为2.9.0)2.TensorFlow1.14

TensorFlow:在C ++中使用训练有素的模型

我使用Keras和TensorFlow在Python中建立了一个模型。我想导出模型并将其用于培训C++。我在用TF1.2并使用tf.train.export_metagraph导出我的图形。我不确定如何继续使用该模型C++为了训练。谢谢:)看答案为什么要在C++中训练模型?Tensorflows核心库在C++中。我认为您的意思是在C++中使用训练有素的模型?一旦您训练了模型并导出了该模型(假设您拥有.pb文件),则使用该模型来预测。Theres无法重新训练导出的模型。