草庐IT

Tensorflow-gpu

全部标签

python - 使用 TensorFlow 重新规范化权重矩阵

我想为我的TensorFlow图中的几个权重矩阵添加一个最大范数约束,alaTorch的renorm方法。如果任何神经元权重矩阵的L2范数超过max_norm,我想按比例缩小它的权重,以便它们的L2范数正好是max_norm。使用TensorFlow表达这一点的最佳方式是什么? 最佳答案 这是一个可能的实现:importtensorflowastfdefmaxnorm_regularizer(threshold,axes=1,name="maxnorm",collection="maxnorm"):defmaxnorm(weight

python - 如何在 tensorflow 中实现多元线性随机梯度下降算法?

我从单变量线性梯度下降的简单实现开始,但不知道如何将其扩展到多变量随机梯度下降算法?单变量线性回归importtensorflowastfimportnumpyasnp#createrandomdatax_data=np.random.rand(100).astype(np.float32)y_data=x_data*0.5#FindvaluesforWthatcomputey_data=W*x_dataW=tf.Variable(tf.random_uniform([1],-1.0,1.0))y=W*x_data#Minimizethemeansquarederrors.loss=t

python - Tensorflow reshape 张量

我有一个预测张量(实际网络)(Pdb)pred和一个y张量y=tf.placeholder("float",[None,n_steps,n_classes])(Pdb)y我想把它喂给f.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(pred,y))但是,它要求尺寸为[batch_size,num_classes]所以我想reshapepred和y使它们看起来像这样但是当我运行reshape时,我得到了(Pdb)tf.reshape(pred,[40000])而不是(?,40000)我如何维护None维度?(批量大小维度)我还发布

python - 如何使用 TensorFlow 中的官方 Batch Normalization 层?

我曾尝试使用批量归一化来使用TensorFlow训练我的神经网络,但我不清楚如何使用theofficiallayerimplementationofBatchNormalization(请注意,这与API中的不同)。在对他们的githubissues进行了一些痛苦的挖掘之后似乎需要一个tf.cond才能正确使用它,还需要一个“resue=True”标志,以便正确地重用BNshift和scale变量。在弄清楚之后,我提供了一个简短的描述,说明我认为如何正确使用它here.现在我写了一个简短的脚本来测试它(只有一个单层和一个ReLu,很难让它比这更小)。但是,我不是100%确定如何测试它。

python - CNN 可学习参数的数量 - Python/TensorFlow

在TensorFlow中,是否有任何功能可以让我找出网络中学习参数的数量? 最佳答案 没有我知道的功能,但您仍然可以在tf.trainable_variables():上使用for循环计算自己total_parameters=0forvariableintf.trainable_variables():variable_parameters=1fordiminvariable.get_shape():variable_parameters*=dim.valuetotal_parameters+=variable_parameters

python - 错误 :gpu_process_transport_factory. cc(1007) - 丢失 UI 共享上下文:在 Headless 模式下通过 ChromeDriver 初始化 Chrome 浏览器时

当我尝试在3台计算机中的2台上运行代码时出现此错误:[0502/155335.565:ERROR:gpu_process_transport_factory.cc(1007)]LostUIsharedcontext.代码如下:fromseleniumimportwebdriverfromselenium.webdriver.chrome.optionsimportOptionsimportoschrome_options=Options()chrome_options.add_argument("--headless")chrome_options.add_argument("--di

python - Tensorflow Eager 和 Tensorboard 图?

我目前正在查看Tensorflow中的Eager模式,想知道我是否可以提取图表以在Tensorboard中使用。我了解TensorflowEager模式实际上并没有用户必须创建的图形或session系统。但是,据我了解,引擎盖下有一个。这个隐藏的Graph和Session是否可以导出以支持Tensorboard中的可视化图形View?或者我是否需要将我的模型重做为图形/session执行形式? 最佳答案 不,默认情况下,eagerexecution中没有图形和session,这也是它如此吸引人的原因之一。如果需要,您将需要编写与图形

python - Tensorflow:小批量中每个样本的不同过滤器的卷积

我想要一个带有过滤器的二维卷积,该过滤器取决于tensorflow中小批量中的样本。任何想法如何做到这一点,特别是如果每​​个小批量的样本数量未知?具体来说,我有MBxHxWxChannels形式的输入数据inp,我有F形式的过滤器MBxfhxfwxChannelsxOutChannels。假设inp=tf.placeholder('float',[None,H,W,channels_img],name='img_input')。我想做tf.nn.conv2d(inp,F,strides=[1,1,1,1]),但这是不允许的,因为F不能有小批量维度。知道如何解决这个问题吗?

python - 无法激活 virtualenv 环境 -- tensorflow

我正在尝试安装tensorflow。我使用pip3成功下载了tensorflow。但是当我尝试通过以下方式激活环境时:source~/tensorflow/bin/activate我的提示没有改变。当我尝试时:source~/tensorflow/bin/activate.csh它说:-bash:alias:deactivate:notfound-bash:alias:`test$?_OLD_VIRTUAL_PATH!':invalidaliasname-bash:setenv:commandnotfound-bash:setenv:commandnotfound-bash:/User

python - 从 Tensorflow 中的多个 tf.data.Datasets 中随机抽样

假设我有N个tf.data.Datasets和一个N概率列表(总和为1),现在我想创建数据集,这样的例子是以给定的概率从N个数据集中采样。我希望它适用于任意概率->简单的zip/concat/flatmap以及来自每个数据集的固定数量的示例可能不是我想要的。是否可以在TF中执行此操作?谢谢! 最佳答案 从1.12开始,tf.data.experimental.sample_from_datasets提供了以下功能:https://www.tensorflow.org/api_docs/python/tf/data/experimen