草庐IT

tensorflow-transform

全部标签

ICLR2023《Crossformer: Transformer Utilizing Cross-Dimension Dependency for Multivariate Time Series》

这是一篇ICLR2023top5%论文论文链接:https://openreview.net/pdf?id=vSVLM2j9eie代码:https://github.com/Thinklab-SJTU/Crossformer1.MultivariateTimeSeriesForecastingMTS,多变量时序数据预测。利用MTS的历史值可以预测其未来的趋势,例如心电图(ECG),脑电图(EEG)脑磁图(MEG)的诊断以及系统监测等等都是固有的多变量问题。该任务数据每个实例序列拥有多个维度,是一个d维向量和m个观测值(时间序列)的列表,如下所示数据(借鉴自综述论文:《Thegreatmulti

多任务学习:Transformer based MultiHead Self-Attention Networks

作者:禅与计算机程序设计艺术1.简介孤岛模型被证明是单词生成模型的理想基础。马尔可夫链蒙特卡洛(MCMC)方法,在统计物理和材料科学领域均产生了重大影响。同样,在自然语言处理领域,深度学习技术也扮演着至关重要的角色,包括基于RNN、CNN、LSTM等的预训练语言模型、神经机器翻译、条件随机场、长短时记忆网络等,这些模型都取得了显著的效果。而在医疗问答系统中,自然语言理解和机器阅读理解组件的实现也逐渐成为关键任务,如何将两种学习模型结合起来,并对医疗数据进行有效处理,是关键之处。Transformer-basedMulti-HeadSelf-AttentionNetworksforMedical

3D- vista:预训练的3D视觉和文本对齐Transformer

论文:https://arxiv.org/abs/2308.04352代码: GitHub-3d-vista/3D-VisTA:OfficialimplementationofICCV2023paper"3D-VisTA:Pre-trainedTransformerfor3DVisionandTextAlignment"摘要三维视觉语言基础(3D-vl)是一个新兴领域,旨在将三维物理世界与自然语言联系起来,这对实现具身智能至关重要。目前的3D-VL模型严重依赖于复杂的模块、辅助损耗和优化技巧,这需要一个简单而统一的模型。在本文中,我们提出了3D-vista,一个预训练的3D视觉和文本对齐转换器

人工智能各领域跨界能手——Transformer

导读:Transformer源自于AI自然语言处理任务;在计算机视觉领域,近年来Transformer逐渐替代CNN成为一个热门的研究方向。此外,Transformer在文本、语音、视频等多模态领域也在崭露头角。本文对Transformer从诞生到逐渐壮大为AI各领域主流模型的发展过程以及目前研究进展进行梳理,见证Transformer的过人之处。一、Transformer的诞生1、Transformers的前身:RNNEncoder-Decoder  早在2014年,seq2seq问题是通过两个循环神经网络组合成一个编码器-解码器模型来解决的。通过机器翻译任务中的一个简单示例来演示它的架构,

TensorFlow、PyTorch、MXNet等深度学习框架在对象检测和语义分割中的优缺点分析

对象检测和语义分割是计算机视觉领域的两个重要任务。随着深度学习技术的不断发展,出现了很多流行的深度学习框架,如TensorFlow、PyTorch、MXNet、Caffe等。这些框架提供了丰富的神经网络模型和算法,方便开发者快速搭建和训练自己的模型。一、TensorFlowTensorFlow是谷歌开发的一个开源深度学习框架,具有高度的灵活性和可扩展性。TensorFlow提供了丰富的API和工具,方便开发者进行模型设计、训练和部署。TensorFlow支持CPU和GPU加速,可以在各种硬件平台上运行。在对象检测任务中,TensorFlow提供了一些流行的模型,如SSD、FasterR-CNN

scipy spatial transform Rotation库的源代码

前几日研究scipy的旋转,不知道具体里面怎么实现的,因此搜索一番。发现Rotation在scipy的表达是用四元数的https://github.com/jgagneastro/coffeegrindsize/edit/master/App/dist/coffeegrindsize.app/Contents/Resources/lib/python3.7/scipy/spatial/transform/rotation.pyfrom__future__importdivision,print_function,absolute_importimportreimportwarningsimpo

安装tensorflow-gpu

一、创建虚拟环境打开anacondaprompt,添加镜像源:添加镜像源:condaconfig--addchannelshttps://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/添加镜像源:condaconfig--addchannelshttps://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/设置搜索时显示通道地址:condaconfig--setshow_channel_urlsyes显示镜像源设置情况:condaconfig--showchannels删除镜像源使用:删除镜像源:

2、TensorFlow教程--- 安裝

要安装TensorFlow,重要的是在您的系统中安装了Python。Python版本3.4+被认为是开始安装TensorFlow的最佳选择。考虑以下步骤在Windows操作系统中安装TensorFlow。步骤1-验证正在安装的Python版本。步骤2-用户可以选择任何机制在系统中安装TensorFlow。我们推荐使用“pip”和“Anaconda”。Pip是用于在Python中执行和安装模块的命令。在安装TensorFlow之前,我们需要在系统中安装Anaconda框架。安装成功后,通过命令提示符使用“conda”命令进行检查。以下是执行命令的示例:步骤3-执行以下命令来初始化TensorFl

使用Python语言和TensorFlow Lite快速搭建AI模型

作者:禅与计算机程序设计艺术1.简介人工智能(ArtificialIntelligence,AI)是指机器具有可以模仿或自己学习的能力,能够从经验中获取知识并解决问题。它可以自动分析、理解、交流及学习数据以提高决策力、洞察力以及创造力。近年来,基于深度学习(DeepLearning)技术的计算机视觉、自然语言处理等领域都取得了突破性的进步。其在图像识别、语音识别、视频分析、推荐系统等诸多领域都已广泛应用。但是,传统的机器学习方法训练耗时长,难以部署在移动设备、边缘计算平台等资源有限的情况下。另外,当前的深度学习框架如PyTorch、TensorFlow、Keras等运行速度较慢,并且支持的硬件

与张量的比较-Python/TensorFlow

我有一个门槛:threshold=tf.Variable(tf.zeros([1]))我有我的y,我的y是张量,其结果是:[[1.13162342e-02][6.52027056e-02][2.14621667e-02][1.38542265e-01][1.53827667e-02][4.87363040e-02][1.25984079e-04][1.36357039e-01][2.74352938e-01][2.11421549e-02][9.93497610e-01][8.08861554e-01][9.99999881e-01][9.98271227e-01][9.72766817e-0