在人工智能领域，有大量的数据需要有效的处理。随着我们对人工智能应用，如图像识别、语音搜索或推荐引擎的深入研究，数据的性质变得更加复杂。这就是向量数据库发挥作用的地方。与存储标量值的传统数据库不同，向量数据库专门设计用于处理多维数据点(通常称为向量)。这些向量表示多个维度的数据，可以被认为是指向空间中特定方向和大小的箭头。随着数字时代将我们推进到一个以人工智能和机器学习为主导的时代，向量数据库已经成为存储、搜索和分析高维数据矢量的不可或缺的工具。本文旨在全面介绍向量数据库，并介绍2023年可用的最佳向量数据库。什么是向量数据库向量数据库是一种特殊的数据库，它以多维向量的形式保存信息。根据数据的复
PyTorch计算KL散度详解最近在进行方法设计时，需要度量分布之间的差异，由于样本间分布具有相似性，首先想到了便于实现的KL-Divergence，使用PyTorch中的内置方法时，踩了不少坑，在这里详细记录一下。简介首先简单介绍一下KL散度（具体的可以在各种技术博客看到讲解，我这里不做重点讨论）。从名称可以看出来，它并不是严格意义上的距离（所以才叫做散度~），原因是它并不满足距离的对称性，为了弥补这种缺陷，出现了JS散度（这就是另一个故事了…）我们先来看一下KL散度的形式：DKL(P∣∣Q)=∑i=1Npilogpiqi=∑i=1Npi∗(logpi−logqi)DKL(P||Q)=
在SSE图像算法优化系列二十九：基础的拉普拉斯金字塔融合用于改善图像增强中易出现的过增强问题（一） 一文中我们曾经描述过基于几种高频融合法则的拉普拉斯金字塔融合算法，那里是主要针对2副图像的。实际的应用中，我们可能会遇到多帧图像的融合过程（图像都是对齐后的），特别是多帧不同曝光度的图像的融合问题，在相机的应用中较为广泛，我们同时也可以认为这是另外一种的HDR算法。 这方面最经典的文章是2007年TomMertens等人发表的《ExposureFusion》一文，用简单的篇幅和公式描述了一个非常优异的合成过程，虽然在2019年CharlesHessel发表了一篇《ExtendedEx
文章目录@[toc]前言一、训练大模型的基础1.数据并行2.模型并行二、进阶演化三、主流框架1.Megatron-LM2.DeepSpeed3.FairScale4.ParallelFormers5.ColossalAI6.Alpa7.Hivemind8.OneFlow9.Mesh-Tensorflow其他1.引用2.参考前言转载翻译Medium上一篇关于分布式深度学习框架的文章https://medium.com/@mlblogging.k/9-libraries-for-parallel-distributed-training-inference-of-deep-learning-mod
0.往期内容[一]深度学习Pytorch-张量定义与张量创建[二]深度学习Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd与逻辑回归[七]深度学习Pytorch-DataLoader与Dataset(含人民币二分类实战)[八]深度学习Pytorch-图像预处理transforms[九]深度学习Pytorch-transforms图像增强(剪裁、翻转、旋转)[十]深度学习Pytorch-transforms图像操作及自定义
1Hive简介1.1Hive系统架构Hive是建立在Hadoop上的数据仓库基础构架，它提供了一系列的工具，可以进行数据提取、转化、加载（ETL）Hive定义了简单的类SQL查询语言，称为HQL，它允许熟悉SQL的用户直接查询Hadoop中的数据Hive包含SQL解析引擎，它会将SQL语句转译成MRJob，然后在Hadoop中执行Hive的数据存储基于Hadoop的HDFSHive没有专门的数据存储格式，默认可以直接加载文本文件TextFile，还支持SequenceFile、RCFile等1.2MetastoreMetastore是Hive元数据的集中存放地元数据包括表的名字，表的列和分区及
本节将讨论另一种广泛使用的3D数据文件格式，即OBJ文件格式。OBJ文件格式最初由WavefrontTechnologiesInc.开发。与PLY文件格式类似，OBJ格式也有ASCII版本和二进制版本。二进制版本是专有的且未记录文档。本章主要讨论ASCII版本。与之前类似，将通过示例来学习文件格式。第一个示例cube.obj如下所示。可以猜到，OBJ文件定义了一个立方体的网格。第一行mtlib./cube.mtl声明了伴随的材质模板库（MTL）文件。MTL文件描述了表面着色属性，将在下一个代码片段中解释。对于ocube行，起始字母o表示该行定义了一个对象，对象的名称是cube。以#开头的行是注
一、准备工作硬件：JetsonXavierNX开发板（笔者购入为带128g内存条的EMMC版）、跳线帽（杜邦线）、microUSB转USB数据线、电源线软件：Ubuntuhost主机（可运行Ubuntu的虚拟机/双系统）、NVIDIASDKMANAGER（下载地址：NVIDIASDKManager|NVIDIADeveloper）。在Ubuntu主机里安装sdkmanager，命令如下，版本不同则tab补齐安装。sudoaptinstall./sdkmanager_1.6.0-8170_amd64.deb硬件准备用杜邦线或者跳线帽将XavierNX第三个引脚FC_REC与第二/四引脚GND短接
配置虚拟环境为什么要安装虚拟环境？虚拟环境：把一部分内容独立出来，称之为容器。在容器中，安装我们自己想要的东西，比如不容版本的依赖包。各容器之间相互独立，互不影响。比如下载完Anaconda之后，默认的就是base环境。因为在开发当中，我们需要根据不同的需求，下载不同的框架库，或者不同的版本。有了虚拟环境，我们可以为不同的项目配置不同的运行环境，这样多个项目可以同时运行。查看已经创建的虚拟环境列表如何新建虚拟环境在这里插入代码片condaenvlist加载虚拟环境condaactivatetensorflow但是在pycharm中配置好环境出现的是：Nomodulenamed‘Torch’两种
上一节使用的是官方数据集fashionminist进行训练，这节课使用自己搜集的数据集来进行数据的获取和训练。所需资源教学视频：https://www.bilibili.com/video/BV1by4y1b7hX/?spm_id_from=333.1007.top_right_bar_window_history.content.click&vd_source=e482aea0f5ebf492c0b0220fb64f98d3pytorch进阶学习（一）：https://blog.csdn.net/weixin_45662399/article/details/129737499?spm=10
