草庐IT

sparse_softmax_cross_entropy_loss

全部标签

【论文笔记】Fully Sparse 3D Panoptic Occupancy Prediction

原文链接:https://arxiv.org/abs/2312.171181.引言现有的3D占用预测方法建立密集的3D特征,没有考虑场景的稀疏性,因此难以满足实时要求。此外,这些方法仅关注语义占用,无法区分实例。本文认为场景的稀疏性包含两个方面:几何稀疏性(绝大多数的体素为空)和实例稀疏性(实例数量远小于非空体素数量)。本文提出SparseOcc,一个基于多视图图像的、完全稀疏的全景占用网络。首先使用稀疏体素解码器重建场景的稀疏几何,仅对非空区域建模从而极大减小计算资源。再使用掩膜Transformer,通过稀疏实例查询在稀疏空间预测各物体的掩膜和标签。进一步提出掩膜指导的稀疏采样以避免掩膜T

安装torch-scatter/torch-sparse无法继续的解决方法

问题描述使用以下命令安装torch-scatter/torch-sparsepipinstalltorch-scatterpipinstalltorch-sparse但是在执行过程中出现安装包卡住不动,无法继续安装成功的问题,报错如下Buildingwheelfortorch-scatter(setup.py)...原因造成这个错误的原因是相关的wheel文件下载不到或者是下载缓慢解决方法1.使用以下命令查看已经安装的torch的版本piplist结果如下所示,我的版本是1.10.0+cu1132.使用以下命令查看已经安装的python的版本python--version结果如下所示,我的版本

开发安全之:Cross-Site Scripting: Poor Validation

Overview在php中,程序会使用HTML、XML或其他类型的编码,但这些编码方式并不总是能够防止恶意代码访问Web浏览器。Details使用特定的编码函数(例如htmlspecialchars()或htmlentities())能避免一部分cross-sitescripting攻击,但不能完全避免。根据数据出现的上下文,除HTML编码的基本字符、&和"以及XML编码的字符、&、"和'之外(仅当已设置ENT_QUOTES时),其他字符可能具有元意。依靠此类编码函数等同于用一个安全性较差的拒绝列表来防止cross-sitescripting攻击,并且可能允许攻击者注入恶意代码,并在浏览器中加

开发安全之:Cross-Site Scripting (XSS) 漏洞

近期,我会结合研发云陆续发布开发安全相关的文章,欢迎大家关注!Overviewechojson_encode($arr):向一个Web浏览器发送了未验证的数据,从而导致该浏览器执行恶意代码。DetailsCross-SiteScripting(XSS)漏洞在以下情况下发生:1.数据通过一个不可信赖的数据源进入Web应用程序。对于Persistent(也称为Stored)XSS,不可信赖的数据源通常为数据库或其他后端数据存储,而对于ReflectedXSS,该数据源通常为Web请求。2.未经验证但包含在动态内容中的数据将传送给Web用户。在这种情况下,数据通过builtin_echo()传送。传

小知识点系列(十一) 本文(2万字) | BCELoss | BCEWithLogitsLoss | CrossEntropyLoss | Smooth L1 Loss | NLLLOSS |

点击进入专栏:《人工智能专栏》Python与Python|机器学习|深度学习|目标检测|YOLOv5及其改进|YOLOv8及其改进|关键知识点|各种工具教程官网torch.nn-PyTorch中文文档(pytorch-cn.readthedocs.io)文章目录简介CrossEntropyLoss0.QuickStart1.参数2.计算过程3.损失函数输入及输出的Tensor形状3.1简单情况(一个样本)3.2多个样本(一个batch)3.3三维情况(多样本+多通道)BCELoss和BCEWithLogitsLoss以及CrossEntropyLoss

【论文阅读】Generalized Focal Loss的解读。交叉熵、Focal Loss、Quality Focal Loss、Distribution Focal Loss

论文链接:https://arxiv.org/pdf/2006.04388.pdf1Introduction已有方法中,单阶段密集检测器一般分为三个输出内容:检测框质量估计confidence:channel维度上占1;训练时正样本标签为当前grid_ceil对应的标签框和预测框的iouscore、或者centernessscore,负样本为0。检测框box:channel维度上占4;分别为xywh的转化值。分类class。channel维度上占n位(n为类别数量); 已有方法存在的两个问题:classificationscore和IoU/centernessscore训练测试不一致。(1)在

DUET: Cross-Modal Semantic Grounding for Contrastive Zero-Shot Learning论文阅读

文章目录摘要1.问题的提出引出当前研究的不足与问题属性不平衡问题属性共现问题解决方案2.数据集和模型构建数据集传统的零样本学习范式v.s.DUET学习范式DUET模型总览属性级别对比学习==正负样本解释:==3.结果分析VIT-basedvisiontransformerencoder.消融研究消融研究解释4.结论与启示结论总结启发PLMs的潜在语义知识引入多模态,跨模态整合细粒度角度考虑原文链接:https://ojs.aaai.org/index.php/AAAI/article/view/25114/24886该论文设计了一种新的零样本学习范式,通过迁移语言模型中的先验语义知识,与视觉模

YOLOv5系列(三十一) 本文(1.5万字) | 标签平滑(Label Smoothing) | Focal Loss损失函数 | 学习率预热Warmup |

点击进入专栏:《人工智能专栏》Python与Python|机器学习|深度学习|目标检测|YOLOv5及其改进|YOLOv8及其改进|关键知识点|各种工具教程文章目录标签平滑(LabelSmoothing)平滑smooth一、什么是标签平滑(labelsmoothing)二、标签平滑(labelsmoothing)的作用三、标签平滑(labelsmoothing)的数学形式四、代码实现五、标签平滑(labelsmoothing)的优缺点1、优点

2023年12月2日~12月8日周报(OpenFWI代码细节理解之warm-up策略、Tensorboard的使用、loss的理解等,以及OpenFWI论文初读)

目录一、前言二、学习情况2.1 torch.optim.AdamW的理解2.2warm-up策略2.3Tensorboard的使用2.4Loss的理解2.5OpenFWI论文初读三、遇到的部分问题及解决四、总结4.1存在的疑惑4.2下周安排一、前言    上周对OpenFWI代码中的训练与测试部分进行了抄写与理解,存在一部分疑惑尚未解决。    因此,本周的任务是完成相关细节的理解,包括warm-up策略、Tensorboard的使用、Loss的理解等,最后完成OpenFWI论文的正文部分阅读。二、学习情况2.1 torch.optim.AdamW的理解    Adam自2014年提出就受到广

【论文阅读】MCANet: Medical Image Segmentation with Multi-Scale Cross-Axis Attention

文章目录摘要创新点总结实现效果总结摘要链接:https://arxiv.org/abs/2312.08866医学图像分割是医学图像处理和计算机视觉领域的关键挑战之一。由于病变区域或器官的大小和形状各异,有效地捕捉多尺度信息和建立像素间的长距离依赖性至关重要。本文提出了一种基于高效轴向注意力的多尺度交叉轴注意(MCA)方法来解决这些问题。MCA通过计算两个并行轴向注意力之间的双向交叉注意力,以更好地捕获全局信息。此外,为了处理病变区域或器官在个体大小和形状上的显著变化,我们还在每个轴向注意力路径中使用不同大小的条形卷积核进行多次卷积,以提高编码空间信息的效率。我们将提出的MCA构建在MSCAN主