草庐IT

亚马逊AI工具Q被“锤爆”:不够精准、侵犯隐私、存在幻觉、泄露数据

不久前亚马逊推出AI工具“亚马逊Q”,它的竞争对手是微软Copilot。业界本来以为亚马逊来势汹汹,Q应该很不错,但最新报告显示,这款AI工具并不成熟,可能还没有准备好。Q到底有什么问题呢?ThePlatformer在报道中说,Q不够精准,侵犯隐私,存在“幻觉”(相当于出错),泄露数据。研究报告显示,亚马逊的大语言模型连接企业数据库时极其不精准,也不够透明。亚马逊新闻发言人回应称,Q并没有泄露过任何机密文件。该新闻发言人称:“一些亚马逊员工会通过内部渠道和系统分享信息,这在亚马逊是标准操作。没有证据显示有什么安全问题是反馈的问题造成的。我们已经收集到所有的反馈意见,会继续调校Q,它正在从预览版

android - Activity 泄露了 IntentReceiver android.widget.ViewFlipper

我正在添加一个ViewFlipper从布局资源扩展到ListView作为Footer。这是我的脚蹼布局(为简洁起见省略了细节):我将它添加到我的ListView使用:mListView.addFooterView(mLoadMoreFlipper);当我的Activity被销毁时,我在LogCat中看到以下消息,后跟一个调用堆栈:Activitycom.gk.ItemListActivityhasleakedIntentReceiverandroid.widget.ViewFlipper$1@44c84ab0thatwasoriginallyregisteredhere.Areyoum

android - Activity 已泄露 ServiceConnection com.android.org.chromium.com.googlecode.eyesfree.braille.selfbraille.SelfBrailleClient$Connection

我的Android应用程序在Fragment中有一个Webview,Webview正在显示一个简单的HTML文档。当我退出应用程序时,logcat显示以下错误:03-0610:58:29.468:E/ActivityThread(420):Activitycom.abc.test.MainActivityhasleakedServiceConnectioncom.android.org.chromium.com.googlecode.eyesfree.braille.selfbraille.SelfBrailleClient$Connection@66247648thatwasorig

主流大语言模型集体曝出训练数据泄露漏洞

论文指出,当前绝大多数大语言模型的记忆(训练数据)可被恢复,无论该模型是否进行了所谓的“对齐”。黑客可以通过查询模型来有效提取训练数据,甚至无需事先了解训练数据集。研究者展示了如何从Pythia或GPT-Neo等开源语言模型、LLaMA或Falcon等主流半开放模型以及ChatGPT等封闭模型中提取数以GB计的训练数据。研究者指出,已有技术足以攻击未对齐的模型,对于已经对齐的ChatGPT,研究者开发了一种新的发散数据提取攻击,该攻击会导致大语言模型改变聊天机器人的内容生成方式,以比正常行为高150倍的速率疯狂输出训练数据(下图):图1:发散攻击导致对齐后的chatGPT以150倍的速度输出训

记一次奇怪的文件句柄泄露问题

记录并分享一下最近工作中遇到的Toomanyopenfiles异常的解决过程。问题背景产品有个上传压缩包并导入配置信息到数据库中的功能,主要流程如下:用户上传压缩包;后端解压存放在临时目录,并返回列表给用户;用户选择需要导入哪些信息;后端按需插入数据库中,完成后删除临时目录。这个功能上线两三年了,一直没出现问题,最近测试在功能回归时,导入的时候出现Toomanyopenfiles异常。但是通过lsof-ppid|wc-l查看当前进程打开的句柄数时,又是正常的。Toomanyopenfiles是Linux系统中常见的错误,字面意思就是说打开了太多的文件,超过了系统的限制。这里的文件(file)更

被通报?被下架?用户信息被泄露?APP安全合规风险该如何防范?

前段时间,一个资讯类APP(以下称“某APP”)的负责人急匆匆找到网安云,直言其负责的APP最近收到很多用户投诉,说他们的信息被泄露了,屡遭电销骚扰。由于电销太过猖狂,导致很多用户都到应用市场给他们发差评,对品牌形象塑造和业务发展影响极大! 同时,他们也收到了本地通信管理局的限期整改通知书,责令他们采取必要的技术措施,对存在安全隐患问题进行整改。如若未在规定时间内完成整改,将会被强制全网下架。  负责人对此感到非常苦恼:他们明明没有主动去泄露用户信息,为什么会有这么大范围的用户信息泄露呢?到底是哪里出现了安全漏洞?被通信管理局通报的问题又该如何整改?为此,他找到网安云寻求帮助。  网安云从“编

GenAI安全:如何防止Microsoft Copilot发生数据泄露

微软的Copilot被称为世界上最强大的生产力工具之一。Copilot是一个AI助手,它位于你的每个Microsoft365应用程序中-Word、Excel、PowerPoint、Teams、Outlook等。微软的梦想是从日常工作中解脱出来,让人类专注于成为创造性的问题解决者。让Copilot成为一个不同于ChatGPT和其他AI工具的工具的是,它可以访问你在365中所做的一切,Copilot可以立即从你的文档、演示文稿、电子邮件、日历、笔记和联系人中搜索和汇编数据,这就是信息安全团队认为存在的问题,Copilot可以访问用户可以访问的所有敏感数据。平均而言,一家公司10%的M365数据对所

prometheus涉及pprof go信息泄露漏洞整改

Prometheus涉及pprofgo信息泄露漏洞整改本文记录一下对系统渗透测试后反馈Prometheus涉及pprofgo信息泄露,验证方法为http://ip:port/debug/pprof。为防止未经授权用户访问,现决定在Prometheus层面使用basic_auth加密整改。环境配置软件版本KylinV10Docker20.10.22Prometheus2.19.01.生成basic_auth密钥安装工具包并生成加密后密码#安装工具包yuminstall-yhttpd-tools#生成加密密码htpasswd-nBC12''|tr-d':\n'Newpassword:#这里设置密码

日本主要通讯应用Line遭攻击,数十万用户面临数据泄露风险

11月27日下午,日本最主要通讯应用程序Line的运营商、日本LY公司发布公告称,有攻击者通过附属公司的NAVERCloud系统访问了其内部服务器,可能泄露了数十万条包含用户、员工和业务合作伙伴在内的数据。这一攻击事件发生在10月9日,当时攻击者通过恶意软件感染了附属公司一名员工的电脑。10月27日,LY公司的安全团队确定,这极有可能是未经授权的外部人员访问该应用程序的系统。据悉,此次Line可能泄露的302569条用户数据包括通话页面活动、通话终止类型、通话室详情(包括发送方和接收方的国家、性别、年龄和操作系统)以及内容发布详情(包括时间和日期、关注者/好友总数以及发布视频的开始和结束时间)

android - CookieSyncManager导致的内存泄露(activity泄露)?

我在Eclipse中使用MAT工具调查内存泄漏问题,发现CookieSyncManager线程实例偶尔会泄漏我的Activity。从我的Activity到GCroot的路径如下:com.mycompany.myapp.MyActivity-->mContextcom.android.internal.policy.impl.PhoneFallbackEventHandler-->mFallbackEventHandlerandroid.view.ViewRoot-->targetandroid.os.Message-->java.lang.ThreadCookieSyncManager