人工智能是一项功能强大的技术,有望彻底改变我们生活。这一点从来没有像今天这样昭然若揭;只要能连接互联网,谁都可以享用功能强大的工具。
这些工具包括人工智能语音生成器,这种先进的软件能够惟妙惟肖地模仿人类语音,以至于无法区分和辨别两者。这对网络安全又意味着什么呢?
人工智能语音生成器是如何工作的?
语音合成指人工生成人类语音的过程,它已存在了几十年。就像所有技术一样,多年来它已经历了重大而深刻的变化。
用过Windows 2000和XP的用户可能还记得微软Sam,这是微软操作系统默认的文本转换成语音男声。微软Sam的表现可谓中规中矩,但它发出的声音很机械、很僵硬、很造作。我们现在手头拥有的工具要先进得多,这在很大程度上归功于深度学习。
深度学习是一种基于人工神经网络的机器学习方法。由于这些神经网络,现代人工智能处理数据的能力几乎如同人类大脑中的神经元解释信息一样强大。也就是说,人工智能变得越像人类,模仿人类行为的本领就越高超。
简而言之,这就是现代人工智能语音生成器的工作方式。它们接触的语音数据越多,就越擅长模仿人类语音。由于这项技术最新取得的进展,最先进的文本转换成语音软件基本上可以复制馈送给它的声音。
威胁分子如何使用人工智能语音生成器?
不出所料,这种技术正被威胁分子滥用。不仅是典型意义上的网络犯罪分子,还有虚假信息代理人、骗子、黑帽营销人员和网络喷子。
就在ElevenLabs于2023年1月发布其文本转换成语音软件的测试版的那一刻,留言板4chan上的极右翼网络喷子就开始滥用它。他们使用这种先进的人工智能技术,复制了BBC电视台主持人David Attenborough和知名演员Emma Watson等名人的声音,让人感觉这些名人好像在发表恶毒、仇恨的长篇大论。
正如IT外媒Vice当时所报道,ElevenLabs承认有人在滥用其软件,尤其是在滥用语音克隆功能。这项功能让任何人都可以“克隆”另一个人的声音;你只需要上传一分钟时长的录音,然后让人工智能做剩余的事情。据推测,录音时间越长,输出结果就越逼真。
2023年3月,一段在TikTok上疯传的视频引起了《纽约时报》杂志的注意。在这段视频中,著名的播客主持人Joe Rogan和经常现身其The Joe Rogan Experience节目的Andrew Huberman博士讨论了一种“增强性欲”的咖啡因饮料。这段视频让人觉得Rogan和Huberman都明确力挺这款产品。而实际上,他们俩的声音是用人工智能克隆出来的。
大约在同一时间,总部位于加利福尼亚州圣克拉拉的硅谷银行因风险管理错误及其他问题而倒闭,并被州政府接管。这是自2008年金融危机以来美国最严重的银行倒闭事件,因此在全球市场引起了轩然大波。
让人们更加恐慌的是美国拜登总统的一段假录音。在录音中,可以明显听到拜登警告即将到来的“崩溃”,并指令美国政府“充分利用媒体的力量来安抚公众”。像PolitiFact这样追求事实真相的网站很快就揭穿了这段视频,但至此可能已经有数百万人听过了这段录音。
如果人工智能语音生成器可以用来冒充名人,那么它们也可以用来冒充平民百姓,这正是网络犯罪分子一直在从事的勾当。据IT外媒ZDNet报道,每年都有成千上万的美国人上语音钓鱼(vishing)骗局的当。2023年,一对年迈的夫妇因接到“孙子”打来的电话而登上了全国报章头条,“孙子”声称关在监狱里,向他们要钱。
如果你曾经上传过YouTube视频(或在YouTube视频中出现过)、与一群不认识的人一起参加过大型群体电话会议,或者以某种方式将自己的声音上传到互联网上,理论上来说你或亲朋好友可能处于危险之中。怎样才能阻止骗子把你的声音上传到人工智能生成器、克隆声音、然后冒充你联系你的家人?
人工智能音生成器在颠覆网络安全格局
不是说非得是网络安全专家才能意识到人工智能落入坏人之手有多危险。虽然所有技术都是如此,但人工智能是一种独特的威胁,这有几个原因。
首先,它是一项比较新的技术,这意味着我们其实不知道它能为我们带来什么。现代人工智能工具让网络犯罪分子能够以前所未有的方式扩大活动规模,并实现自动化操作,同时充分利用公众对这一问题相对无知来大做文章。此外,生成式人工智能使缺乏知识和技能的威胁分子也能够创建恶意代码、构建欺骗网站、传播垃圾邮件、撰写钓鱼邮件、生成逼真的图像,并生成长篇的虚假音频和视频内容。
至关重要的是,我们反过来也可以利用人工智能:人工智能也被用于保护系统,而且可能在未来几十年都是如此。可以料想,网络犯罪分子和网络安全行业之间会上演某种人工智能军备竞赛,因为这些工具的防御和进攻能力本质上不相上下。
对于普通人来说,生成式人工智能的遍地开花需要彻底重新思考安全实践。尽管人工智能可能令人兴奋、很实用,但它至少可以以假乱真,最坏的情况是加剧现有的安全问题,并为威胁分子提供新的舞台。
语音生成器展示了人工智能的破坏性潜力
ChatGPT一经上市,有关监管人工智能的讨论就开始升温。任何试图遏制这种技术的做法都可能需要国际合作,需要我们在过去几十年来从未见过的合作程度,因此不太可能遏制人工智能。
精灵已从瓶子里跑出来,我们能做的也就是习惯它适应它,但愿网络安全行业能做出相应的调整。
https://www.makeuseof.com/ai-voice-generators-security-threat
我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看rubyzip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d
在MRIRuby中我可以这样做:deftransferinternal_server=self.init_serverpid=forkdointernal_server.runend#Maketheserverprocessrunindependently.Process.detach(pid)internal_client=self.init_client#Dootherstuffwithconnectingtointernal_server...internal_client.post('somedata')ensure#KillserverProcess.kill('KILL',
我正在编写一个小脚本来定位aws存储桶中的特定文件,并创建一个临时验证的url以发送给同事。(理想情况下,这将创建类似于在控制台上右键单击存储桶中的文件并复制链接地址的结果)。我研究过回形针,它似乎不符合这个标准,但我可能只是不知道它的全部功能。我尝试了以下方法:defauthenticated_url(file_name,bucket)AWS::S3::S3Object.url_for(file_name,bucket,:secure=>true,:expires=>20*60)end产生这种类型的结果:...-1.amazonaws.com/file_path/file.zip.A
我是Rails的新手,所以请原谅简单的问题。我正在为一家公司创建一个网站。那家公司想在网站上展示它的客户。我想让客户自己管理这个。我正在为“客户”生成一个表格,我想要的三列是:公司名称、公司描述和Logo。对于名称,我使用的是name:string但不确定如何在脚本/生成脚手架终端命令中最好地创建描述列(因为我打算将其设置为文本区域)和图片。我怀疑描述(我想成为一个文本区域)应该仍然是描述:字符串,然后以实际形式进行调整。不确定如何处理图片字段。那么……说来话长:我在脚手架命令中输入什么来生成描述和图片列? 最佳答案 对于“文本”数
我正在使用RubyonRails3.0.9,我想生成一个传递一些自定义参数的link_toURL。也就是说,有一个articles_path(www.my_web_site_name.com/articles)我想生成如下内容:link_to'Samplelinktitle',...#HereIshouldimplementthecode#=>'http://www.my_web_site_name.com/articles?param1=value1¶m2=value2&...我如何编写link_to语句“alàRubyonRailsWay”以实现该目的?如果我想通过传递一些
有这些railscast。http://railscasts.com/episodes/218-making-generators-in-rails-3有了这个,你就会知道如何创建样式表和脚手架生成器。http://railscasts.com/episodes/216-generators-in-rails-3通过这个,您可以了解如何添加一些文件来修改脚手架View。我想把两者结合起来。我想创建一个生成器,它也可以创建脚手架View。有点像RyanBates漂亮的生成器或web_app_themegem(https://github.com/pilu/web-app-theme)。我
导读语言模型给我们的生产生活带来了极大便利,但同时不少人也利用他们从事作弊工作。如何规避这些难辨真伪的文字所产生的负面影响也成为一大难题。在3月9日智源Live第33期活动「DetectGPT:判断文本是否为机器生成的工具」中,主讲人Eric为我们讲解了DetectGPT工作背后的思路——一种基于概率曲率检测的用于检测模型生成文本的工具,它可以帮助我们更好地分辨文章的来源和可信度,对保护信息真实、防止欺诈等方面具有重要意义。本次报告主要围绕其功能,实现和效果等展开。(文末点击“阅读原文”,查看活动回放。)Ericmitchell斯坦福大学计算机系四年级博士生,由ChelseaFinn和Chri
以太坊价格分析表明横盘整理,偏向中性。价格从前一交易日的高点1,791美元回落后正在盘整。但是,有趣的是,多头在1,680美元附近持有重要支撑。多头在1,700美元的心理水平附近聚集动能,并准备在接下来的几个交易日推向1,800美元。以太坊价格显示出盘整迹象,因为它形成了多个连续的顶部形态。这种回撤可能是第二大加密货币下一轮上涨的基石。以太坊连续第二个交易日走低。过去10天,价格在1,590-1,760美元的短期区间内盘整。每日烛台高于1,800美元将维持ETH的进一步上涨。ETH价格走低日线图上,以太坊价格在上升趋势线附近获得一轮支撑。来自879.80美元低点的看涨趋势线为ETH买家提供了支
我使用的第一个解析器生成器是Parse::RecDescent,它的指南/教程很棒,但它最有用的功能是它的调试工具,特别是tracing功能(通过将$RD_TRACE设置为1来激活)。我正在寻找可以帮助您调试其规则的解析器生成器。问题是,它必须用python或ruby编写,并且具有详细模式/跟踪模式或非常有用的调试技术。有人知道这样的解析器生成器吗?编辑:当我说调试时,我并不是指调试python或ruby。我指的是调试解析器生成器,查看它在每一步都在做什么,查看它正在读取的每个字符,它试图匹配的规则。希望你明白这一点。赏金编辑:要赢得赏金,请展示一个解析器生成器框架,并说明它的
我一直在玩一个脚本,它在Chrome中获取选定的文本并在Google中查找它,提供四个最佳选择,然后粘贴相关链接。它以不同的格式粘贴,具体取决于当前在Chrome中打开的页面-DokuWiki打开的DokuWiki格式,普通网站的HTML,我想要我的WordPress所见即所得编辑器的富文本。我尝试使用pbpaste-Preferrtf来查看没有其他样式的富文本链接在粘贴板上的样子,但它仍然输出纯文本。在文本编辑中保存文件并进行试验后,我想出了以下内容text=%q|{\rtf1{\field{\*\fldinst{HYPERLINK"URL"}}{\fldrsltTEXT}}}|te