草庐IT

识别和应对AI网络钓鱼攻击的七条准则

安全牛 2023-03-31 原文

随着ChatGPT等智能化工具大行其道,企业是时候开始了解如何加强防范基于人工智能(AI)的网络攻击了。AI模型的自然语言生成功能天生适合于网络钓鱼攻击,它能够帮助攻击者大规模生成欺骗性邮件文本及其他内容。为了应对这种日益严峻的威胁,企业应该在加强网络钓鱼防护时参考以下7条准则。

1.全面认知威胁

目前,AI在网络攻击方面最重要的应用就是欺诈性内容生成,凡是能使用ChatGPT的人都可以生成格式规范、以假乱真的文本。对于企业的安全防护者,需要充分认识到,AI技术的这种本领只会变得更加强大。在LLM(自然语言处理模型)工具的帮助下,网络钓鱼内容不仅会变得更加真实,还会更有针对性,能够加入时间、地点和事件的具体信息。员工们再也不能依靠之前的经验来判断电子邮件是否恶意。图像、语音甚至视频都可以通过内容生成技术来伪造。因此,需要让企业中的每个人都充分了解钓鱼活动的威胁发展态势,不断强调对任何突如其来的邮件都保持高度的警惕性。

2. 开展网络钓鱼模拟

要企业应对网络钓鱼攻击的实战能力,唯一的方法就是进行测试。模拟使用AI生成的内容进行网络钓鱼活动是对抗威胁的重要部分。模拟钓鱼活动应从设定具体的目标入手,并且利用可以度量的指标来指导测试。模拟网络钓鱼活动还有助于摸清AI工具在生成有效欺骗内容方面实际水平。这将有助于安全人员准确评估实施相关措施的必要性。

3. 用AI对付AI

用AI来对付AI是未来网络安全技术发展的重要部分。网络钓鱼攻击检测将是企业整体网络和基础设施安全战略的关键部分,当AI辅助的网络基础设施侦察和攻击检测能力相结合时,对网络钓鱼攻击的检测效率将会大大提升。许多头部安全公司已经开始把这类自动化安全工具整合到产品方案中。基于AI的异常行为检测也将是机器学习研究领域一个重要方面,这项研究将很快被引入到企业实际应用中,作为对付AI网络钓鱼的工具。

4. 采取适当的行动

新一代的电子邮件基础设施都会提供内置的基础性安全能力,这在很大程度上保证企业远离邮件攻击威胁。但安全人员应该在采取行动时,清除意识到是针对什么而采取行动。

如果用户在收到网络钓鱼邮件后采取了进一步的操作,这对不法分子来说无异于重大胜利:这样攻击才能得以继续进行。安全专业人员应该培训自己、员工以及任何人,学会在邮件提示输入信息或运行不熟悉的应用程序时保持警惕。此外,为了有效防止深度造假攻击,企业还应该在另一条远离网络钓鱼的渠道中验证涉及隐私和财务数据的重要通信内容。

5. 建立高效的报告机制

在处理基于AI的网络钓鱼攻击时,能否第一时间向安全人员发出攻击警报至关重要。因为AI辅助的钓鱼攻击活动可以更快速地大规模展开,及时识别非常重要,这让企业可以迅速通知员工,并为反钓鱼工具和AI检测模型提供重要的事件内容。

因此,企业应该尽可能地简化报告提交流程,并确保该机制能够捕获尽可能多的威胁信息,以提高其价值和可用性。将钓鱼邮件转发到安全运营中心有利于捕获邮件中的所有元数据信息。相关政府监管机构也应该不断鼓励企业组织加入DMARC(基于域的消息验证、报告和一致性)策略。

6. 加强身份验证

基于密码的身份验证技术本质上难以应对AI网络钓鱼活动的攻击,因此,企业需要找到有一些可以抵御AI网络钓鱼的新方法。通行密钥被认为是防范AI网络钓鱼的有效验证模式之一,尽管该技术仍需要进一步完善,但其应用正变得越来越主流。此外,多因素身份验证(MFA)也是企业应该具备的身份验证能力,因为如果需要第二道身份验证环节,将会大大增加攻击者实际访问到系统资源的难度。

7. 将安全文化作为主要的防御手段

如果每一个企业用户都能掌握一些关键的网络安全知识,90%以上的网络犯罪活动都可以被轻松预防,因为人是网络安全建设中最核心的因素。因此,在企业内部培养安全理念是关键。

员工在日常工作中的安全意识和行为就如同企业的基本免疫系统,持续培训以加强员工安全意识是防护AI网络钓鱼攻击的关键。安全团队需要向员工准确的传达:未来的钓鱼攻击手段不再低级可笑,不能仅凭借电子邮件及其他通信内容的精美程度来判断是否存在威胁,现在要求员工有更高的警惕性。

参考链接:​​https://www.csoonline.com/article/3690418/7-guidelines-for-identifying-and-mitigating-ai-enabled-phishing-campaigns.html​

有关识别和应对AI网络钓鱼攻击的七条准则的更多相关文章

  1. ruby - 用 Ruby 编写一个简单的网络服务器 - 2

    我想在Ruby中创建一个用于开发目的的极其简单的Web服务器(不,不想使用现成的解决方案)。代码如下:#!/usr/bin/rubyrequire'socket'server=TCPServer.new('127.0.0.1',8080)whileconnection=server.acceptheaders=[]length=0whileline=connection.getsheaders想法是从命令行运行这个脚本,提供另一个脚本,它将在其标准输入上获取请求,并在其标准输出上返回完整的响应。到目前为止一切顺利,但事实证明这真的很脆弱,因为它在第二个请求上中断并出现错误:/usr/b

  2. 报告回顾丨模型进化狂飙,DetectGPT能否识别最新模型生成结果? - 2

    导读语言模型给我们的生产生活带来了极大便利,但同时不少人也利用他们从事作弊工作。如何规避这些难辨真伪的文字所产生的负面影响也成为一大难题。在3月9日智源Live第33期活动「DetectGPT:判断文本是否为机器生成的工具」中,主讲人Eric为我们讲解了DetectGPT工作背后的思路——一种基于概率曲率检测的用于检测模型生成文本的工具,它可以帮助我们更好地分辨文章的来源和可信度,对保护信息真实、防止欺诈等方面具有重要意义。本次报告主要围绕其功能,实现和效果等展开。(文末点击“阅读原文”,查看活动回放。)Ericmitchell斯坦福大学计算机系四年级博士生,由ChelseaFinn和Chri

  3. [Vuforia]二.3D物体识别 - 2

    之前说过10之后的版本没有3dScan了,所以还是9.8的版本或者之前更早的版本。 3d物体扫描需要先下载扫描的APK进行扫面。首先要在手机上装一个扫描程序,扫描现实中的三维物体,然后上传高通官网,在下载成UnityPackage类型让Unity能够使用这个扫描程序可以从高通官网上进行下载,是一个安卓程序。点到Tools往下滑,找到VuforiaObjectScanner下载后解压数据线连接手机,将apk文件拷入手机安装然后刚才解压文件中的Media文件夹打开,两个PDF图打印第一张A4-ObjectScanningTarget.pdf,主要是用来辅助扫描的。好了,接下来就是扫描三维物体。将瓶

  4. 网络编程套接字 - 2

    网络编程套接字网络编程基础知识理解源`IP`地址和目的`IP`地址理解源MAC地址和目的MAC地址认识端口号理解端口号和进程ID理解源端口号和目的端口号认识`TCP`协议认识`UDP`协议网络字节序socket编程接口`sockaddr``UDP`网络程序服务器端代码逻辑:需要用到的接口服务器端代码`udp`客户端代码逻辑`udp`客户端代码`TCP`网络程序服务器代码逻辑多个版本服务器单进程版本多进程版本多线程版本线程池版本服务器端代码客户端代码逻辑客户端代码TCP协议通讯流程TCP协议的客户端/服务器程序流程三次握手(建立连接)数据传输四次挥手(断开连接)TCP和UDP对比网络编程基础知识

  5. ruby-on-rails - 在 heroku 的 .fonts 文件夹中包含自定义字体,似乎无法识别它们 - 2

    Heroku支持人员告诉我,为了在我的Web应用程序中使用自定义字体(未安装在系统中,您可以在bash控制台中使用fc-list查看已安装的字体)我必须部署一个包含所有字体的.fonts文件夹里面的字体。问题是我不知道该怎么做。我的意思是,我不知道文件名是否必须遵循heroku的任何特殊模式,或者我必须在我的代码中做一些事情来考虑这种字体,或者如果我将它包含在文件夹中它是自动的......事实是,我尝试以不同的方式更改字体的文件名,但根本没有使用该字体。为了提供更多详细信息,我们使用字体的过程是将PDF转换为图像,更具体地说,使用rghostgem。并且最终图像根本不使用自定义字体。在

  6. ruby-on-rails - 没有这样的文件或目录 - 用 Mini Magick 识别 - 2

    在我让另一个人重做我的前端UI之前,我的Rails应用程序运行平稳。我已经尝试解决此错误3天了。这是错误:Nosuchfileordirectory-identifyExtractedsource(aroundline#59):575859606162@post=Post.find(params[:id])authorize@postif@post.update_attributes(post_params)flash[:notice]="Postwasupdated."redirect_to[@topic,@post]else{"utf8"=>"✓","_method"=>"patc

  7. ruby - 检查网络文件是否存在,而不下载它? - 2

    是否可以在不实际下载文件的情况下检查文件是否存在?我有这么大的(~40mb)文件,例如:http://mirrors.sohu.com/mysql/MySQL-6.0/MySQL-6.0.11-0.glibc23.src.rpm这与ruby​​不严格相关,但如果发件人可以设置内容长度就好了。RestClient.get"http://mirrors.sohu.com/mysql/MySQL-6.0/MySQL-6.0.11-0.glibc23.src.rpm",headers:{"Content-Length"=>100} 最佳答案

  8. ruby - 404 未找到,但可以从网络浏览器正常访问 - 2

    我在这方面尝试了很多URL,在我遇到这个特定的之前,它们似乎都很好:require'rubygems'require'nokogiri'require'open-uri'doc=Nokogiri::HTML(open("http://www.moxyst.com/fashion/men-clothing/underwear.html"))putsdoc这是结果:/Users/macbookair/.rvm/rubies/ruby-2.0.0-p481/lib/ruby/2.0.0/open-uri.rb:353:in`open_http':404NotFound(OpenURI::HT

  9. ruby - 使用 ruby​​ 识别阵列上的运行 - 2

    如果我们有一个数组array=[1,1,0,0,2,3,0,0,0,3,3,3]我们如何识别给定数字的运行(具有相同值的连续数字的数量)?例如:run_pattern_for(array,0)->2run_pattern_for(array,3)->1run_pattern_for(array,1)->1run_pattern_for(array,2)->0没有2的运行,因为没有连续出现2。3有一个运行,因为只有一个幻影以树为连续数字。 最佳答案 尝试:classArraydefcount_runs(element)chunk{|n

  10. 深度学习12. CNN经典网络 VGG16 - 2

    深度学习12.CNN经典网络VGG16一、简介1.VGG来源2.VGG分类3.不同模型的参数数量4.3x3卷积核的好处5.关于学习率调度6.批归一化二、VGG16层分析1.层划分2.参数展开过程图解3.参数传递示例4.VGG16各层参数数量三、代码分析1.VGG16模型定义2.训练3.测试一、简介1.VGG来源VGG(VisualGeometryGroup)是一个视觉几何组在2014年提出的深度卷积神经网络架构。VGG在2014年ImageNet图像分类竞赛亚军,定位竞赛冠军;VGG网络采用连续的小卷积核(3x3)和池化层构建深度神经网络,网络深度可以达到16层或19层,其中VGG16和VGG

随机推荐