草庐IT

聊聊ChatGPT 集成到网络安全产品中作为行业测试其功能

铸盾安全 2023-03-28 原文
​随着行业正在测试其功能和局限性,ChatGPT 越来越多地集成到网络安全产品和服务中。

虽然已经有很多关于 OpenAI 的 ChatGPT 如何被滥用于恶意目的以及它如何构成威胁的讨论,但人工智能聊天机器人对网络安全行业也非常有用。

ChatGPT 于 2022 年 11 月推出,被许多人描述为革命性的。它建立在 OpenAI 的 GPT-3 大型语言模型家族之上,用户通过提示与之交互。

有许多文章描述了 ChatGPT 的功能如何被用于恶意目的,包括编写可信的网络钓鱼电子邮件和创建恶意软件。 

然而,ChatGPT也可以为防御者带来很多好处,网络安全行业也越来越多地将其融入到产品和服务中。此外,该行业的一些成员一直在测试其功能和局限性。 

在过去的几个月里,几家网络安全公司透露他们已经开始或计划使用 ChatGPT,一些研究人员已经找到了聊天机器人的实际用例。

云安全公司Orca是最早宣布将 ChatGPT(特别是 GPT-3)集成到其平台中的公司之一。目标是加强为客户提供的云安全风险补救措施。 

“通过使用我们自己的安全数据集对这些强大的语言模型进行微调,我们已经能够提高补救步骤的细节和准确性——为您提供更好的补救计划,并帮助您尽快以最佳方式解决问题”奥卡解释道。 

Kubernetes 安全公司 Armo 已将ChatGPT 的生成 AI集成到其平台中,使用户可以更轻松地创建基于 Open Policy Agent (OPA) 的安全策略。

“Armo Custom Controls 使用安全性和合规性 Regos 以及其他上下文对 ChatGPT 进行预训练,利用和利用 AI 的力量来生成通过自然语言请求的定制控件。用户获得由 ChatGPT 生成的完整 OPA 规则,以及规则的自然语言描述和修复失败控制的建议补救措施——快速、简单且无需学习新语言,”该公司表示。

Logpoint最近宣布在实验室环境中为其 LogPoint SOAR(安全编排、自动化和响应)解决方案集成 ChatGPT。 

“Logpoint SOAR 的新 ChatGPT 集成允许客户调查在网络安全中使用 SOAR 剧本和 ChatGPT 的潜力,”该公司表示。 

网络物理安全融合软件公司AlertEnterprise推出了一款由 ChatGPT 提供支持的聊天机器人。它允许用户快速获取有关物理访问、身份访问管理、访客管理、门阅读器分析以及安全和安全报告的信息。用户可以向聊天机器人提问,例如“我们上个月发放了多少新员工徽章?” 或“显示即将到期的受限区域访问员工培训”。

Accenture Security 一直在分析 ChatGPT自动化某些网络防御相关任务的能力。 

Coro 和Trellix等网络安全公司目前也在探索将 ChatGPT 嵌入其产品的可能性。

网络安全社区的一些成员分享了他们使用 ChatGPT 进行的测试的结果。例如,培训提供商HackerSploit展示了如何使用它来识别软件漏洞,以及如何利用它进行渗透测试。 

卡巴斯基的一名研究人员进行了一些妥协指标 (IoC) 检测实验,并在某些领域发现了有希望的结果。这些测试包括检查 IoC 系统、将基于签名的规则集与 ChatGPT 输出进行比较以识别差距、检测代码混淆以及查找恶意软件二进制文件之间的相似性。 

在线恶意软件沙箱 Any.Run 使用 ChatGPT 来分析恶意软件。聊天机器人能够分析简单的样本,但在被要求查看更复杂的代码时失败了。

NCC Group使用 AI进行了安全代码审查,发现它“并没有真正起作用”。该公司发现,虽然它可以正确识别一些漏洞,但在很多情况下它也会提供虚假信息和误报,使其无法可靠地进行代码分析。 

安全研究人员Antonio Formato和Zubair Rahim描述了他们如何将 ChatGPT 与 Microsoft Sentinel 安全分析和威胁情报解决方案集成以进行事件管理。 

约翰霍普金斯大学 SAIS 的安全研究员兼兼职讲师 Juan Andres Guerrero-Saade 最近将 ChatGPT 整合到一门关于恶意软件分析和逆向工程的课程中。ChatGPT 帮助学生快速获得“愚蠢问题”的答案,从而防止课堂中断。它还使他们更容易理解所使用的工具、解释代码,甚至编写脚本。 

有关聊聊ChatGPT 集成到网络安全产品中作为行业测试其功能的更多相关文章

  1. ruby-on-rails - 使用 Ruby on Rails 进行自动化测试 - 最佳实践 - 2

    很好奇,就使用ruby​​onrails自动化单元测试而言,你们正在做什么?您是否创建了一个脚本来在cron中运行rake作业并将结果邮寄给您?git中的预提交Hook?只是手动调用?我完全理解测试,但想知道在错误发生之前捕获错误的最佳实践是什么。让我们理所当然地认为测试本身是完美无缺的,并且可以正常工作。下一步是什么以确保他们在正确的时间将可能有害的结果传达给您? 最佳答案 不确定您到底想听什么,但是有几个级别的自动代码库控制:在处理某项功能时,您可以使用类似autotest的内容获得关于哪些有效,哪些无效的即时反馈。要确保您的提

  2. ruby - 使用 C 扩展开发 ruby​​gem 时,如何使用 Rspec 在本地进行测试? - 2

    我正在编写一个包含C扩展的gem。通常当我写一个gem时,我会遵循TDD的过程,我会写一个失败的规范,然后处理代码直到它通过,等等......在“ext/mygem/mygem.c”中我的C扩展和在gemspec的“扩展”中配置的有效extconf.rb,如何运行我的规范并仍然加载我的C扩展?当我更改C代码时,我需要采取哪些步骤来重新编译代码?这可能是个愚蠢的问题,但是从我的gem的开发源代码树中输入“bundleinstall”不会构建任何native扩展。当我手动运行rubyext/mygem/extconf.rb时,我确实得到了一个Makefile(在整个项目的根目录中),然后当

  3. ruby - Ruby 的 Hash 在比较键时使用哪种相等性测试? - 2

    我有一个围绕一些对象的包装类,我想将这些对象用作散列中的键。包装对象和解包装对象应映射到相同的键。一个简单的例子是这样的:classAattr_reader:xdefinitialize(inner)@inner=innerenddefx;@inner.x;enddef==(other)@inner.x==other.xendenda=A.new(o)#oisjustanyobjectthatallowso.xb=A.new(o)h={a=>5}ph[a]#5ph[b]#nil,shouldbe5ph[o]#nil,shouldbe5我试过==、===、eq?并散列所有无济于事。

  4. ruby - RSpec - 使用测试替身作为 block 参数 - 2

    我有一些Ruby代码,如下所示:Something.createdo|x|x.foo=barend我想编写一个测试,它使用double代替block参数x,这样我就可以调用:x_double.should_receive(:foo).with("whatever").这可能吗? 最佳答案 specify'something'dox=doublex.should_receive(:foo=).with("whatever")Something.should_receive(:create).and_yield(x)#callthere

  5. ruby - 如何使用 Ruby aws/s3 Gem 生成安全 URL 以从 s3 下载文件 - 2

    我正在编写一个小脚本来定位aws存储桶中的特定文件,并创建一个临时验证的url以发送给同事。(理想情况下,这将创建类似于在控制台上右键单击存储桶中的文件并复制链接地址的结果)。我研究过回形针,它似乎不符合这个标准,但我可能只是不知道它的全部功能。我尝试了以下方法:defauthenticated_url(file_name,bucket)AWS::S3::S3Object.url_for(file_name,bucket,:secure=>true,:expires=>20*60)end产生这种类型的结果:...-1.amazonaws.com/file_path/file.zip.A

  6. ruby - Sinatra:运行 rspec 测试时记录噪音 - 2

    Sinatra新手;我正在运行一些rspec测试,但在日志中收到了一堆不需要的噪音。如何消除日志中过多的噪音?我仔细检查了环境是否设置为:test,这意味着记录器级别应设置为WARN而不是DEBUG。spec_helper:require"./app"require"sinatra"require"rspec"require"rack/test"require"database_cleaner"require"factory_girl"set:environment,:testFactoryGirl.definition_file_paths=%w{./factories./test/

  7. ruby-on-rails - 迷你测试错误 : "NameError: uninitialized constant" - 2

    我遵循MichaelHartl的“RubyonRails教程:学习Web开发”,并创建了检查用户名和电子邮件长度有效性的测试(名称最多50个字符,电子邮件最多255个字符)。test/helpers/application_helper_test.rb的内容是:require'test_helper'classApplicationHelperTest在运行bundleexecraketest时,所有测试都通过了,但我看到以下消息在最后被标记为错误:ERROR["test_full_title_helper",ApplicationHelperTest,1.820016791]test

  8. ruby - 即使失败也继续进行多主机测试 - 2

    我已经构建了一些serverspec代码来在多个主机上运行一组测试。问题是当任何测试失败时,测试会在当前主机停止。即使测试失败,我也希望它继续在所有主机上运行。Rakefile:namespace:specdotask:all=>hosts.map{|h|'spec:'+h.split('.')[0]}hosts.eachdo|host|begindesc"Runserverspecto#{host}"RSpec::Core::RakeTask.new(host)do|t|ENV['TARGET_HOST']=hostt.pattern="spec/cfengine3/*_spec.r

  9. ruby-on-rails - 如何使辅助方法在 Rails 集成测试中可用? - 2

    我在app/helpers/sessions_helper.rb中有一个帮助程序文件,其中包含一个方法my_preference,它返回当前登录用户的首选项。我想在集成测试中访问该方法。例如,这样我就可以在测试中使用getuser_path(my_preference)。在其他帖子中,我读到这可以通过在测试文件中包含requiresessions_helper来实现,但我仍然收到错误NameError:undefinedlocalvariableormethod'my_preference'.我做错了什么?require'test_helper'require'sessions_hel

  10. ruby - 用 Ruby 编写一个简单的网络服务器 - 2

    我想在Ruby中创建一个用于开发目的的极其简单的Web服务器(不,不想使用现成的解决方案)。代码如下:#!/usr/bin/rubyrequire'socket'server=TCPServer.new('127.0.0.1',8080)whileconnection=server.acceptheaders=[]length=0whileline=connection.getsheaders想法是从命令行运行这个脚本,提供另一个脚本,它将在其标准输入上获取请求,并在其标准输出上返回完整的响应。到目前为止一切顺利,但事实证明这真的很脆弱,因为它在第二个请求上中断并出现错误:/usr/b

随机推荐