草庐IT

直击RSAC现场:人工智能工具成为今年最热门话题!

小薯条 2024-02-22 原文

今年在旧金山举行的RSAC大会上有一个热门话题:人工智能工具。生成式人工智能在网络安全工具中的潜力引发了网络安全专业人士的兴趣。但是人们对人工智能在网络安全中的实际应用,以及用于建立人工智能模型的数据的可靠性提出了质疑。

网络安全战略顾问、GoogleCloud和Cyversity的董事会成员M.K. Palmore在采访中表示:我们目前正处于与人工智能交手的第一局,我们还不知道人工智能对网络安全行业的影响会有多大,也不知道我们最终能看到什么结果。但我们心存希望,整个公司目前也正朝着一个方向努力,这也表明我们看到了人工智能对行业产生积极影响的价值和用途。

不过Palmore也承认,目前我们在人工智能的发展方面确实还有更多的事情要做。他认为随着事物的变化发展,我们都必须转向适应这种新的模式,让这些大型语言模型(llm)和人工智能可供我们使用。Presidio首席信息安全官Dan Lohrmann认为,人工智能在网络安全领域还处于早期阶段。在RSAC大会上提及人工智能工具的话题时,他认为这将是一场变革,人工智能将改变很大一部分产品。这可能会改变进攻方和防守方,就像我们如何组建红队和蓝队那样。

此外他还指出,在精简安全团队使用的工具方面,还有很长的路要走。他说:“我认为我们永远无法实现单一的窗格的资源监控和管理,但目前已经是我见过最精简的程度了。

将AI添加到安全工具

在2023年RSAC大会期间,不少公司都讲述了他们是如何在安全工具中使用生成性人工智能的,例如,谷歌推出了其生成式人工智能工具和安全LLM、Sec-PaLM。Sec-PaLM是基于Mandiant在漏洞、恶意软件、威胁指标和行为威胁参与者概况方面的前沿情报而构建的。

谷歌Cloud的用户体验总监斯蒂芬•海(stephen Hay)表示,LLMs现在达到了一个临界点,它可以以一种以前无法做到的方式将信息语境化。这代表我们现在有了真正的生成式人工智能。

与此同时,亚马逊网络服务(Amazon Web Services)首席信息安全官办公室主任Mark Ryland强调了如何用生成式人工智能检测威胁活动。日常中多关注有意义的数据,尽量减少误报。且唯一能有效做到这一点的方法就是多多训练机器学习,这也是我们安全服务的核心。

该公司最近宣布了一种名为Amazon Bedrock的新工具,用于在AWS上进行构建,其中包含了生成式人工智能。Amazon Bedrock是一项新服务,可以通过API访问来自AI21 Labs、Anthropic、Stability AI和Amazon的基础模型(fm)。此外,Tenable还推出了专门为研究界设计的生成式人工智能安全工具。另外,一份名为《生成式人工智能如何改变安全研究》的报告最近也发布了,该报告探讨了LLMs如何在逆向工程、调试代码、提高web应用程序安全性和云工具可见性等研究领域降低复杂性和提高效率。

该报告指出,ChatGPT正在以“惊人的速度”发展。关于网络安全平台中的人工智能工具,Tenable首席安全官Bob Huber表示,这些工具允许你建立一个数据库,例如,如果你正在寻找渗透测试,目标是X,可能存在哪些漏洞,通常这是一个手动过程,你必须进入并进行搜索,但人工智能可以帮助你更快地获取这些东西。

另外,他补充说目前已经看到一些公司开始使用LLMs。同时他也指出,LLMs所基于的数据并不一定是经过验证的或准确的,因此需要对此设置护栏。因此用自己的数据构建的LLMs,更值得信赖。

有人担心与GPT这样的LLMs挂钩可能会影响安全性。作为安全从业者,了解风险是很重要的。但Huber指出,人们目前还没有足够的时间去了解生成式人工智能的风险。这些工具都旨在简化防御者的工作,但黑莓威胁研究与情报副总裁伊斯梅尔·巴伦苏埃拉指出了生成式人工智能的局限性。

和其他任何工具一样,我们作为防御者会使用,其他攻击者也会使用它。所以说这些生成式人工智能工具的最佳使用方式就是将其作为助手来使用。很明显,它的确可以促进我们的发展。但如果是期望它能彻底改变一切,那答案是否定的。


有关直击RSAC现场:人工智能工具成为今年最热门话题!的更多相关文章

  1. 世界前沿3D开发引擎HOOPS全面讲解——集3D数据读取、3D图形渲染、3D数据发布于一体的全新3D应用开发工具 - 2

    无论您是想搭建桌面端、WEB端或者移动端APP应用,HOOPSPlatform组件都可以为您提供弹性的3D集成架构,同时,由工业领域3D技术专家组成的HOOPS技术团队也能为您提供技术支持服务。如果您的客户期望有一种在多个平台(桌面/WEB/APP,而且某些客户端是“瘦”客户端)快速、方便地将数据接入到3D应用系统的解决方案,并且当访问数据时,在各个平台上的性能和用户体验保持一致,HOOPSPlatform将帮助您完成。利用HOOPSPlatform,您可以开发在任何环境下的3D基础应用架构。HOOPSPlatform可以帮您打造3D创新型产品,HOOPSSDK包含的技术有:快速且准确的CAD

  2. 基于C#实现简易绘图工具【100010177】 - 2

    C#实现简易绘图工具一.引言实验目的:通过制作窗体应用程序(C#画图软件),熟悉基本的窗体设计过程以及控件设计,事件处理等,熟悉使用C#的winform窗体进行绘图的基本步骤,对于面向对象编程有更加深刻的体会.Tutorial任务设计一个具有基本功能的画图软件**·包括简单的新建文件,保存,重新绘图等功能**·实现一些基本图形的绘制,包括铅笔和基本形状等,学习橡皮工具的创建**·设计一个合理舒适的UI界面**注明:你可能需要先了解一些关于winform窗体应用程序绘图的基本知识,以及关于GDI+类和结构的知识二.实验环境Windows系统下的visualstudio2017C#窗体应用程序三.

  3. postman接口测试工具-基础使用教程 - 2

    1.postman介绍Postman一款非常流行的API调试工具。其实,开发人员用的更多。因为测试人员做接口测试会有更多选择,例如Jmeter、soapUI等。不过,对于开发过程中去调试接口,Postman确实足够的简单方便,而且功能强大。2.下载安装官网地址:https://www.postman.com/下载完成后双击安装吧,安装过程极其简单,无需任何操作3.使用教程这里以百度为例,工具使用简单,填写URL地址即可发送请求,在下方查看响应结果和响应状态码常用方法都有支持请求方法:getpostputdeleteGet、Post、Put与Delete的作用get:请求方法一般是用于数据查询,

  4. ruby-on-rails - 有没有一种工具可以在编码时自动保存对文件的增量更改? - 2

    我最喜欢的Google文档功能之一是它会在我工作时不断自动保存我的文档版本。这意味着即使我在进行关键更改之前忘记在某个点进行保存,也很有可能会自动创建一个保存点。至少,我可以将文档恢复到错误更改之前的状态,并从该点继续工作。对于在MacOS(或UNIX)上运行的Ruby编码器,是否有具有等效功能的工具?例如,一个工具会每隔几分钟自动将Gitcheckin我的本地存储库以获取我正在处理的文件。也许我有点偏执,但这点小保险可以让我在日常工作中安心。 最佳答案 虚拟机有些人可能讨厌我对此的回应,但我在编码时经常使用VIM,它具有自动保存功

  5. ruby - 使用 Ruby 开发工具包将文件上传到 Amazon S3 - 2

    我正在尝试上传文件。一个简单的hello.txt。我正在关注文档,但无法将其上传到我的存储桶。#STARTAWSCLIENTs3=Aws::S3::Resource.newbucket=s3.bucket(BUCKET_NAME)begins3.buckets[BUCKET_NAME].objects[KEY].write(:file=>FILE_NAME)puts"Uploadingfile#{FILE_NAME}tobucket#{BUCKET_NAME}."bucket.objects.eachdo|obj|puts"#{obj.key}=>#{obj.etag}"endresc

  6. ruby - 是否有 SproutCore 或 Cappuccino 的现场演示/示例应用程序 - 2

    在他们的网站上找不到任何内容。我主要只是想看看哪个值得一试(当然是RIA)。谢谢 最佳答案 SproutCoredemos 关于ruby-是否有SproutCore或Cappuccino的现场演示/示例应用程序,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/1419788/

  7. ruby - 在 StockChart (highchart) 中以编程方式显示柱形图的工具提示 - 2

    我有一个Highstock图表(带有标记和阴影的线条),并且想以编程方式显示一个highstock工具提示,例如,当我选择某个表上的一行(包含图表数据)我想显示相应的highstock工具提示。这可能吗? 最佳答案 股票图表thissolution不起作用:在thisexample你必须更换这个:chart.tooltip.refresh(chart.series[0].data[i]);为此:chart.tooltip.refresh([chart.series[0].points[i]]);解决方案可用here.

  8. 玩以太坊链上项目的必备技能(初识智能合约语言-Solidity之旅一) - 2

    前面一篇关于智能合约翻译文讲到了,是一种计算机程序,既然是程序,那就可以使用程序语言去编写智能合约了。而若想玩区块链上的项目,大部分区块链项目都是开源的,能看得懂智能合约代码,或找出其中的漏洞,那么,学习Solidity这门高级的智能合约语言是有必要的,当然,这都得在公链``````以太坊上,毕竟国内的联盟链有些是不兼容Solidity。Solidity是一种面向对象的高级语言,用于实现智能合约。智能合约是管理以太坊状态下的账户行为的程序。Solidity是运行在以太坊(Ethereum)虚拟机(EVM)上,其语法受到了c++、python、javascript影响。Solidity是静态类型

  9. ABB-IRB-1200运动学分析MATLAB RVC工具分析+Simulink-Adams联合仿真 - 2

    一、机器人介绍        此处是基于MATLABRVC工具箱,对ABB-IRB-1200型号的微型机械臂进行正逆向运动学分析,并利Simulink工具实现对机械臂进行具有动力学参数的末端轨迹规划仿真,最后根据机械模型设计Simulink-Adams联合仿真。 图1.ABBIRB 1200尺寸参数示意图ABBIRB 1200提供的两种型号广泛适用于各作业,且两者间零部件通用,两种型号的工作范围分别为700 mm 和 900 mm,大有效负载分别为 7 kg 和5 kg。 IRB 1200 能够在狭小空间内能发挥其工作范围与性能优势,具有全新的设计、小型化的体积、高效的性能、易于集成、便捷的接

  10. 智能客服 | 浅谈人工智能聊天机器人ChatGPT - 2

    2022年底,OpenAI的预训练模型ChatGPT给人工智能领域的爱好者和研究人员留下了深刻的印象和启发,他展现的惊人能力将人工智能的研究和应用热度推向高潮,网上也充斥着和ChatGPT的各种聊天,他可以作诗、写小说、写代码、讨论疫情问题等。下面就是一些他的神回复:人命关天的坑: 写歌,留给词作者的机会不多了。。。 回答人类怎么样面对人工智能: 什么是ChatGPT?借用网上的一段介绍,ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型,一款人工智能技术驱动的自然语言处理工具。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动

随机推荐