草庐IT

TensorRT-LLM

全部标签

以火攻火:用LLM对付LLM生成的社会工程攻击

人工智能领域的最新进展导致了大语言模型(LLM)问世,包括GPT-3、PaLM、GPT-4和LLAMA。这些模型可以生成易于理解的文本段落、回答详细的问题、解决复杂的问题、编写代码以及处理其他各种自然语言任务。LLM彻底改变了自然语言处理(NLP)任务,改变了用户与语言进行交互的方式,最终通过改进后的聊天机器人、虚拟助手、内容生成、搜索引擎和语言学习平台,影响了人们的日常生活。虽然不可否认LLM进步巨大,有助于日常使用,但在网络安全领域,它已成为一把双刃剑,无意中为网络犯罪分子开创了黄金时代。LLM允许攻击者更高效更频繁地进行一系列攻击(包括鱼叉式网络钓鱼和商业电子邮件入侵等社会工程伎俩),因

一文入门最热的LLM应用开发框架LangChain

在人工智能领域的不断发展中,语言模型扮演着重要的角色。特别是大型语言模型(LLM),如ChatGPT,已经成为科技领域的热门话题,并受到广泛认可。在这个背景下,LangChain作为一个以LLM模型为核心的开发框架出现,为自然语言处理开启了一个充满可能性的世界。借助LangChain,我们可以创建各种应用程序,包括聊天机器人和智能问答工具。1. LangChain简介1.1.LangChain发展史LangChain的作者是HarrisonChase,最初是于2022年10月开源的一个项目,在GitHub上获得大量关注之后迅速转变为一家初创公司。2017年HarrisonChase还在哈佛上大

【人工智能】浅谈LLM大模型对程序员的冲击和影响

浅谈LLM大模型对程序员的冲击和影响文章目录浅谈LLM大模型对程序员的冲击和影响LLM在软件开发过程中的单点提效1.智能代码提示2.代码片段智能生成3.SQL语句的智能生成与调优4.更高效更精准的静态代码检查与自动修复(非rule-based)5.智能辅助的代码评审与代码重构6.单元测试和接口测试代码的自动生成7.更高级的重复代码检查(语义重复检查)8.失败用例的自动分析与归因9.更精准的技术问答LLM时代,对软件研发更多的思考思考1:替代的是码农,共生的是工程师思考2:有利于控制研发团队规模,保持小团队的优势

【AI 开源框架】BMTools: 让LLM大语言模型使用扩展工具的平台

BMTools文章目录BMTools最新支持1.安装2.使用现有工具2.1配置工具2.1.1本地工具2.1.2使用在线的ChatGPT-Plugins2.2使用单个工具2.3使用多个工具2.4使用WebDemo3.使用定制工具3.1本地开发工具3.2贡献到BMTools4.优化工具的提示信息引用BMTools是一款能让语言模型使用扩展工具的开源仓库,其也是开源社

目标检测与跟踪 (3)- TensorRT&YOLO V8性能优化与部署测试

系列文章目录目标检测与跟踪(1)-机器人视觉与YOLOV8_TechblogofHaoWANG的博客-CSDN博客目标检测与跟踪(2)-YOLOV8配置与测试_TechblogofHaoWANG的博客-CSDN博客目录系列文章目录前言YOLOv8TensorRT一、TensorRT1.1原理1.2架构1.3功能1.4性能1.5GPU并行计算二、安装&配置1.下载2.安装3.测试导出YOLOV84.部署测试前言YOLOv8YOLOv8算法的核心特性和改动可以归结为如下:1. 提供了一个全新的SOTA模型,包括P5640和P61280分辨率的目标检测网络和基于YOLACT的实例分割模型。和YOLO

【AI开源大模型】Salesforce XGen-7B 支持长序列建模:在 8K 输入序列长度上训练的LLM

目录TLDRWhyXGen-7Bwith8KSequenceLength为什么选择具有8K序列长度的XGen-7BPre-trainingData 预训练数据TrainingDetails 培训详情ResultsonStandardBenchmarks标准基准的结果(i)MMLU (一)MMLU(ii)GeneralZero-shotResults(ii)一般零样本结果

AIGC入门 - LLM 信息概览

在阅读本文之前,建议阅读文章:《GPT,GPT-2,GPT-3,InstructGPT的进化之路》本文将介绍以下LLMOPTLLaMaAlpacaVicunaMosschatGLMBaichuanOpenbuddy一、OPT1、背景OPT全称OpenPre-trainedTransformerLanguageModels,即“开放的预训练Transformer语言模型”,是MetaAI团队在2022年5月发布了开源大模型OPT-175B,媲美GPT-3,但是只需要1/7carbonfootprint的训练代价。(CarbonFootprint:根据之前的研究和GPU设备的功耗估计以及碳效率,我

windows下安装Visual Studio + CMake+OpenCV + OpenCV contrib+TensorRT

目录1安装visualstudio2安装CMake3OpenCV源码安装3.1OpenCV源码下载3.2OpenCVcontrib源码下载3.3安装OpenCV3.4安装OpenCV-crontrib3.5 VS生成代码4环境配置5TensorRT安装5.1 TensorRT安装5.2Python下安装TensorRT库最近在研究windows系统上部署安装目标检测算法,需要用到OpenCV软件,因为OpenCV可能是目前使用最广泛的开源图像处理工具了,尤其是在科研领域。于是,本篇博客主要详细记录一下如何在Windows操作系统下,搭建VisualStudio2022+OpenCV4.5.5+

多LLM协同作战!清华等开源多智能体框架AgentVerse:合作打造Minecraft物品,还能训练宝可梦

人类之所以能够爬到地球的食物链顶端,甚至还能继续探索外太空,除了个人的头脑外,更离不开群体的协作力量。对应到大型语言模型(LLM),虽然单个模型的能力已经非常强大,但想要完成更复杂的任务,或是提升任务的完成效率,还需要多个智能体之间的协作。最近,受人类群体动力学(humangroupdynamics)的启发,来自清华大学、北邮和腾讯的研究人员提出了一个多智能体框架AgentVerse,可以让多个模型之间进行协作,并动态调整群体的组成,实现1+1>2的效果。图片论文链接:https://arxiv.org/pdf/2308.10848.pdf开源链接:https://github.com/Ope