草庐IT

TensorRT-LLM

全部标签

微软开源了一个 助力开发LLM 加持的应用的 工具包 semantic-kernel

在首席执行官萨蒂亚·纳德拉(SatyaNadella)的支持下,微软似乎正在迅速转变为一家以人工智能为中心的公司。最近微软的众多产品线都采用GPT-4加持,从Microsoft365等商业产品到“新必应”搜索引擎,再到低代码/无代码PowerPlatform等面向开发的产品,包括软件开发组件PowerApps[1]。非常重要的一点是这些产品都是使用.NET构建的,这些项目可以快速的使用LLM加持,我们写程序的同学肯定都会想微软是怎么做的,正好微软在3月17日在发布了一篇博客文章:[Hello,SemanticKernel!](https://devblogs.microsoft.com/sem

ChatGPT分享-如何开发一个LLM应用

1​背景​ChatGPT引起巨大的业界震撼,各行各业都在讨论大语言模型、通用人工智能。AI经历了五十多年的发展,现在正处于产业结构水平化发展的关键时期。这一变化源于NLP领域范式的转变,从“预训练+微调”向“预训练、提示、预测”模式演进。在这一新模式下,下游任务适应预训练模型,使得一个大型模型能适用于多个任务。这一变化为AI产业的水平化分工奠定了基础,大型语言模型成为基础设施,PromptEngineering公司层出不穷,专注于连接用户和模型。AI产业的分工初步形成,包括底层基础设施(云服务商)、大型模型、PromptEngineering平台和终端应用。随着AI产业变革,开发者可以充分利用

ChatGPT分享-如何开发一个LLM应用

1​背景​ChatGPT引起巨大的业界震撼,各行各业都在讨论大语言模型、通用人工智能。AI经历了五十多年的发展,现在正处于产业结构水平化发展的关键时期。这一变化源于NLP领域范式的转变,从“预训练+微调”向“预训练、提示、预测”模式演进。在这一新模式下,下游任务适应预训练模型,使得一个大型模型能适用于多个任务。这一变化为AI产业的水平化分工奠定了基础,大型语言模型成为基础设施,PromptEngineering公司层出不穷,专注于连接用户和模型。AI产业的分工初步形成,包括底层基础设施(云服务商)、大型模型、PromptEngineering平台和终端应用。随着AI产业变革,开发者可以充分利用