草庐IT

cpp-core-guidelines

全部标签

Windows(C#)音频开发-Windows Core Audio(WASAPI)

本文的例子使用NAudio.CoreAudioApi实现,全部为C#代码以下仅为个人理解,不一定都对,勿信~阅读这个文档,最好具备C++知识,因为会用到Marshal命名空间进行指针操作一、关于WindowsCoreAudioWindowsCoreAudioAPI是一种非常底层的音频API,上层应用为DirectSound或者WaveXXX接口等,WASAPI是其中的一部分。WindowsCoreAudioAPI构成MultimediaDeviceAPI(MMDevice):表示系统中的音频设备节点(AudioDeviceEndpoint),Mmdeviceapi.hWindowsAudioS

EF Core预编译模型Compiled Model

前言最近还在和npgsql与EFCore斗争,由于EFCore暂时还不支持AOT,因此在AOT应用程序中使用EFCore时,会提示问题:听这个意思,似乎使用CompiledModel可以解决问题,于是就又研究了一下EFCore的这个功能。在EFCore中,模型根据实体类和配置构建,默认情况下,每次创建一个新的DbContext实例时,EFCore都会构建模型。对于需要频繁创建DbContext实例的应用程序,这可能会导致性能问题。EntityFrameworkCore(EFCore)的预编译模型(CompiledModel)对应提供了一种优化,在EFCore6preview5中首次增加了这个功

通过制作llama_cpp的docker镜像在内网离线部署运行大模型

对于机器在内网,无法连接互联网的服务器来说,想要部署体验开源的大模型,需要拷贝各种依赖文件进行环境搭建难度较大,本文介绍如何通过制作docker镜像的方式,通过llama.cpp实现量化大模型的快速内网部署体验。一、llama_cpp介绍LLaMA全称是LargeLanguageModelMetaAI,是由Meta AI(原FacebookAI研究实验室)研究人员发布的一个预训练语言模型。该模型最大的特点就是基于以较小的参数规模取得了优秀的性能,模型参数量从7B到65B,与其他大型语言模型一样,LLaMA的工作原理是将一连串的单词作为输入,并预测下一个单词,以递归地生成文本。LLaMA.cpp

你所不知道的ASP.NET Core进阶系列(三)

前言一年多没更新博客,上一次写此系列还是四年前,虽迟但到,没有承诺,主打随性,所以不存在断更,催更,哈哈,上一篇我们细究从请求到绑定详细原理,本篇则是探讨模型绑定细节,当一个问题产生到最终解决时,回过头我们整体分析其产生背景以及设计思路才能有所获。好了,废话不多说,我们开始模型绑定细节之旅。问题产生我们定义一个模型,然后进行查询请求,当然,此时我们在后台控制器Action方法上推荐明确使用查询特性即FromQuery接收,代码如下publicclassUserAddress{publicstringCode{get;set;}}[ApiController][Route("api/[contr

LLMs之Chinese-LLaMA-Alpaca:基于单机CPU+Windows系统实现中文LLaMA算法进行模型部署(llama.cpp)+模型推理全流程步骤【安装环境+创建环境并安装依赖+原版L

LLMs之Chinese-LLaMA-Alpaca:基于单机CPU+Windows系统实现中文LLaMA算法进行模型部署(llama.cpp)+模型推理全流程步骤【安装环境+创建环境并安装依赖+原版LLaMA转HF格式+合并llama_hf和chinese-alpaca-lora-7b→下载llama.cpp进行模型的量化(CMake编译+生成量化版本模型)→部署f16/q4_0+测试效果】的图文教程(非常详细)目录相关文章论文相关

llama.cpp部署在windows

本想部署LLAMA模型,但是基于显卡和多卡的要求,很难部署在个人笔记本上,因此搜索发现有一个量化版本的LLAMA.cpp,部署过程和踩过的坑如下:1.配置环境(1)在GitHub-ggerganov/llama.cpp:PortofFacebook'sLLaMAmodelinC/C++中下载cpp到本地(2)创建conda环境condacreate--namellama.cpppython=3.9-ypipinstall-rrequirements.txt(3)安装Cmake在安装之前我们需要安装mingw,避免编译时找不到编译环境,按下win+r快捷键输入powershell,Set-Exe

在.NET Core 1.1中访问操作方法之前,如何在控制器属性上设置用户?

使用.NETCore1.1MVC目的是限制用户,以便他们只能编辑自己,或允许管理员编辑用户。我需要获取当前用户,并将该用户的ID与AN参数(或Cookie)中传递的用户ID进行比较。如果用户ID不匹配,请检查当前用户是否是管理员。如果是这样,请获取作为参数(或cookie)传递的用户ID的用户。我们有一个控制器,该控制器通过依赖注入在构造函数中接收ApplicationDbContext和UserManager。我对这两种尝试都失败了:1)我尝试创建一个通过context.controller.usermanager(我从控制器构造函数设置的属性)访问usermanager的操作窗,但user

api-ms-win-core-synch-l1-2-0.dll文件丢失解决方法

其实很多用户玩单机游戏或者安装软件的时候就出现过这种问题,如果是新手第一时间会认为是软件或游戏出错了,其实并不是这样,其主要原因就是你电脑系统的该dll文件丢失了或者损坏了,这时你只需下载这个api-ms-win-core-synch-l1-2-0.dll文件进行安装(前提是找到适合的版本),当我们执行某一个.exe程序时,相应的DLL文件就会被调用,因此安装好之后就能重新打开你的软件或游戏了.那么出现api-ms-win-core-synch-l1-2-0.dll丢失要怎么解决?一、手动从本站下载dll文件1、从下面列表下载api-ms-win-core-synch-l1-2-0.dll文件

什么是.NET?什么是.NET Core?以及什么是.NET Framework,.NET和.NET Core区别又是什么呢?

概述对于.NET平台的初学者来说,有时候比较困惑“什么是.NET?什么是.NETCore?.NET和.NETCore区别又是什么呢?”。确实,目前微软的开发平台有两种不同的.NET运行时环境,一种是.NETFramework,另一种则是.NETCore(.NET5),不同的目标框架运行时环境不同。那这两者的区别到底是什么,在开发时如何选择不同的.NET框架呢?本文将为.NET开发者逐一讲解。在谈及.NET与.NETCore的区别之前,我们得先聊聊.NET的历史,了解一下为什么会有.NETCore?.NETFramework简介在.NETCore出现之前,微软的应用开发主要运行载体是自家的操作系

大模型部署手记(11)LLaMa2+Chinese-LLaMA-Plus-2-7B+Windows+llama.cpp+中文对话

1.简介:组织机构:Meta(Facebook)代码仓:GitHub-facebookresearch/llama:InferencecodeforLLaMAmodels模型:LIama-2-7b-hf、Chinese-LLaMA-Plus-2-7B 下载:使用huggingface.co和百度网盘下载硬件环境:暗影精灵7PlusWindows版本:Windows11家庭中文版InsiderPreview22H2内存32GGPU显卡:NvidiaGTX3080Laptop(16G)查看https://github.com/ymcui/Chinese-LLaMA-Alpaca-2新的模型出来了,