PCA（主成分分析法）的Python代码实现（numpy，sklearn）语言描述算法描述示例1使用numpy降维2直接使用sklearn中的PCA进行降维语言描述PCA设法将原来众多具有一定相关性的属性（比如p个属性），重新组合成一组相互无关的综合属性来代替原属性。通常数学上的处理就是将原来p个属性做线性组合，作为新的综合属性。PCA中的线性变换等价于坐标变换，变换的目的是使nnn个样本点在新坐标轴y1y_1y1上的离散程度（方差）最大，这样变量y1y_1y1就代表了原始数据的绝大部分信息，即使忽略y2y_2y2也无损大局，从而把两个指标压缩成一个指标。从几何上看，找主成分的问题就是找
集成学习投票法与bagging投票法sklearn提供了VotingRegressor和VotingClassifier两个投票方法。使用模型需要提供一个模型的列表，列表中每个模型采用tuple的结构表示，第一个元素代表名称，第二个元素代表模型，需要保证每个模型拥有唯一的名称。看下面的例子：fromsklearn.linear_modelimportLogisticRegressionfromsklearn.svmimportSVCfromsklearn.ensembleimportVotingClassifierfromsklearn.pipelineimportmake_pipelinef
集成学习投票法与bagging投票法sklearn提供了VotingRegressor和VotingClassifier两个投票方法。使用模型需要提供一个模型的列表，列表中每个模型采用tuple的结构表示，第一个元素代表名称，第二个元素代表模型，需要保证每个模型拥有唯一的名称。看下面的例子：fromsklearn.linear_modelimportLogisticRegressionfromsklearn.svmimportSVCfromsklearn.ensembleimportVotingClassifierfromsklearn.pipelineimportmake_pipelinef
一、安装前的准备 1.1安装python（我安装的是最新版3.10.2） 1.2Win10操作系统二、正式安装（Win+R-->'cmd'进入命令提示符也就是终端） 在安装sklearn之前，需要安装两个库，即numpy+mkl和scipy。但是最好不要使用pip3直接在终端安装，因为pip3默安装的是numpy，而不是numpy+mkl。 下面是numpy+mkl和scipy的第三方库（里面内容较多，但是是按照首字母排序的）PythonExtensionPackagesforWindows-ChristophGohlke(uci.edu
一、安装前的准备 1.1安装python（我安装的是最新版3.10.2） 1.2Win10操作系统二、正式安装（Win+R-->'cmd'进入命令提示符也就是终端） 在安装sklearn之前，需要安装两个库，即numpy+mkl和scipy。但是最好不要使用pip3直接在终端安装，因为pip3默安装的是numpy，而不是numpy+mkl。 下面是numpy+mkl和scipy的第三方库（里面内容较多，但是是按照首字母排序的）PythonExtensionPackagesforWindows-ChristophGohlke(uci.edu
SVM多分类问题及Python代码实现1.什么是SVM？2.SVM的分类3.SVM决策函数类型4.SVM多分类的Python代码实现参考资料1.什么是SVM？对于这个点已经介绍的非常多了，不管是西瓜书还是各种博客，就是需要找到一个超平面，用这个超平面把数据划分成两个类别，最开始的SVM就是在二分类的问题上应用，在之后被扩展到多类别的分类。对于SVM的推导公式不是很复杂，在此就不进行推导，大概清楚最基本的原理然后就进行应用就可以了。如上图所示，我们就是要找到中间这条线，使得∣∣w∣∣||w||
SVM多分类问题及Python代码实现1.什么是SVM？2.SVM的分类3.SVM决策函数类型4.SVM多分类的Python代码实现参考资料1.什么是SVM？对于这个点已经介绍的非常多了，不管是西瓜书还是各种博客，就是需要找到一个超平面，用这个超平面把数据划分成两个类别，最开始的SVM就是在二分类的问题上应用，在之后被扩展到多类别的分类。对于SVM的推导公式不是很复杂，在此就不进行推导，大概清楚最基本的原理然后就进行应用就可以了。如上图所示，我们就是要找到中间这条线，使得∣∣w∣∣||w||
阿喽哈~小天才们，今天我们聊一聊GBDT上一篇文章我们详细地说了GBDT算法原理，包括为什么拟合负梯度、负梯度为何可以替代残差、二分类GBDT算法公式和实例演算，感兴趣的童鞋请移步GBDT算法详解&算法实例（分类算法）具体算法公式啥的这里就不赘述啦，大家就自行学习理解叭，我们今天主要是说如何使用sklearn包来实现GBDT以及简单的调参演示，话不多说上代码~1、导入各种包importpandasaspdimportseabornassnsfromsklearn.model_selectionimporttrain_test_splitfromsklearn.model_selectionim
阿喽哈~小天才们，今天我们聊一聊GBDT上一篇文章我们详细地说了GBDT算法原理，包括为什么拟合负梯度、负梯度为何可以替代残差、二分类GBDT算法公式和实例演算，感兴趣的童鞋请移步GBDT算法详解&算法实例（分类算法）具体算法公式啥的这里就不赘述啦，大家就自行学习理解叭，我们今天主要是说如何使用sklearn包来实现GBDT以及简单的调参演示，话不多说上代码~1、导入各种包importpandasaspdimportseabornassnsfromsklearn.model_selectionimporttrain_test_splitfromsklearn.model_selectionim
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、条件随机场（CRF，ConditionalRandomFields)二、使用sklearn_crfsuite进行命名实体识别1.安装说明2.准备数据3.构造特征4.详细流程1导包2定义通用函数3定义一些特征4从数据中提取特征5读取数据6模型训练7验证模型效果8保存模型总结前言最近在一个项目中需要使序列标注的方法来进行命名实体识别，目前使用序列标注方法进行命名实体识别主要有两种实现方法：一是基于统计的模型：HMM、MEMM、CRF，这类方法需要关注特征工程；二是深度学习方法：RNN、LSTM、GRU、CRF、RNN+
