草庐IT

【数据预处理】基于Pandas的数据预处理技术【前七个任务】

上进小菜猪 2023-03-28 原文

一.需求分析

本文主题：基于Pandas的数据预处理技术

本次任务共分为16个任务，将其分为前七个任务和后11个任务，本文探讨其前七个任务。

本次实验内容：

  1. 本次实验以california_housing加州房价数据集为例，下载数据集

  2. 查看数据集的描述、特征及目标数据名称、数据条数、特征数量

  3. 将数据读入pandas的DataFrame并转存到csv文件

  4. 查看数据集各个特征的类型以及是否有空值

  5. 对数据集做中心化度量：计算各个特征的中位数和均值，分析中位数和均值情况

  6. 对数据集做离散化度量：对第一个特征（收入中位数）画盒图（箱线图），检查孤立点（离群点）并进行分析

  7. 【选做】对所有特征画盒图（箱线图），检查孤立点（离群点）并进行分析

  8. 对第一个特征（收入中位数）排序后画散点图

  9. 对第一个特征（收入中位数）画分位数图并分析

  10. 【选做】对所有特征画分位数图并进行分析

  11. 使用散点图、使用线性回归方法拟合第一个特征（收入中位数）并分析

  12. 【选做】使用局部回归（Loess）曲线（用一条曲线拟合散点图）方法拟合第一个特征（收入中位数）数据

  13. 对第一个特征（收入中位数）画分位数-分位数图并分析

  14. 对第一个特征（收入中位数）画直方图，查看数据的分布和数据倾斜情况

  15. 【选做】对所有特征画直方图，查看数据的分布和数据倾斜情况

  16. 寻找所有特征之间的相关性并找出相关性大于 0.7 的特征对，做特征规约

二.需求解决

2.1 本次实验以california_housing加州房价数据集为例，下载数据集

本次实验以california_housing加州房价数据集为例，下载数据集，先将数据集保存下来，输出查看一下。

import numpy as np import pandas as pd import matplotlib.pyplot as plt from sklearn.datasets import fetch_california_housing housing=fetch_california_housing() print(housing.keys()) 以california_housing加州房价数据集为例，下载数据集，先将数据集保存下来，输出查看一下。运行结果如下：

2.2 查看数据集的描述、特征及目标数据名称、数据条数、特征数量

在做完上面的下载数据集操作之后将其保存下来，查看数据集的描述、特征及目标数据名称、数据条数、特征数量。输出一下查看效果：

print(housing['DESCR']) print(housing['feature_names']) print(housing['target_names']) X=housing.data y=housing.target print('y:',y.shape,y) print('X:',X.shape,X) 查看数据集的描述、特征及目标数据名称、数据条数、特征数量。效果如下：

2.3 将数据读入pandas的DataFrame并转存到csv文件

我们做完上述步骤数据集的描述、特征及目标数据名称、数据条数、特征数量，将数据读入pandas的DataFrame并转存到csv文件，代码如下：

import pandas as pd df=pd.DataFrame() for i in range (X.shape[1]): df[housing.feature_names[i]]=X[:,i] df["target"]=y df.to_csv('cali-housing.csv',index=None 将数据读入pandas的DataFrame并转存到csv文件截图如下：

2.4 查看数据集各个特征的类型以及是否有空值

函数df.info ()作用:数据表的基本信息（维度，列名称，数据格式，所占空间等）。

Pandas dataframe.info()函数的作用是获取一个简洁的dataframe摘要。当对数据进行探索性分析时，它非常方便。为了快速浏览数据集，我们使用dataframe.info()函数。

这个任务需求比较简单哈： 查看数据集各个特征的类型以及是否有空值，只需要一行函数：

df.info() 参数:

verbose:是否打印完整的摘要信息。None遵循display.max_info_columns设置。True或False覆盖显示.max_info_columns设置。

Buf:可写缓冲区，默认为sys.stdout

max_cols:确定打印完整摘要还是简短摘要。None遵循display.max_info_columns设置。

memory_usage:指定是否显示DataFrame元素(包括索引)的总内存使用量。None遵循display.memory_usage设置。True或False覆盖显示.memory_usage设置。’ deep ‘的值相当于True，具有深度内省功能。内存使用以人类可读的单位(base-2表示)表示。

null_counts:是否显示非空计数。如果None，则仅显示帧是否小于max_info_rows和max_info_columns。如果为True，则总是显示计数。如果是False，永远不要显示计数。

查看数据集各个特征的类型以及是否有空值，截图如下：

2.5 对数据集做中心化度量：计算各个特征的中位数和均值，分析中位数和均值情况

这个任务需求也是非常的简单，我们对数据集做中心化度量：计算各个特征的中位数和均值，分析中位数和均值情况，只需要调用describe函数：

df.describe() describe函数：用于生成描述性统计数据，统计数据集的集中趋势，分散和行列的分布情况，不包括 NaN值。

参数：

percentiles：赋值类似列表形式，可选 表示百分位数，介于0和1之间。默认值为 [.25,.5,.75]，分别返回第25，第50和第75百分位数。 可自定义其它值，用法为df.describe(percentiles=[.xx])。 include：'all'，类似于dtypes列表或None（默认值），可选 要包含在结果中的数据类型的白名单。对于Series不可用。以下是选项： 'all'：输入的所有列都将包含在输出中。 类似于dtypes的列表：将结果限制为提供的数据类型。将结果限制为数字类型用法：numpy.number。要将其限制为对象列用法：numpy.object。字符串也可以以select_dtypes（例如df.describe(include=['O'])）的方式使用。要选择分类类型，请使用'category' 无（默认）：结果将包括所有数字列。 exclude：类似于dtypes列表或None（默认值），可选， 要从结果中除去的黑名单数据类型列表。Series不可用。以下是选项： 类似于dtypes的列表：从结果中排除提供的数据类型。排除数值类型用法：numpy.number。要排除对象列，使用numpy.object。字符串也可以以select_dtypes（例如df.describe(include=['O'])）的方式使用。要排除分类类型，请使用'category' 无（默认）：结果将不包含任何内容。

对数据集做中心化度量：计算各个特征的中位数和均值，分析中位数和均值情况，运行结果截图：

2.6 对数据集做离散化度量：对第一个特征（收入中位数）画盒图（箱线图），检查孤立点（离群点）并进行分析

对数据集做离散化度量：对第一个特征（收入中位数）画盒图（箱线图），检查孤立点（离群点）并进行分析。

考虑使用boxplot进行中心化和离散化度量，代码如下：

import matplotlib.pyplot as plt plt.boxplot(X[:,0],showmeans=True,meanline=True) plt.show() 运行结果如下：

df['AveBedrms'].dropna().sort_values().tail(10) 运行结果如下：

2.7 【选做】对所有特征画盒图（箱线图），检查孤立点（离群点）并进行分析

我们挑战一下这个简单的选做需求：【选做】对所有特征画盒图（箱线图），检查孤立点（离群点）并进行分析

人均收入(MedInc)、房龄(HouseAge)、房间数(AveRooms)、卧室数(AveBedrooms)、小区人口数(Population)、 房屋居住人数(AveOccup)、小区经度(Longitude)、小区纬度(Latitude)

使用boxplot进行中心化和离散化度量：

import matplotlib.pyplot as plt plt.figure(figsize=(12,12)) for i in range(8): plt.subplot(4, 2, i+1) plt.boxplot(X[:,i],showmeans=True,meanline=True) plt.show() 运行效果截图：

从上面的8个特征值的盒图观察可以看到人均收入(MedInc)、房龄(HouseAge)、房间数(AveRooms)、卧室数(AveBedrooms)、小区人口数(Population)、房屋居住人数(AveOccup)、小区经度(Longitude)、小区纬度(Latitude)，这些特征在加州房价数据的盒图。

Pandas数据codehousing中心化数据集中位数深度学习人工智能私藏项目实操分享

有关【数据预处理】基于Pandas的数据预处理技术【前七个任务】的更多相关文章

  1. ruby - 其他文件中的 Rake 任务 - 2

    我试图在一个项目中使用rake，如果我把所有东西都放到Rakefile中，它会很大并且很难读取/找到东西，所以我试着将每个命名空间放在lib/rake中它自己的文件中，我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题，但没有任务。我现在只有一个.rake文件作为测试，名为“servers.rake”，它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时

  2. ruby - 解析 RDFa、微数据等的最佳方式是什么，使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作，但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式，例如使用这个yaml文件，它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  3. ruby - 如何指定 Rack 处理程序 - 2

    Rackup通过Rack的默认处理程序成功运行任何Rack应用程序。例如:classRackAppdefcall(environment)['200',{'Content-Type'=>'text/html'},["Helloworld"]]endendrunRackApp.new但是当最后一行更改为使用Rack的内置CGI处理程序时，rackup给出“NoMethodErrorat/undefinedmethod`call'fornil:NilClass”:Rack::Handler::CGI.runRackApp.newRack的其他内置处理程序也提出了同样的反对意见。例如Rack

  4. ruby - 如何使用 RSpec::Core::RakeTask 创建 RSpec Rake 任务？ - 2

    如何使用RSpec::Core::RakeTask初始化RSpecRake任务？require'rspec/core/rake_task'RSpec::Core::RakeTask.newdo|t|#whatdoIputinhere?endInitialize函数记录在http://rubydoc.info/github/rspec/rspec-core/RSpec/Core/RakeTask#initialize-instance_method没有很好的记录；它只是说:-(RakeTask)initialize(*args,&task_block)AnewinstanceofRake

  5. ruby - Ruby 有 `Pair` 数据类型吗？ - 2

    有时我需要处理键/值数据。我不喜欢使用数组，因为它们在大小上没有限制(很容易不小心添加超过2个项目，而且您最终需要稍后验证大小)。此外，0和1的索引变成了魔数(MagicNumber)，并且在传达含义方面做得很差(“当我说0时，我的意思是head...”)。散列也不合适，因为可能会不小心添加额外的条目。我写了下面的类来解决这个问题:classPairattr_accessor:head,:taildefinitialize(h,t)@head,@tail=h,tendend它工作得很好并且解决了问题，但我很想知道:Ruby标准库是否已经带有这样一个类？ 最佳

  6. ruby - 我如何添加二进制数据来遏制 POST - 2

    我正在尝试使用Curbgem执行以下POST以解析云curl-XPOST\-H"X-Parse-Application-Id:PARSE_APP_ID"\-H"X-Parse-REST-API-Key:PARSE_API_KEY"\-H"Content-Type:image/jpeg"\--data-binary'@myPicture.jpg'\https://api.parse.com/1/files/pic.jpg用这个:curl=Curl::Easy.new("https://api.parse.com/1/files/lion.jpg")curl.multipart_form_

  7. 世界前沿3D开发引擎HOOPS全面讲解——集3D数据读取、3D图形渲染、3D数据发布于一体的全新3D应用开发工具 - 2

    无论您是想搭建桌面端、WEB端或者移动端APP应用，HOOPSPlatform组件都可以为您提供弹性的3D集成架构，同时，由工业领域3D技术专家组成的HOOPS技术团队也能为您提供技术支持服务。如果您的客户期望有一种在多个平台（桌面/WEB/APP，而且某些客户端是“瘦”客户端）快速、方便地将数据接入到3D应用系统的解决方案，并且当访问数据时，在各个平台上的性能和用户体验保持一致，HOOPSPlatform将帮助您完成。利用HOOPSPlatform，您可以开发在任何环境下的3D基础应用架构。HOOPSPlatform可以帮您打造3D创新型产品，HOOPSSDK包含的技术有：快速且准确的CAD

  8. 叮咚买菜基于 Apache Doris 统一 OLAP 引擎的应用实践 - 2

    导读：随着叮咚买菜业务的发展，不同的业务场景对数据分析提出了不同的需求，他们希望引入一款实时OLAP数据库，构建一个灵活的多维实时查询和分析的平台，统一数据的接入和查询方案，解决各业务线对数据高效实时查询和精细化运营的需求。经过调研选型，最终引入ApacheDoris作为最终的OLAP分析引擎，Doris作为核心的OLAP引擎支持复杂地分析操作、提供多维的数据视图，在叮咚买菜数十个业务场景中广泛应用。作者｜叮咚买菜资深数据工程师韩青叮咚买菜创立于2017年5月，是一家专注美好食物的创业公司。叮咚买菜专注吃的事业，为满足更多人“想吃什么”而努力，通过美好食材的供应、美好滋味的开发以及美食品牌的孵

  9. Unity 热更新技术 | （三） Lua语言基本介绍及下载安装 - 2

    ?博客主页：https://xiaoy.blog.csdn.net?本文由呆呆敲代码的小Y原创，首发于CSDN??学习专栏推荐：Unity系统学习专栏?游戏制作专栏推荐：游戏制作?Unity实战100例专栏推荐：Unity实战100例教程?欢迎点赞?收藏⭐留言?如有错误敬请指正！?未来很长，值得我们全力奔赴更美好的生活✨------------------❤️分割线❤️-------------------------

  10. FOHEART H1数据手套驱动Optitrack光学动捕双手运动(Unity3D) - 2

    本教程将在Unity3D中混合Optitrack与数据手套的数据流，在人体运动的基础上，添加双手手指部分的运动。双手手背的角度仍由Optitrack提供，数据手套提供双手手指的角度。 01  客户端软件分别安装MotiveBody与MotionVenus并校准人体与数据手套。MotiveBodyMotionVenus数据手套使用、校准流程参照：https://gitee.com/foheart_1/foheart-h1-data-summary.git02  数据转发打开MotiveBody软件的Streaming，开始向Unity3D广播数据；MotionVenus中设置->选项选择Unit

随机推荐