草庐IT

对利用Python爬取到的房价信息做数据可视化(附完整代码)

带我去滑雪 2024-01-01 原文

      大家好,我是带我去滑雪,每天教你一个小技巧!

  1、数据展示   

本文利用Python爬取到的房价信息做数据可视化,爬取数据的文章见:

利用Python爬取房价信息(附代码)_用python爬取房价数据_带我去滑雪的博客-CSDN博客

      所爬取的指标有小区名称、房屋位置、房屋户型、房屋面积、房屋朝向、房屋装修情况、有无电梯、楼层位置、附件有无地铁、关注度人数、看房次数、每平方米价格、房屋总价等指标,具体数据展示见表1,表2。

表1 python爬取数据展示(一)

编号

标题

小区名称

房屋位置

房屋户型

房屋面积(m2

房屋朝向

1

鸿城花园 精致两房 南向高楼层

鸿城花园

市桥

2室2厅

78.6

西南

2

岭南新世界 带空中花园实用

岭南新世界

白云大道北

4室2厅

98

西南

3

隆康花园 2室1厅 255万

隆康花园

白云大道南

2室1厅

58.1

西南

4

南北对流 楼层好 视野宽阔 采光充足

荷景花园一区

沙湾

4室2厅

118

东南

 

表2 python爬取数据展示(续一)

编号

房屋装修情况

有无电梯

楼层位置

附近有无地铁

关注度(人数)

看房次数

每平方米价格(元)

房屋总价(万元)

1

其他

有电梯

高楼层

有地铁

58

14

26718

210

2

其他

有电梯

低楼层

有地铁

2337

18

44184

433

3

简装

有电梯

中楼层

有地铁

25

18

43890

255

4

精装

无电梯

中楼层

无地铁

2106

6

16526

195

5

简装

无电梯

高楼层

无地铁

1533

7

15354

150

6

简装

有电梯

中楼层

有地铁

47

5

49164

570

2、数据预处理

       数据预处理是指在数据集中发现不准确、不完整或者不合理的数据,通过数据预处理,对这些数据进行一定的去重、修补、纠正或移除,将原始数据转化成分析算法适用的形式,以此提高数据质量。由于爬取的数据中包含类别型数据,为了方便后面数据分析,本文对分类型数据进行了分别赋值,处理后的变量表见表3,处理后的数据集部分见表4。

表3 变量表

属性

解释

类型

变量名

WSSL

房屋的卧室数量(个)

连续值

x1

KTSL

房屋的客厅数量(个)

连续值

x2

MJ

房屋面积(平方米)

连续值

x3

FWZXQK

房屋装修情况

离散值,0=其他;1=毛坯;2=简装;3=精装

x4

YWDT

有无电梯

离散值,0=无电梯;1=有电梯

x5

LCWZ

房屋所在楼层位置

离散值,0=低楼层;1=中楼层;2=高楼层

x6

FJYWDT

房屋附近有无地铁

离散值,0=无地铁;1=有地铁

x7

GZD

关注度(人次)

连续值

x8

KFCS

看房次数

连续值

x9

PRICE

每平方米价格(元)

连续值

y

TOTAL PRICE

房屋总价(万元)

连续值

y1

表4 经过数据预处理后的数据集

编号

x1

x2

x3

x4

x5

x6

x7

x8

x9

y

y1

1

2

2

78.6

0

1

2

1

58

14

26718

210

2

4

2

98

0

1

0

1

2337

18

44184

433

3

2

1

58.1

2

1

1

1

25

18

43890

255

4

4

2

118

3

0

1

0

2106

6

16526

195

5

3

1

97.7

2

0

2

0

1533

7

15354

150

6

3

2

115.94

2

1

1

1

47

5

49164

570

7

3

2

102.72

2

1

0

1

80

19

61332

630

8

3

2

102.72

2

1

0

1

80

19

61332

630

9

2

2

73.3

2

1

0

1

873

21

42292

310

10

3

2

92

2

1

1

0

64

14

22066

203

2981

2

1

80.3

2

1

1

1

8

0

46700

375

2982

2

2

64.81

2

1

1

1

2

0

41352

268

2983

2

1

57.26

0

0

0

1

0

0

41041

235

2984

2

1

75.38

2

1

2

0

0

0

39799

300

3、数据分析

3.1 词云分析

        词云是文本大数据可视化的一种重要方式,该方法可以将文本信息中重复出现的词语进行高亮展示,使浏览文本信息的人们可以一眼看到关键信息。本文利用python对表1中的标题文本信息进行词云分析,输出结果见图1所示。

       通过图1可以发现,在某网站上所挂楼房标题词中最多的是中间楼层、精装修、看房方便、采光好、近地铁、楼层好等字样,说明可能具有这些特点的房子更能吸引买家的注意,进而影响房屋的价格。

绘制词云图

import pandas as pd

file = open(r'\title.xlsx','rb')

data = pd.read_excel(file)

data.columns

title = data['标题']

import numpy as np

import os

lis =  np.array(title)

lis = lis.tolist()

lis[:5]

str1 = "".join(lis)

item_main = str1.strip().replace('span','').replace('class','').replace('emoji','').replace(' ','')

def save_fig(fig_id, tight_layout=True):

    path = os.path.join(r" E:\工作\硕士\学习\统计软件python\期末作业", fig_id + ".png")

    print("Saving figure", fig_id)

    if tight_layout:

        plt.tight_layout()

    plt.savefig(path, format='png', dpi=300)

import jieba

wordlist = jieba.cut(item_main,cut_all=True)

word_space_split =" ".join(wordlist)

type(word_space_split)

import matplotlib.pyplot as plt

from wordcloud import WordCloud,ImageColorGenerator

import PIL.Image as Image

coloring = np.array(Image.open(r'\Desktop\图片.jpg'))

my_wordcloud = WordCloud(background_color='white',max_words=200,mask=coloring,max_font_size=60,random_state=42,

scale=2,font_path=r'C:\Windows\Fonts\simkai.ttf').generate(item_main)

image_colors = ImageColorGenerator(coloring)

plt.imshow(my_wordcloud.recolor(color_func=image_colors))

plt.imshow(my_wordcloud)

plt.axis('off')

save_fig('my_wordcloud_fangjia')

plt.show()

3.2 描述性分析

        利用python对搜集到的数据进行描述性分析,为了更加清晰的展示数据,分别绘制了饼图、条形图、嵌套环形图等图形,绘制图形的python代码见附件,其结果见图2、图3、图4、图5、图6所示。

 3.3 相关性分析

    (1)房屋面积与房屋总价

    (2)房屋总价与关注度人数

    (3)房屋卧室个数与房屋总价

 

图2房屋装修情况占比饼状图

import numpy as np

import matplotlib.pyplot as plt

data = pd.read_csv(r"E:\工作\硕士\学习\统计软件python\期末作业\qxhsj.csv")

plt.rcParams['font.sans-serif'] = ["Fangsong"]

plt.rcParams['axes.unicode_minus'] = False

# 设置画布大小

plt.figure(figsize=(12,6))

figure,axes = plt.subplots(1,1,figsize = (6,6),dpi = 120)

# 构造数据

y = [1139,33,891,921]

label=["其他", "毛坯", "简装", "精装"]

# 绘图

plt.pie(y,

        labels=label, #

        autopct='%.2f%%', # 让标签以百分比形式显示,且精确到两位小数

        labeldistance = 1.1,

        pctdistance = 0.9,

#         shadow = True,

        radius = 1, 

        startangle = 90, 

        counterclock = False 

       )

plt.title("房屋装修情况占比",fontsize = 12)

plt.savefig(r"E:\工作\硕士\学习\统计软件python\matplotlib饼图.jpg", format="png")

# 可视化呈现

plt.show()

图3房屋所在楼层位置比例饼状图

import numpy as np

import matplotlib.pyplot as plt

data = pd.read_csv(r"E:\工作\硕士\学习\统计软件python\期末作业\qxhsj.csv")

plt.rcParams['font.sans-serif'] = ["Fangsong"]

plt.rcParams['axes.unicode_minus'] = False

plt.figure(figsize=(12,6))

figure,axes = plt.subplots(1,1,figsize = (6,6),dpi = 120)

y = [806,1143,1036]

label=["低楼层", "中楼层", "高楼层"]

plt.pie(y,

        labels=label,

        autopct='%.2f%%',

        labeldistance = 1.1,

        pctdistance = 0.9,

#        shadow = True,

        radius = 1, 

        startangle = 90, 

        counterclock = False 

       )

plt.title("房屋所在楼层位置比例",fontsize = 12)

plt.savefig(r"E:\工作\硕士\学习\统计软件python\matplotlib饼图.jpg", format="png")

plt.show()

图4房源朝向分布情况

import numpy as np

import matplotlib.pyplot as plt

plt.rcParams['font.family']='KaiTi'

plt.figure(dpi=120)

provinces=['东', '南', '西', '北', '东南','东北', '西南', '西北']

gdp=[250, 1137,169, 768, 432,237,222,160]

plt.barh(provinces[::-1],gdp[::-1],height=0.5)

plt.title('房源朝向分布情况')

plt.grid(axis='x',ls='--',alpha=0.4)

plt.xlim(0,1200)

for i,j in enumerate(gdp[::-1]):

    plt.text(j+0.05,i,j,va='center')

plt.xlabel('数量')

plt.ylabel('朝向')

plt.savefig(r"E:\工作\硕士\学习\统计软件python\matplotlib条形图.jpg",format="png")

plt.show()

图5 房屋户型与房屋附近有无地铁的嵌套环形图

import pyecharts.options as opts

from pyecharts.charts import Pie

inner_x_data = ["有地铁", "无地铁"]

inner_y_data = [1548, 1436]

inner_data_pair = [list(z) for z in zip(inner_x_data, inner_y_data)]

outer_x_data = [' 1室0厅 ',  '2室1厅', '2室2厅', '3室1厅' '1室1厅', '3室2厅','1室2厅', '4室1厅', '4室2厅','其他']

outer_y_data = [47,621,611,215,144,1021,12,11,224,81]

outer_data_pair = [list(z) for z in zip(outer_x_data, outer_y_data)]

(

    Pie(init_opts=opts.InitOpts(width="1600px", height="800px"))

    .add(

        series_name="有无地铁",

        data_pair=inner_data_pair,

        radius=[0, "30%"],

        label_opts=opts.LabelOpts(position="inner"),

    )

    .add(

        series_name="房型",

        radius=["40%", "55%"],

        data_pair=outer_data_pair,

        label_opts=opts.LabelOpts(

            position="outside",

            formatter="{a|{a}}{abg|}\n{hr|}\n {b|{b}: }{c}  {per|{d}%}  ",

            background_color="#eee",

            border_color="#aaa",

            border_width=1,

            border_radius=4,

            rich={

                "a": {"color": "#999", "lineHeight": 22, "align": "center"},

                "abg": {

                    "backgroundColor": "#e3e3e3",

                    "width": "100%",

                    "align": "right",

                    "height": 22,

                    "borderRadius": [4, 4, 0, 0],

                },

                "hr": {

                    "borderColor": "#aaa",

                    "width": "100%",

                    "borderWidth": 0.5,

                    "height": 0,

                },

                "b": {"fontSize": 16, "lineHeight": 33},

                "per": {

                    "color": "#eee",

                    "backgroundColor": "#334455",

                    "padding": [2, 4],

                    "borderRadius": 2,

                },

            },

        ),

    )

    .set_global_opts(legend_opts=opts.LegendOpts(pos_left="left", orient="vertical"))

    .set_series_opts(

        tooltip_opts=opts.TooltipOpts(

            trigger="item", formatter="{a} <br/>{b}: {c} ({d}%)"

        )

    )

    .render("nested_pies.html")

)

图6房屋总价分布图

import numpy as np

import matplotlib.pyplot as plt

plt.rcParams['font.family']='KaiTi'

plt.figure(dpi=120)

provinces=['57万-357万', '357万-657万', '657万-957万', '957万-1257万', '1257万-1557万']

gdp=[1829,869,206,52,12]

plt.barh(provinces[::-1],gdp[::-1],height=0.5)

plt.title('房价分布')

plt.grid(axis='x',ls='--',alpha=0.4)

plt.xlim(0,2000)

for i,j in enumerate(gdp[::-1]):

    plt.text(j+0.05,i,j,va='center')

plt.xlabel('数量(套)')

plt.ylabel('总价')

plt.savefig(r"E:\工作\硕士\学习\统计软件python\matplotlib条形图.jpg",format="png")

plt.show()

图7 房屋面积与房屋总价的散点图

import numpy as np

import pandas as pd

import matplotlib as mpl

import matplotlib.pyplot as plt

import seaborn as sns

data = pd.read_csv(r"E:\工作\硕士\学习\统计软件python\期末作业\qxhsj.csv")

data.head()

sns.lmplot(x="x3", y="y1", data=data)

plt.xlabel('房屋面积(平方米)')

plt.ylabel('房屋总价')

plt.savefig(r"E:\工作\硕士\学习\统计软件python\matplotlib.jpg", format="png")

图8 关注度人数与房屋总价的散点图

import numpy as np

import pandas as pd

import matplotlib as mpl

import matplotlib.pyplot as plt

import seaborn as sns

data = pd.read_csv(r"E:\工作\硕士\学习\统计软件python\期末作业\qxhsj.csv")

data.head()

sns.lmplot(x="x8", y="y1", data=data)

plt.xlabel('关注度(人次)')

plt.ylabel('房屋总价(万元)')

plt.savefig(r"E:\工作\硕士\学习\统计软件python\matplotlib.jpg", format="png")

需要数据集的家人们可以去百度网盘(永久有效)获取:

链接:https://pan.baidu.com/s/16GeXC9_f6KI4lS2wQ-Z1VQ?pwd=2138
提取码:2138 


更多优质内容持续发布中,请移步主页查看。

备注:明天更新两种预测房价的算法,分别是支持向量机和随机森林回归预测。

   点赞+关注,下次不迷路!

 

有关对利用Python爬取到的房价信息做数据可视化(附完整代码)的更多相关文章

  1. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

  2. ruby-on-rails - Rails 常用字符串(用于通知和错误信息等) - 2

    大约一年前,我决定确保每个包含非唯一文本的Flash通知都将从模块中的方法中获取文本。我这样做的最初原因是为了避免一遍又一遍地输入相同的字符串。如果我想更改措辞,我可以在一个地方轻松完成,而且一遍又一遍地重复同一件事而出现拼写错误的可能性也会降低。我最终得到的是这样的:moduleMessagesdefformat_error_messages(errors)errors.map{|attribute,message|"Error:#{attribute.to_s.titleize}#{message}."}enddeferror_message_could_not_find(obje

  3. ruby - 如何在 buildr 项目中使用 Ruby 代码? - 2

    如何在buildr项目中使用Ruby?我在很多不同的项目中使用过Ruby、JRuby、Java和Clojure。我目前正在使用我的标准Ruby开发一个模拟应用程序,我想尝试使用Clojure后端(我确实喜欢功能代码)以及JRubygui和测试套件。我还可以看到在未来的不同项目中使用Scala作为后端。我想我要为我的项目尝试一下buildr(http://buildr.apache.org/),但我注意到buildr似乎没有设置为在项目中使用JRuby代码本身!这看起来有点傻,因为该工具旨在统一通用的JVM语言并且是在ruby中构建的。除了将输出的jar包含在一个独特的、仅限ruby​​

  4. ruby - 解析 RDFa、微数据等的最佳方式是什么,使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  5. ruby-on-rails - Rails 源代码 : initialize hash in a weird way? - 2

    在rails源中:https://github.com/rails/rails/blob/master/activesupport/lib/active_support/lazy_load_hooks.rb可以看到以下内容@load_hooks=Hash.new{|h,k|h[k]=[]}在IRB中,它只是初始化一个空哈希。和做有什么区别@load_hooks=Hash.new 最佳答案 查看rubydocumentationforHashnew→new_hashclicktotogglesourcenew(obj)→new_has

  6. ruby-on-rails - 浏览 Ruby 源代码 - 2

    我的主要目标是能够完全理解我正在使用的库/gem。我尝试在Github上从头到尾阅读源代码,但这真的很难。我认为更有趣、更温和的踏脚石就是在使用时阅读每个库/gem方法的源代码。例如,我想知道RubyonRails中的redirect_to方法是如何工作的:如何查找redirect_to方法的源代码?我知道在pry中我可以执行类似show-methodmethod的操作,但我如何才能对Rails框架中的方法执行此操作?您对我如何更好地理解Gem及其API有什么建议吗?仅仅阅读源代码似乎真的很难,尤其是对于框架。谢谢! 最佳答案 Ru

  7. ruby - 模块嵌套代码风格偏好 - 2

    我的假设是moduleAmoduleBendend和moduleA::Bend是一样的。我能够从thisblog找到解决方案,thisSOthread和andthisSOthread.为什么以及什么时候应该更喜欢紧凑语法A::B而不是另一个,因为它显然有一个缺点?我有一种直觉,它可能与性能有关,因为在更多命名空间中查找常量需要更多计算。但是我无法通过对普通类进行基准测试来验证这一点。 最佳答案 这两种写作方法经常被混淆。首先要说的是,据我所知,没有可衡量的性能差异。(在下面的书面示例中不断查找)最明显的区别,可能也是最著名的,是你的

  8. ruby - Ruby 中的波形可视化 - 2

    我即将开始一个将录制和编辑音频文件的项目,我正在寻找一个好的库(最好是Ruby,但会考虑Java或.NET以外的任何库)以进行实时可视化波形。有人知道我应该从哪里开始搜索吗? 最佳答案 要流入浏览器的数据量很大。Flash或Flex图表可能是唯一能提高内存效率的解决方案。Javascript图表往往会因大型数据集而崩溃。 关于ruby-Ruby中的波形可视化,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.c

  9. ruby - 寻找通过阅读代码确定编程语言的ruby gem? - 2

    几个月前,我读了一篇关于ruby​​gem的博客文章,它可以通过阅读代码本身来确定编程语言。对于我的生活,我不记得博客或gem的名称。谷歌搜索“ruby编程语言猜测”及其变体也无济于事。有人碰巧知道相关gem的名称吗? 最佳答案 是这个吗:http://github.com/chrislo/sourceclassifier/tree/master 关于ruby-寻找通过阅读代码确定编程语言的rubygem?,我们在StackOverflow上找到一个类似的问题:

  10. ruby - Net::HTTP 获取源代码和状态 - 2

    我目前正在使用以下方法获取页面的源代码:Net::HTTP.get(URI.parse(page.url))我还想获取HTTP状态,而无需发出第二个请求。有没有办法用另一种方法做到这一点?我一直在查看文档,但似乎找不到我要找的东西。 最佳答案 在我看来,除非您需要一些真正的低级访问或控制,否则最好使用Ruby的内置Open::URI模块:require'open-uri'io=open('http://www.example.org/')#=>#body=io.read[0,50]#=>"["200","OK"]io.base_ur

随机推荐