草庐IT

Python爬虫基础丨采集知乎问答区内容

轻松学Python 2023-03-28 原文

不知道现在还有多少人玩知某乎，我们那时候没事就刷刷知某乎，贴某吧，不知留下了多少足迹。

知乎上问答的质量挺高，今天咱们就对其问答内容进行爬虫实验。

效果展示

可以看到，数据咱们就获取下来了，保存就可以了。

代码展示

import requests
import re
import json
import pprint
# 文章不理解，我还专门个大家录制了详细的视频讲解，直接在这个扣裙里面领取 708525271
 
headers = {
    'cookie': '__snaker__id=tx5pc8xnwNvTYvG3; SESSIONID=stAjAfHLiBBtepPE5fTov5aYQJYBLURoM8YhM5jRXqG; JOID=W1EUA0yH_mXOxwv_Jo6gdXoTh844pNVH6uoo1ASq3U7s4ybcDe3ljKTJA_YgcWoL8eX7c_wINvZ6Pe0AjXgWecM=; osd=WloVAUOG9WTMyAr0J4yvdHEShcE5r9RF5esj1Qal3EXt4SndBuzng6XCAvQvcGEK8-r6eP0KOfdxPO8PjHMXe8w=; _zap=ba7095c9-0aae-423f-9975-92c7813e6036; d_c0=ANAWztCFPxaPTkyqOI3cpp5phHc7BJUpFhs=|1675000059; YD00517437729195%3AWM_TID=q1pMuo8yFBhAAQVQURLAPRTyEuWDd2qg; arialoadData=false; YD00517437729195%3AWM_NI=jPZTAA6q1q7YI0MPivmHxhtaLmJ7TBYjTAF34UDD36WmBPrKwe5O4Lfww1472OKDIPEwCz5Ug2Hrtg%2BMm8apy4EH%2BmnIshxyXyWNH2jmJ%2FmJIFwli06F3A4RKje5REwBUXo%3D; YD00517437729195%3AWM_NIKE=9ca17ae2e6ffcda170e2e6ee8fb246a7eb8187c142bbb48bb6d84a969b9e86d46b91bb96a6cb728ceafbd5d82af0fea7c3b92aaa9096b5c44bf6afff92b6538bf083b1ec7eaf98b889f76b90b386d8d74a9bb69ca2c539f88b8ca5b23e95b38eb1f141b5bbfbb0b748a6a9b9d2b73df29185a5cc5c87a98d9bb85fa5ee8893f76de993a3d9e47cbbec8ba9aa67ae97bd89fb739ca799afcb3aaab386d0f0428b9ab98dec3cf69afda2b75a89b6abd6d14fb59e9bb9ee37e2a3; _xsrf=8cfa292c-c915-42f3-b376-a82f56613cc3; Hm_lvt_98beee57fd2ef70ccdd5ca52b9740c49=1676462242,1676547626,1676557107,1676612193; Hm_lpvt_98beee57fd2ef70ccdd5ca52b9740c49=1676612193; captcha_session_v2=2|1:0|10:1676612193|18:captcha_session_v2|88:SWI5MW91WjcybkczamhaT1FOY0lCZWczM1h1UDBvVTBQcXFYcC9JWm9qUXlybkIvbW5MQWFvd1lpeHVLUVVTWg==|68915c879a030053a7c3b5921aa2d5974f5837adb19001b606e891ae08247c14; gdxidpyhxdE=ohaj9Ig0u1f%5CcdLdC0QAEhJE6fplEfZ%2BYp07xr3XVZCJ3JmJQRfzhckh%2BJayuMOQGReJMfCem4ZE2Slz2MHMzY4r5fkAIJpTvzYcqGPHtICLgVWSM6lR5tNj1Y0O0436Gun52GbM9HW9%2F15JME0vJYKLhdSQtwykihOokRLmLbeVXJ4K%3A1676613094284; KLBRSID=2177cbf908056c6654e972f5ddc96dc2|1676612386|1676612191',
    'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/110.0.0.0 Safari/537.36'
}
url = 'https://www.****.com/question/584206512'
html_data = requests.get(url=url, headers=headers).text
json_str = re.findall('<script id="js-initialData" type="text/json">(.*?)</script>', html_data)[0]
json_data = json.loads(json_str)
next_url = json_data['initialState']['question']['answers']['584206512']['next']
answers = json_data['initialState']['entities']['answers']
for key in list(answers.keys()):
    print(answers[key]['content'])

 

最后

视频我都录制了对应的视频讲解，大家直接在下方领取，包括代码！

今天的分享就到这结束了，下次见！

爬虫问答spancolorstylePython

有关Python爬虫基础丨采集知乎问答区内容的更多相关文章

  1. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声？ - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题？更新问题，以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点？我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等)，但我确实想创建一个输出文件。

  2. ruby - 将数组的内容转换为 int - 2

    我需要读入一个包含数字列表的文件。此代码读取文件并将其放入二维数组中。现在我需要获取数组中所有数字的平均值，但我需要将数组的内容更改为int。有什么想法可以将to_i方法放在哪里吗？ClassTerraindefinitializefile_name@input=IO.readlines(file_name)#readinfile@size=@input[0].to_i@land=[@size]x=1whilex 最佳答案 只需将数组映射为整数:@land边注如果你想得到一条线的平均值，你可以这样做:values=@input[x]

  3. ruby-on-rails - 如何在我的 Rails 应用程序 View 中打印 ruby​​ 变量的内容？ - 2

    我是一个Rails初学者，但我想从我的RailsView(html.haml文件)中查看Ruby变量的内容。我试图在ruby​​中打印出变量(认为它会在终端中出现)，但没有得到任何结果。有什么建议吗？我知道Rails调试器，但更喜欢使用inspect来打印我的变量。 最佳答案 您可以在View中使用puts方法将信息输出到服务器控制台。您应该能够在View中的任何位置使用Haml执行以下操作:-puts@my_variable.inspect 关于ruby-on-rails-如何在我的R

  4. ruby - 查找字符串中的内容类型(数字、日期、时间、字符串等) - 2

    我正在尝试解析一个CSV文件并使用SQL命令自动为其创建一个表。CSV中的第一行给出了列标题。但我需要推断每个列的类型。Ruby中是否有任何函数可以找到每个字段中内容的类型。例如，CSV行:"12012","Test","1233.22","12:21:22","10/10/2009"应该产生像这样的类型['integer','string','float','time','date']谢谢! 最佳答案 require'time'defto_something(str)if(num=Integer(str)rescueFloat(s

  5. Python 相当于 Perl/Ruby ||= - 2

    这个问题在这里已经有了答案:关闭10年前。PossibleDuplicate:Pythonconditionalassignmentoperator对于这样一个简单的问题表示歉意，但是谷歌搜索||=并不是很有帮助；)Python中是否有与Ruby和Perl中的||=语句等效的语句？例如:foo="hey"foo||="what"#assignfooifit'sundefined#fooisstill"hey"bar||="yeah"#baris"yeah"另外，类似这样的东西的通用术语是什么？条件分配是我的第一个猜测，但Wikipediapage跟我想的不太一样。

  6. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi？ - 2

    什么是ruby​​的rack或python的Java的wsgi？还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  7. 华为OD机试用Python实现 -【明明的随机数】 2023Q1A - 2

    华为OD机试题本篇题目：明明的随机数题目输入描述输出描述：示例1输入输出说明代码编写思路最近更新的博客华为od2023|什么是华为od，od薪资待遇，od机试题清单华为OD机试真题大全，用Python解华为机试题|机试宝典【华为OD机试】全流程解析+经验分享,题型分享,防作弊指南华为o

  8. python - 如何读取 MIDI 文件、更改其乐器并将其写回？ - 2

    我想解析一个已经存在的.mid文件，改变它的乐器，例如从“acousticgrandpiano”到“violin”，然后将它保存回去或作为另一个.mid文件。根据我在文档中看到的内容，该乐器通过program_change或patch_change指令进行了更改，但我找不到任何在已经存在的MIDI文件中执行此操作的库.他们似乎都只支持从头开始创建的MIDI文件。 最佳答案 MIDIpackage会为您完成此操作，但具体方法取决于midi文件的原始内容。一个MIDI文件由一个或多个音轨组成，每个音轨是十六个channel中任何一个上的

  9. 「Python｜Selenium｜场景案例」如何定位iframe中的元素？ - 2

    本文主要介绍在使用Selenium进行自动化测试或者任务时，对于使用了iframe的页面，如何定位iframe中的元素文章目录场景描述解决方案具体代码场景描述当我们在使用Selenium进行自动化测试的时候，可能会遇到一些界面或者窗体是使用HTML的iframe标签进行承载的。对于iframe中的标签，如果直接查找是无法找到的，会抛出没有找到元素的异常。比如近在咫尺的例子就是，CSDN的登录窗体就是使用的iframe，大家可以尝试通过F12开发者模式查看到的tag_name,class_name,id或者xpath来定位中的页面元素，会抛出NoSuchElementException异常。解决

  10. postman接口测试工具-基础使用教程 - 2

    1.postman介绍Postman一款非常流行的API调试工具。其实，开发人员用的更多。因为测试人员做接口测试会有更多选择，例如Jmeter、soapUI等。不过，对于开发过程中去调试接口，Postman确实足够的简单方便，而且功能强大。2.下载安装官网地址:https://www.postman.com/下载完成后双击安装吧，安装过程极其简单，无需任何操作3.使用教程这里以百度为例,工具使用简单，填写URL地址即可发送请求，在下方查看响应结果和响应状态码常用方法都有支持请求方法:getpostputdeleteGet、Post、Put与Delete的作用get：请求方法一般是用于数据查询，

随机推荐