草庐IT

scrapy-splash

全部标签

python - 将 Scrapy 的输出格式化为 XML

因此,当我将数据导出为XML时,我试图将使用Scrapy从网站上抓取的数据导出为特定格式。这是我希望我的XML的样子:我正在使用以下命令运行我的抓取:$scrapycrawlmy_scrap-oitems.xml-txml我得到的当前输出是这样的:DataHereDataHere如您所见,它正在添加字段,我无法重命名根节点或项目节点。我知道我需要使用XmlItemExporter,但我不确定如何在我的项目中实现它。我试图将它添加到pipelines.py如图所示here但我总是以错误结束:AttributeError:'CrawlerProcess'objecthasnoattribu

python - Scrapy 返回同一条信息 80 多次

scrapy和python的新手,在这里遇到问题。我正在尝试从Metacritic获取完整的PS3游戏列表。这是我的代码:classMetacriticSpider(BaseSpider):name="metacritic"allowed_domains=["metacritic.com"]max_id=10start_urls=["http://www.metacritic.com/browse/games/title/ps3?page="#"http://www.metacritic.com/browse/games/title/xbox360?page=0"]defstart_r

python - Scrapy startproject 不适用于 git-bash

我正在使用git-bash在win7系统上工作。我已经安装了Miniconda并使用以下方式加载了scrapy:condainstall-cscrapinghubscrapy我已将环境变量设置为包含:C:\Miniconda2;C:\Miniconda2\Scripts现在在scrapyvitualenv中,当我这样做时:(scrapy)$scrapystartprojectscrapytestsh:scrapy:commandnotfound这里如何使用scrapy命令行工具? 最佳答案 我不知道git-bash对此有何影响,但安

python - 无法在我的 Windows 10 x64 机器上安装 scrapy

我在cmd中安装了pipinstallscrapy,它说Collectingscrapy几秒钟后我收到以下错误:命令"c:\python35\python.exe-u-c"importsetuptools,tokenize;__file__='C:\\Users\\DELL\\AppData\\Local\\Temp\\pip-build-2nfj5t60\\Twisted\\setup.py';f=getattr(tokenize,'open',open)(__file__);code=f.read().replace('\r\n','\n');f.close();exec(comp

python - 在 Windows 7 上安装 Scrapy-Python 和 Easy_install

我正在尝试在Windows7上安装Scrapy。我正在按照以下说明操作:http://doc.scrapy.org/en/0.24/intro/install.html#intro-install我已经按照本教程https://adesquared.wordpress.com/2013/07/07/setting-up-python-and-easy_install-on-windows-7/下载并安装了适用于Windows的python-2.7.5.msi,并且我如上所述设置了环境变量,但是当我尝试在命令提示符下运行python时,出现此错误:MicrosoftWindows[Ver

python - Windows 在目录中找不到 scrapy 文件

所以我得到了一个简单的运行器脚本,它将使用Popen来调用蜘蛛程序。运行脚本如下:fromsubprocessimportPopenimporttimedefrunSpider():p=Popen(["scrapy","crawl","spider1"],cwd="C:\Users\Kasutaja\Desktop\scrapyTest")stdout,stderr=p.communicate()time.sleep(15)runSpider()目录是这样的:-----scrapyTest:--------------------scrapyTest[folder]:spider[fo

python - Scrapy安装报错pip和easy_install

我正在尝试在Windows上安装Scrapy,并已按照Scrapy安装指南中的步骤安装所有依赖项。但是,当我尝试使用easy_install时收到以下错误消息:Downloaderroronhttps://pypi.python.org/simple/Scrapy/:**[Errno10061]Noconnectioncouldbemadebecausethetargetmachineactivelyrefusedit--Somepackagesmaynotbefound!**Couldn'tfindindexpagefor'Scrapy'(maybemisspelled?)Scann

python - 无法在 Windows 上安装 Python Scrapy (Lxml)

我试图安装PythonScrapy库但是当它试图安装Lxml库时,出现了这个错误:Requirementalreadyup-to-date:pipinc:\python34\lib\site-packagesCollectinglxmlUsingcachedlxml-3.4.4.tar.gzCompleteoutputfromcommandpythonsetup.pyegg_info:Buildinglxmlversion3.4.4.BuildingwithoutCython.Traceback(mostrecentcalllast):File"",line20,inFile"C:\U

python scrapy无法启动项目

我在windows10系统中使用anaconda安装scrapy。但是我无法使用scrapystartprojecttutorial启动scrapy,我收到反馈“bash:scrapy:commandnotfound”。在网上搜索后,我发现了类似主题的建议添加环境变量:C:\Users\conny\Anaconda2\Lib\site-packages\scrapy变量后面PATH,但是还是不行。你有什么想法,问题是什么? 最佳答案 尝试命令scrapy.batstartprojecttutorial,应该可以解决问题。而且您不需要

python - 安装Scrapy时报错 "Could not find ' openssl.exe'

在Windows864位机器上,错误“找不到‘openssl.exe’”反复弹出,阻止安装。 最佳答案 在64位机器上,您必须使用64位版本的pyOpenSSL,它不包含在大多数Scrapy教程提供的默认下载页面中。查看thislink找到pyOpenSSL的正确64位安装。之后,程序应该不会再出现该错误了。 关于python-安装Scrapy时报错"Couldnotfind'openssl.exe',我们在StackOverflow上找到一个类似的问题: h