我构建动态网站,其中结构分层保存在数据库中(自己的 CMS)。我正在使用邻接模型来管理这个数据库表(通过 PDO 的 PHP 和 Mysql)
我检测到 Google 正在为它不应该索引的页面编制索引。
用于导航的树结构示例:
home
about us
products
productgroup 1
productgroup 2
contact
support
sales
想象一下这个结构在一个带有页面链接的下拉菜单中。当我选择 products->productgroup 1 时,我得到一个像 www.domain.com/products/productgroup-1 这样的 url,它从数据库中提取数据(基于最后一个 uri 元素:productgroup-1,标题的 slug 版本)并将其显示在我的模板中。我不查询所有元素,只查询最后一个(我应该,我知道)。
到目前为止一切顺利。 Google 正在按预期将此页面编入索引:
http://www.domain.com/products/productgroup-1
但是...当我使用 Google 网站管理员工具时,我看到很多网页被 404 索引,例如:
http://www.domain.com/products
http://www.domain.com/contact
等等。
这些页面是空的,在导航结构中没有链接。
我设计了我的结构,以便这些页面返回 404 错误。 Webmastertools 证实了这一点,但继续为这些页面编制索引。我知道我可以使用 robots.txt 来禁止 Google 的搜索机器人让它访问索引 url。还有另一种方法吗?我应该生成 403 而不是 404 吗?
我在黑暗中。
最佳答案
你应该做几件事:
使用 301 永久重定向将此空白页面定向到相关页面:
即使谷歌不抓取http://www.domain.com/products , 有些人仍然可以通过从浏览器中删除 URL 的最后一段来访问此链接。您可能不想向他们显示 404,而是一些相关信息。
例如,您可以重定向 http://www.domain.com/products和 http://www.domain.com/products/至 http://www.domain.com/products/productgroup-1
从 Moz 了解更多关于 301 重定向的信息
可以使用 mod-rewrite 进行 301 重定向,而不是在代码级别进行。
将站点地图提交到 google 网站管理员工具。
这是您网站中 URL 的最终列表。
拥有站点地图会注意删除已编入 Google 索引的 404 URL 列表,但会通知 Google 您网站中的所有“官方”URL 以及预期的抓取频率。
阅读 Google webmaster tools 的更多内容这里。
检查您的 HTML 代码中对“/products”或“/contact”的引用。否则,Googlebot 将不会抓取这些网址。
关于php - 如何处理不存在的 Google 索引 'pages',我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27681934/
我正在尝试测试是否存在表单。我是Rails新手。我的new.html.erb_spec.rb文件的内容是:require'spec_helper'describe"messages/new.html.erb"doit"shouldrendertheform"dorender'/messages/new.html.erb'reponse.shouldhave_form_putting_to(@message)with_submit_buttonendendView本身,new.html.erb,有代码:当我运行rspec时,它失败了:1)messages/new.html.erbshou
我在我的项目目录中完成了compasscreate.和compassinitrails。几个问题:我已将我的.sass文件放在public/stylesheets中。这是放置它们的正确位置吗?当我运行compasswatch时,它不会自动编译这些.sass文件。我必须手动指定文件:compasswatchpublic/stylesheets/myfile.sass等。如何让它自动运行?文件ie.css、print.css和screen.css已放在stylesheets/compiled。如何在编译后不让它们重新出现的情况下删除它们?我自己编译的.sass文件编译成compiled/t
我在我的项目中添加了一个系统来重置用户密码并通过电子邮件将密码发送给他,以防他忘记密码。昨天它运行良好(当我实现它时)。当我今天尝试启动服务器时,出现以下错误。=>BootingWEBrick=>Rails3.2.1applicationstartingindevelopmentonhttp://0.0.0.0:3000=>Callwith-dtodetach=>Ctrl-CtoshutdownserverExiting/Users/vinayshenoy/.rvm/gems/ruby-1.9.3-p0/gems/actionmailer-3.2.1/lib/action_mailer
在MRIRuby中我可以这样做:deftransferinternal_server=self.init_serverpid=forkdointernal_server.runend#Maketheserverprocessrunindependently.Process.detach(pid)internal_client=self.init_client#Dootherstuffwithconnectingtointernal_server...internal_client.post('somedata')ensure#KillserverProcess.kill('KILL',
我已经从我的命令行中获得了一切,所以我可以运行rubymyfile并且它可以正常工作。但是当我尝试从sublime中运行它时,我得到了undefinedmethod`require_relative'formain:Object有人知道我的sublime设置中缺少什么吗?我正在使用OSX并安装了rvm。 最佳答案 或者,您可以只使用“require”,它应该可以正常工作。我认为“require_relative”仅适用于ruby1.9+ 关于ruby-主要:Objectwhenrun
我花了三天的时间用头撞墙,试图弄清楚为什么简单的“rake”不能通过我的规范文件。如果您遇到这种情况:任何文件夹路径中都不要有空格!。严重地。事实上,从现在开始,您命名的任何内容都没有空格。这是我的控制台输出:(在/Users/*****/Desktop/LearningRuby/learn_ruby)$rake/Users/*******/Desktop/LearningRuby/learn_ruby/00_hello/hello_spec.rb:116:in`require':cannotloadsuchfile--hello(LoadError) 最佳
我已经像这样安装了一个新的Rails项目:$railsnewsite它执行并到达:bundleinstall但是当它似乎尝试安装依赖项时我得到了这个错误Gem::Ext::BuildError:ERROR:Failedtobuildgemnativeextension./System/Library/Frameworks/Ruby.framework/Versions/2.0/usr/bin/rubyextconf.rbcheckingforlibkern/OSAtomic.h...yescreatingMakefilemake"DESTDIR="cleanmake"DESTDIR="
我在理解Enumerator.new方法的工作原理时遇到了一些困难。假设文档中的示例:fib=Enumerator.newdo|y|a=b=1loopdoy[1,1,2,3,5,8,13,21,34,55]循环中断条件在哪里,它如何知道循环应该迭代多少次(因为它没有任何明确的中断条件并且看起来像无限循环)? 最佳答案 Enumerator使用Fibers在内部。您的示例等效于:require'fiber'fiber=Fiber.newdoa=b=1loopdoFiber.yieldaa,b=b,a+bendend10.times.m
关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion在首页我有:汽车:VolvoSaabMercedesAudistatic_pages_spec.rb中的测试代码:it"shouldhavetherightselect"dovisithome_pathit{shouldhave_select('cars',:options=>['volvo','saab','mercedes','audi'])}end响应是rspec./spec/request
似乎无法为此找到有效的答案。我正在阅读Rails教程的第10章第10.1.2节,但似乎无法使邮件程序预览正常工作。我发现处理错误的所有答案都与教程的不同部分相关,我假设我犯的错误正盯着我的脸。我已经完成并将教程中的代码复制/粘贴到相关文件中,但到目前为止,我还看不出我输入的内容与教程中的内容有什么区别。到目前为止,建议是在函数定义中添加或删除参数user,但这并没有解决问题。触发错误的url是http://localhost:3000/rails/mailers/user_mailer/account_activation.http://localhost:3000/rails/mai