草庐IT

seo - noindex 标签是否可以防止机器人抓取页面上的链接?

如果我有一个带有noindex标签的页面,我知道该页面不会显示在搜索结果中。但是页面上的链接还会被抓取吗?如果我想让它们被抓取,我可以设置类似的东西吗?.会成功吗? 最佳答案 noindex标签用于防止大多数搜索引擎网络抓取工具将您网站上的页面编入索引。爬虫不会使用content="noindex,follow"为页面编制索引标记,但会抓取其余页面。您可以在此处找到更多详细信息:http://www.robotstxt.org/meta.html 关于seo-noindex标签是否可以防

wordpress - 如何阻止 Wordpress 插入 noindex 元标记?

我正在努力让我的网站被搜索引擎编入索引。据此,来自Wordpress的东西正在注入(inject)一个元标记,阻止搜索引擎抓取我的网站:https://aw-snap.info/file-viewer/?protocol=secure&tgt=chrispokey.com我开始认为这与wp_head();函数有关。我可以采取哪些后续步骤来删除以某种方式插入我网站header部分的noindex标记?谢谢! 最佳答案 请访问Settings»Reading并确保您没有选中“discouragerobots”设置附近的复选框。

.htaccess - “noindex,nofollow”标题没有用htaccess设置

下面的指令旨在为特定页面建立“noindex”和“nofollow”标题。它似乎没有生效。litespeed使用“e”标志而不是“env”,而不是apache。RewriteCond%{REQUEST_URI}^(.*)?contact?(/)$[NC]RewriteRule^contact-[E=NOINDEXNOFOLLOW]HeadersetX-Robots-Tag"noindex,nofollow"E=NOINDEXNOFOLLOW如果指令按如下方式更新,则会为所有意外页面设置标题。RewriteCond%{REQUEST_URI}^(.*)?contact?(/)$[NC]R

php - Joomla noindex,遵循PHP代码

我有一个基于joomla的新闻网站,在搜索引擎索引中显示了大量无用的页面。至少作为一个快速修复,直到我可以考虑从头开始重建网站我想在所有页面上实现NOINDEX、FOLLOW元标记,但主页和以.html结尾的文章页面除外处理找到的各种代码片段here和elsewhere我想出了这个:\n";}else{echo"\n";}?>我对php编程还是很陌生,我敢肯定我肯定会犯一些错误,所以我想知道是否有好心人能够将我的代码重温一遍并让我知道如果在我不小心破坏我的网站之前可以使用它。谢谢,汤姆 最佳答案 使用robots.txt不是更好吗?

.htaccess - 如何编写特定于给定子域的 htaccess 规则? - 避免索引某些文件

我的.htaccess文件中有以下内容:Options+FollowSymlinks#+FollowSymLinksmustbeenabledforanyrulestowork,thisisasecurity#requirementoftherewriteengine.Normallyit'senabledintherootandwe#shouldn'thavetoaddit,butitdoesn'thurttodoso.RewriteEngineon#ApachescansallincomingURLrequests,checksformatchesinour#.htaccessfi

ajax - 如何在没有 head 标签的情况下对加载 AJAX 的页面进行 noindex?

在客户的网站上,有一系列位于不同页面上的导师弹出窗口。http://launcheducation.com/问题是它们不需要被无索引,它们只是主页上的弹出窗口。如果您直接加载链接,则它们的样式不正确。它们没有适当的html或head标签,因为它们只是通过AJAX加载。因为他们没有head标签,所以我不能给它加meta标签。我是SEOn00b,我只知道基础知识。但我当然不认为我可以在没有head标签的情况下添加元标签。所以我将它们添加到robots.txt中。我以为这就结束了,但我的客户正在使用SEOmoz工具栏,它说他们仍在被关注。我认为这根本不是问题,我认为只是工具栏不检查robot

seo - Noindex 页面应该出现在 Google 附加链接中

我的网站中有一个页面,例如Sign-Up.php,我希望该页面不应该被谷歌编入索引,但在谷歌上搜索时它应该出现在我网站的附加链接中。在我的Sign-Up.php上使用以下标签是个好主意吗?我知道谷歌决定哪些页面是附加链接的候选者。 最佳答案 如果您添加noindex,Google将不会将该页面编入索引,也不会将其添加到附加链接中。 关于seo-Noindex页面应该出现在Google附加链接中,我们在StackOverflow上找到一个类似的问题: https

wordpress - Woocommerce SEO -- Noindex 'Order by' 存档

我在用于排序的类别文件中遇到重复标题和重复元描述问题。虽然其他子页面正确无索引,但重复问题出现在1st的以下模式中。/product-category/name//product-category/name/?orderby=dat/product-category/name/?orderby=menu_order/product-category/name/?orderby=price-desc/product-category/name/?orderby=price我正在使用YoastSEO插件,我们如何从排序中不索引这些文件? 最佳答案

php - wordpress - 如何 noindex 插件文件夹,但不阻止它们

我已经搜索过了,但没有找到我需要的东西。我想做的是noindex一个插件文件夹。谷歌出于某种原因索引了一堆这样的网址,例如:/wp-content/plugins/LayerSlider/static/public所有拉出的是一个“索引”页面,所以我想得到它和类似noindexed的url。我不想只用机器人文件阻止它们,因为在阅读以下文章后,这似乎是个坏主意:WordPressrobots.txtexampleforgreatSEO还有这个来支持为什么阻止任何css和js是一个坏主意:GooglePanda4,andblockingyourCSS&JS没有索引文件或类似的东西,所以我想

wordpress - 子目录中整个 Wordpress 安装的 noindex、nofollow?

因此,我在我的网站空间的根目录中运行了Wordpress;出于测试目的,我将在几天内在同一服务器的子目录中安装另一个Wordpress实例。所以事情是这样的,我不希望这个Wordpress实例、它的任何页面、帖子或该子目录中的任何显示在Google等中。所以我正在寻找一种方法来将noindex、nofollow(以及其他什么?)应用于该子目录及其中的所有文件和子目录。实现此目的的最简单方法是什么(例如,我可以使用.htaccess文件吗,或者是否有一个wordpress插件可以帮我做到这一点)?重要的是,主要的Wordpress安装及其SEO不受此影响。 最