如何阻止机器人抓取或索引Angular应用

问题描述 投票:2回答:1

我想出于测试目的发布Angular应用,但我想确保该网站不会被机器人抓取或建立索引。

[我认为(可能会远离!)我会在[index.html]页面上简单地添加<meta>标签,并且在很好的情况下在我的根目录中添加robots.txt文件?

这些是我的元标记:

<meta name="robots" content="noindex,nofollow">
<meta name="googlebot" content="noindex" />

这是我的robots.txt文件的内容:

User-agent: *
Disallow: /

谢谢您!

html angular robots.txt
1个回答
0
投票

使用您指定的robots.txt文件将足以防止robots exclusion standard之后的漫游器为您的站点编制索引。使用此robots.txt,您无需指定元标头,因为该漫游器会首先读取robots.txt,并且不会解析网站的HTML来读取元标记。

当robots.txt文件通常允许索引该页面,但您希望在页面级别将其排除在外时,将使用meta标记,从而可以进行更精细的选择。

请注意,某些不常见的搜寻器可能不遵守排除标准。如果您确实想限制对测试站点的访问,则应考虑使其仅在身份验证后才可访问,或者仅允许访问某些IP地址。

© www.soinside.com 2019 - 2024. All rights reserved.