我想出于测试目的发布Angular应用,但我想确保该网站不会被机器人抓取或建立索引。
[我认为(可能会远离!)我会在[index.html]页面上简单地添加<meta>
标签,并且在很好的情况下在我的根目录中添加robots.txt文件?
这些是我的元标记:
<meta name="robots" content="noindex,nofollow">
<meta name="googlebot" content="noindex" />
这是我的robots.txt文件的内容:
User-agent: *
Disallow: /
谢谢您!
使用您指定的robots.txt文件将足以防止robots exclusion standard之后的漫游器为您的站点编制索引。使用此robots.txt,您无需指定元标头,因为该漫游器会首先读取robots.txt,并且不会解析网站的HTML来读取元标记。
当robots.txt文件通常允许索引该页面,但您希望在页面级别将其排除在外时,将使用meta标记,从而可以进行更精细的选择。
请注意,某些不常见的搜寻器可能不遵守排除标准。如果您确实想限制对测试站点的访问,则应考虑使其仅在身份验证后才可访问,或者仅允许访问某些IP地址。