野花社区免费观看高清在线1日本,在线精品亚洲一区二区三区 ,av片在线观看永久免费,善良丰满的继牳

禁止直接訪問(wèn)robots.txt文件設(shè)置方法

文章分類(lèi)：建站知識(shí) 發(fā)布時(shí)間:2017-04-12 06:34:36 原文作者：admin 閱讀2024

以下代碼是禁止直接訪問(wèn)，但匹配并排除搜索引擎蜘蛛

nginx站點(diǎn)配置文件中加入以下節(jié)點(diǎn)：

location = /robots.txt {
    if ($http_user_agent !~* "spider|bot|yahoo|sogou") {
        return 404;
    }
}
1
2
3
4
5
    
location = /robots.txt {
    if ($http_user_agent !~* "spider|bot|yahoo|sogou") {
        return 404;
    }
}

然后重載nginx配置
/usr/local/shuyangwang/nginx/sbin/nginx -s reload (此配置文件路徑以你安裝為準(zhǔn))