主頁 > 知識(shí)庫 > SEO教程 robots.txt文件常見用途

SEO教程 robots.txt文件常見用途

熱門標(biāo)簽:地圖標(biāo)注位置怎么取消 機(jī)器人電銷獲客 電商智能外呼系統(tǒng)誠(chéng)信為本 高德地圖標(biāo)注停車在哪 智能電銷機(jī)器人獲客成本 朝陽導(dǎo)航地圖標(biāo)注 高德地圖標(biāo)注公司標(biāo)鋪 阿古斯指揮官地圖標(biāo)注 學(xué)校地圖標(biāo)注的內(nèi)容點(diǎn)
本文將為你介紹最常用的四種robots.txt文件格式。

1. 允許所有的搜索引擎訪問網(wǎng)站的任何部分

User-agent: *
Disallow:

(或者也可以建一個(gè)空文件 "/robots.txt")

2. 禁止所有搜索引擎訪問網(wǎng)站的任何部分

User-agent: *
Disallow: /

3. 禁止所有搜索引擎訪問網(wǎng)站中所有的動(dòng)態(tài)頁面

User-agent: *
Disallow: /*?*

4. 禁止網(wǎng)站上的程序文件被搜索引擎蜘蛛索引,這樣可以節(jié)省服務(wù)器資源。

一般網(wǎng)站中不需要蜘蛛抓取的文件有:后臺(tái)管理文件、程序腳本、附件、數(shù)據(jù)庫文件、編碼文件、樣式表文件、模板文件、導(dǎo)航圖片和背景圖片等等。

User-agent: *
Disallow: /admin/   后臺(tái)管理文件
Disallow: /require/   程序文件
Disallow: /attachment/  附件
Disallow: /images/     圖片
Disallow: /data/       數(shù)據(jù)庫文件
Disallow: /template/   模板文件
Disallow: /css/       樣式表文件
Disallow: /lang/      編碼文件
Disallow: /script/    腳本文件
注:每個(gè)網(wǎng)站的文件夾名字可能會(huì)不一樣

標(biāo)簽:鄭州 新鄉(xiāng) 運(yùn)城 莆田 荊門 鹽城 天門 紅河

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《SEO教程 robots.txt文件常見用途》,本文關(guān)鍵詞  SEO,教程,robots.txt,文件,常見,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《SEO教程 robots.txt文件常見用途》相關(guān)的同類信息!
  • 本頁收集關(guān)于SEO教程 robots.txt文件常見用途的相關(guān)信息資訊供網(wǎng)民參考!
  • 企业400电话

    智能AI客服机器人
    15000

    在线订购

    合计11份范本:公司章程+合伙协议+出资协议+合作协议+股权转让协议+增资扩股协议+股权激励+股东会决议+董事会决议

    推薦文章