近期,百度站長平臺發(fā)現(xiàn)有一些網(wǎng)站把未建好的頁面放到線上,并且這些頁面在被百度抓取的時候返回碼是404,于是頁面被百度抓取后,會被當(dāng)成死鏈直接刪除。但是這個頁面在第二天或者過幾天就會建好,并上線到網(wǎng)站內(nèi)展現(xiàn)出來,但是由于之前已經(jīng)被百度當(dāng)做死鏈刪除,所以要再次等這些鏈接被發(fā)現(xiàn),然后抓取,才能展現(xiàn),這樣的操作終會導(dǎo)致一些頁面在一段時間內(nèi)不會在百度出現(xiàn)。
比如某個大型門戶網(wǎng)站爆出大量新聞時效性很強(qiáng)的專題未被百度及時收錄的問題,經(jīng)檢查驗(yàn)證后發(fā)現(xiàn)就是因?yàn)轫撁嫖唇ǔ删头胖迷诰€上,并返回404狀態(tài)碼,被百度當(dāng)成死鏈刪除,造成收錄和流量損失。
對于這樣的問題,百度官方建議網(wǎng)站合理使用返回碼,即使用503返回碼,這樣百度的抓取器接到503返回碼后,會在隔一段時間再去訪問這個地址,在您的頁面建好上線后,就又能被重新抓取,保證頁面及時被抓取和索引,避免未建好的內(nèi)容設(shè)為404后帶來不必要的收錄和流量損失。
以下詳細(xì)介紹幾種百度支持的常用返回碼:
1、404:404返回碼的含義是“NOT FOUND”,百度會認(rèn)為網(wǎng)頁已經(jīng)失效,那么通常會從搜索結(jié)果中刪除,并且短期內(nèi)spider再次發(fā)現(xiàn)這條url也不會抓取。
2、301:301返回碼的含義是“Moved Permanently”,百度會認(rèn)為網(wǎng)頁當(dāng)前跳轉(zhuǎn)至新url。當(dāng)遇到站點(diǎn)遷移,域名更換、站點(diǎn)改版的情況時,推薦使用301返回碼,盡量減少改版帶來的流量損失。雖然百度spider現(xiàn)在對301跳轉(zhuǎn)的響應(yīng)周期較長,但我們還是推薦大家這么做。
網(wǎng)站改版詳細(xì)介紹請查看:http://zhanzhang.baidu.com/wiki/103 。
3、503:503返回碼的含義是“Service Unavailable”,百度會認(rèn)為該網(wǎng)頁臨時不可訪問,通常網(wǎng)站臨時關(guān)閉,帶寬有限等會產(chǎn)生這種情況。對于網(wǎng)頁返回503,百度spider不會把這條url直接刪除,短期內(nèi)會再訪問。屆時如果網(wǎng)頁已恢復(fù),則正常抓??;如果繼續(xù)返回503,短期內(nèi)還會反復(fù)訪問幾次。但是如果網(wǎng)頁長期返回503,那么這個url仍會被百度認(rèn)為是失效鏈接,從搜索結(jié)果中刪除。
百度站長平臺的建議和總結(jié):
1、如果百度spider對您的站點(diǎn)抓取壓力過大,請盡量不要使用404,同樣建議返回503。這樣百度spider會過段時間再來嘗試抓取這個鏈接,如果那個時間站點(diǎn)空閑,那它就會被成功抓取了。
2、如果站點(diǎn)臨時關(guān)閉或者頁面暫未建好上線,當(dāng)網(wǎng)頁不能打開時以及沒有建好時,不要立即返回404,建議使用503狀態(tài)。503可以告知百度spider該頁面臨時不可訪問,請過段時間再重試。
掃一掃
關(guān)注新圖聞科技
全國咨詢熱線
186-0984-0880