百度抓取異常查詢工具功能介紹：

 

    1.工具可展現(xiàn)站點中已發(fā)現(xiàn)的抓取異常頁面（抽樣統(tǒng)計），并顯示對應的異常類型。每種異常類型最多可展現(xiàn)10條鏈接，多于10條的不會在界面中體現(xiàn)。

 

    2.所有抓取異常的鏈接列表可以通過下載的方式獲取，支持按照異常類型下載指定的異常鏈接。

 

    3.目前支持識別的抓取異常種類有五種：404頁面、IP封禁、UA封禁、異常重定向以及其他異常，具體如下：：

 

    3.1404頁面：

 

    代表協(xié)議死鏈，用戶已無法訪問該頁面內(nèi)容，建議通過百度站長平臺--死鏈工具提交死鏈的方式進行處理，以便搜索引擎更快地發(fā)現(xiàn)死鏈，減少死鏈對用戶以及搜索引擎造成的負面影響。

 

    3.2IP禁封：

 

    限制網(wǎng)絡的出口IP地址，禁止該IP段的使用者進行內(nèi)容訪問，即為IP禁封。請檢查系統(tǒng)服務器是否設置了針對百度spider的IP禁封規(guī)則。

 

    3.3UA禁封：

 

    UA即為用戶代理（User-Agent），服務器通過UA識別訪問者的身份，當網(wǎng)站針對指定UA的訪問返回異常頁面（如403，500）或跳轉(zhuǎn)到其他頁面的情況，即為UA禁封。請檢查系統(tǒng)服務器是否設置了針對百度spider的UA禁封規(guī)則。

 

    3.4異常重定向：

 

    將網(wǎng)絡請求重新指向其他位置即為重定向。異常重定向指的是以下幾種情況

 

    1）當前該頁面為無效頁面（內(nèi)容已刪除、死鏈等），直接跳轉(zhuǎn)到前一目錄或者首頁，百度建議站長將該無效頁面的入口超鏈接刪除掉

 

    2）重定向到出錯或者無效頁面

 

    3）重定向的跳轉(zhuǎn)超過3次，也為異常

 

    注意：對于長時間跳轉(zhuǎn)到其他域名的情況，如網(wǎng)站更換域名，百度建議使用301跳轉(zhuǎn)協(xié)議進行設置。

 

    3.5、其他異常：

 

    1）針對百度refer的異常：網(wǎng)頁針對來自百度的refer返回不同于正常內(nèi)容的行為。

 

    2）針對百度ua的異常：網(wǎng)頁對百度UA返回不同于頁面原內(nèi)容的行為。

 

    3）JS跳轉(zhuǎn)異常：網(wǎng)頁加載了百度無法識別的JS跳轉(zhuǎn)代碼，使得用戶通過搜索結(jié)果進入頁面后發(fā)生了跳轉(zhuǎn)的情況。

 

    4）壓力過大引起的偶然禁封：百度會根據(jù)站點的規(guī)模，訪問量等信息，自動設定一個合理的抓取壓力。但是在異常情況下，如壓力控制失常時，服務器會根據(jù)自身負荷進行保護性的偶然封禁。這種情況下，請在返回碼中返回503(其含義是“ServiceUnavailable”)，這樣百度spider會過段時間再來嘗試抓取這個鏈接，如果網(wǎng)站已空閑，則會被成功抓取。

 

    對于異常抓取的頁面，建議站長及時檢查服務器的工作狀態(tài)和參數(shù)設置，以避免由此帶來的流量損失。