技術(shù)頻道導(dǎo)航
HTML/CSS
.NET技術(shù)
IIS技術(shù)
PHP技術(shù)
Js/JQuery
Photoshop
Fireworks
服務(wù)器技術(shù)
操作系統(tǒng)
網(wǎng)站運(yùn)營

贊助商

分類目錄

贊助商

最新文章

搜索

百度蜘蛛最新UA及各大搜索引擎蜘蛛爬蟲UA匯總

作者:admin    時(shí)間:2017-6-10 12:6:46    瀏覽:

了解各大搜索引擎蜘蛛爬蟲的UA,對我們進(jìn)行某些程序編寫十分有用,例如網(wǎng)頁判斷客戶端來源時(shí),UA是常用的標(biāo)準(zhǔn)之一。本文收集了各大搜索引擎的蜘蛛爬蟲UA,以便需要時(shí)查閱。

百度

“Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)”

百度圖片

“Baiduspider-image+(+http://www.baidu.com/search/spider.htm)”

百度最新UA如下:

PC

Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

移動

Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

360搜索

Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0);

360網(wǎng)站安全檢測

360spider (http://webscan.#)

Google

“Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)”

Google圖片搜索

“Googlebot-Image/1.0”

Adwords移動網(wǎng)絡(luò)

“AdsBot-Google-Mobile (+http://www.google.com/mobile/adsbot.html) Mozilla (iPhone; U; CPU iPhone OS 3 0 like Mac OS X) AppleWebKit (KHTML, like Gecko) Mobile Safari”

微軟 bing,必應(yīng)

“Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)”

騰訊搜搜

“Sosospider+(+http://help.soso.com/webspider.htm)”

搜搜圖片

“Sosoimagespider+(+http://help.soso.com/soso-image-spider.htm)”

雅虎英文

“Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp)”

雅虎中國

“Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)”

搜狗圖片

“http://pic.sogou.com” “Sogou Pic Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”

搜狗

“Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”

網(wǎng)易有道

“Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/; )”

瑞典 Speedy Spider

“Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) Speedy Spider (http://www.entireweb.com/about/search_tech/speedy_spider/)”

俄羅斯 yandex

“Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)”

宜搜 EasouSpider

Mozilla/5.0 (compatible; EasouSpider; +http://www.easou.com/search/spider.html)

華為賽門鐵克蜘蛛

“HuaweiSymantecSpider/1.0+DSE-support@huaweisymantec.com+(compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR ; http://www.huaweisymantec.com/cn/IRL/spider)”

華為賽門鐵克科技有限公司網(wǎng)頁信譽(yù)分析系統(tǒng)的一個(gè)頁面爬取程序,其作用是用于爬取互聯(lián)網(wǎng)網(wǎng)頁并進(jìn)行信譽(yù)分析,從而檢查該網(wǎng)站上的是否含有惡意代碼。

七牛鏡像蜘蛛

qiniu-imgstg-spider-1.0

監(jiān)控寶

“Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; JianKongBao Monitor 1.1)”

DNSPod監(jiān)控

DNSPod-Monitor/2.0

俄羅斯 LinkpadBot

Mozilla/5.0 (compatible; LinkpadBot/1.06; +http://www.linkpad.ru)

英國 MJ12bot

“Mozilla/5.0 (compatible; MJ12bot/v1.4.0; http://www.majestic12.co.uk/bot.php?+)”

標(biāo)簽: 百度蜘蛛  爬蟲  
x
  • 站長推薦
/* 左側(cè)顯示文章內(nèi)容目錄 */