便宜做網(wǎng)站，不用客戶動手特價999元，源碼整套僅需50元起
50元起
查看詳情 →
做網(wǎng)站/做SEO/解決各類網(wǎng)站問題，直接與技術(shù)談！
百度站長平臺-抓取建庫篇SEO知識分享，官方的回答，更正規(guī)
發(fā)布時間：2014-12-10 來源：本站原創(chuàng) 作者：野狼SEO團隊 閱讀：648次
很多經(jīng)常關(guān)注SEO的朋友都會時不時的看一看百度站長平臺，因為這個平臺對于SEO真是太重要了，很多百度內(nèi)部工程師的一些關(guān)注點，看法，在這里都可以找到一些蛛絲馬跡，在工作中就能夠改進自己的SEO策略。所以我們也會整理一些百度站長平臺上的一些信息給大家來看（注意：紅色的字是野狼標注的）。以下是全部內(nèi)容：
首先，小編要對各位站長朋友說聲抱歉，VIP大講堂上海站已經(jīng)過去N久，QA內(nèi)容今天才發(fā)布出來。各位站長參加VIP大講堂，除了聆聽官方聲音外，更重要的是可以與百度專家進行面對面的溝通。VIP大講堂上海站請出了百度spider專家孫權(quán)，這是他第一次走出來與站長進行培訓交流，課程中抖出干貨無數(shù)，各位無法參與現(xiàn)場培訓的站長除了申請觀看培訓現(xiàn)場視頻外，還可以通過QA記錄看看自己心中的疑問是否已被解答。（此處應(yīng)該有掌聲，百度不輕易抖摟自己的一些算法的，所以后邊的大家一定要仔細的揣摩每一個字）
由于現(xiàn)場QA環(huán)節(jié)火爆熱烈內(nèi)容超多，故本次僅放出spider抓取建庫部分，其它內(nèi)容請靜待下期。
問：為什么收錄量像坐過山車一樣的，還有為什么有些網(wǎng)頁今天在明天就沒了？
答：百度會周期建庫，且每個庫的收錄量是恒定的，你老是有新增，肯定會再從庫里淘汰一些，反正總是保持那個庫是滿的。在建庫的過程中，你會感覺有波動。具體的怎么篩，哪個頁面會留下哪個頁面會淘汰，這個策略是有很多的，他隨著時間的變化，收錄的標準策略也是在發(fā)生微調(diào)。（這里工程師似乎沒有正面回答，閃爍其詞，是不是有其他方面的壓力？）
問：我們站點使用CDN加速會不會比較容易造成蜘蛛無法抓??？因為有時候修改掉他綁定的什么東西。
答：如果要修改掉一定要通知到上一級，現(xiàn)在不存在這個問題，現(xiàn)在你如果修改掉也可以解析掉，之前可能會存在這個問題。（這里邊似乎說的不太明白，野狼的理解是他現(xiàn)在的抓取應(yīng)該是模擬人進行，不管IP了，人能訪問他也能訪問，以前可能比較關(guān)注IP）
問：你們百度自己也有一個CDN加速，對抓錄排名有沒有影響？
答：在使用CDN加速這個問題上，我們對所有站點一視同仁。但我建議你使用技術(shù)能力強的CDN服務(wù)商，保證站點的穩(wěn)定和速度，百度會更喜歡。（好吧，百度一家獨大嘛，還是用你們的好了）
問：剛才您說IP上的站點數(shù)不能太多，那CDN這種情況怎么辦？
答：CDN的情況另說，如果我們識別出來是CDN的話不會受站點數(shù)量的影響，如果你是提供獨立IP的話會有這樣一些問題。（看來用CDN還是有好處的，能隱藏服務(wù)器站點數(shù)量的問題，百度還是有點老古板，估計以后IP與網(wǎng)站數(shù)量會徹底沒關(guān)系，但是現(xiàn)在還是有影響，主要應(yīng)該是對獨立IP站點增加權(quán)重）
問：還是IP上站點數(shù)量的問題，如果是主域跟二級域名呢？也受數(shù)量限制？
答：我說的是獨立域名。當然質(zhì)量比較好的二級域名也可以認為是獨立域名。（好吧，這個問題野狼似乎有所頓悟）
問：多個域名，他有相同的一些內(nèi)容，怎么建庫？
答：如果是多域名在同一個主域下面有相同內(nèi)容的話，不可能所有都建庫，而且被建庫的那個可能不是你希望的那個，所以盡量不要有相同的內(nèi)容。（一個網(wǎng)站多域名不可取，）
問：剛才講的IP如果是多域名的話，好幾百個IP域名，現(xiàn)在我們也用了CDN，按照剛才的說法，單個IP最多抓多少？1000萬是說對站點還是對IP？
答：對IP，但1000萬是我舉例，不是實際的數(shù)據(jù)，這個數(shù)據(jù)不會分享出來的。
問：現(xiàn)在我的網(wǎng)站被很多蜘蛛爬，我想只讓百度蜘蛛爬，百度蜘蛛IP多少？能設(shè)白名單么？
答：百度蜘蛛IP是不斷變的，現(xiàn)在網(wǎng)上的確有一些白名單的說法，暫時是有較的，但不保證今后不會變，所以建議站點還是通過ua進行判斷，我們百度站長平臺上有相關(guān)的文章，你可以找一下。（這個問題野狼用不到）
問：如果我寫robots只想禁掉動態(tài)鏈接的話，會不會影響動態(tài)參數(shù)前面正常鏈接的抓?。?/strong>
答：不會的，你原來的頁面還在，肯定會抓。（這個問題有點弱智^-^小看百度的技術(shù)能力了）
問：比如我們一個域名www.abcde.com，我們想把帶？號的url全部禁掉，首頁我們不要禁掉，怎么弄？
答：？前面有個*，后面再有個*就可以了。
問：我想了解，如果我現(xiàn)在收錄有5萬，大概多長時間才能把我原來收錄5萬重新抓取一遍？
答：不同站點不好說，一個是你站點做的很好，知名度很響更新很快質(zhì)量很好就會快；如果你的站點默默無聞，貢獻很少，可能就會很慢。
?。ń由蟼€問題）
問：就是差不多的情況，大概。
答：這個沒有人能估出來。
問：百度站長平臺上有數(shù)據(jù)提交的工具，我們實時提交，你們也會實時抓取嗎？
答：不會，他會有一層判斷?，F(xiàn)在只是通知你提交成功，后面什么時候抓，什么時候建庫沒有，我們正在研究要不要把這個分享出來。（會有滯后）
問：我網(wǎng)站有一些列表頁，都沒有鏈接，擔心百度抓不到
答：現(xiàn)在百度站長平臺的站內(nèi)搜索工具有一個綠色收錄通道，在那里提交種子頁，我們就知道的。
（接上個問題）
問：提交種子頁面必須要用站搜？
答：是的。
問：如果說頁面里url特別多的話，蜘蛛會不會有選擇性的進行抓取？
答：不會，他都會一個不漏給你提出來，但會把JS、CSS這樣的鏈接給過濾掉。但請注意，全部抓取過來之后會進行篩選，并不是所有都會建庫。（JS，CSS過濾掉，但這里不要有誤會，CSS樣式還是能影響到網(wǎng)頁排名的，只是說百度不把他們當網(wǎng)頁索引而已）
問：現(xiàn)在很多網(wǎng)站都有自己的站內(nèi)搜索，都會產(chǎn)生站內(nèi)搜索結(jié)果頁，百度不喜歡搜索結(jié)果頁的話，我們用這個會不會對我們有影響？只是不喜歡還是對我們網(wǎng)站會有懲罰
答：蜘蛛會去抓，抓完之后重要是提取里面的鏈接。如果只有一兩條這樣的頁面質(zhì)量不好問題不大，如果整體質(zhì)量較差，有可能受到懲罰。
問：新出的時效性文章當時沒有被收錄，后期是否還會被收錄？
答：會
問：站點每天最高爬蟲多少次？
答：這個其實說不好，有的站點我們一天會抓一兩千萬，有的站點只抓幾個、幾十個，看你的規(guī)模和質(zhì)量，而且這個抓取量也是會根據(jù)網(wǎng)站的情況進行調(diào)整的。（野狼見過有一個很小的網(wǎng)站一天抓取幾十萬的，我也是醉了啊，看來這個地方百度還是得下功夫呢）
本文作者：野狼SEO團隊
十六年網(wǎng)站建設(shè)相關(guān)經(jīng)驗
一站式為您提供網(wǎng)站相關(guān)服務(wù)
歡迎掃碼咨詢
本文提到這些服務(wù)【官方直供，放心選擇】：
還沒有人評論，快來搶個沙發(fā)！
