建站知識
|
建站知識百度VIP大講堂QA:抓取、建庫、解析問:新出的時效性文章當時沒有被收錄,后期是否還會被收錄? 答:會 問:站點每天最高爬蟲多少次? 答:這個其實說不好,有的站點我們一天會抓一兩千萬,有的站點只抓幾個、幾十個,看你的規模和質量,而且這個抓取量也是會根據網站的情況進行調整的。 問:我們的頁面本身就很大,會不會解析不出來? 答:頁面本身很大倒沒問題,趕集、安居客這些量都很大,沒有問題。我剛才說的例子,你每次都follow出來新鏈接,隨機把后面的參數去掉都不影響這個網頁的正常訪問,這種肯定有問題的。 問:剛才說對URL的長度有要求,那對每一段、就是目錄名的長度有沒有要求 答:沒有要求,我們是要求url從www開始到結束,總長度不超過1024個字節。 問:站內重復內容是怎么判斷的?文本內容一樣結構不一樣,算不算重復? 答:算重復 問:假設是整個頁面全是Flash,如果我把一些欄目或者最新的內容隱藏掉,不影響美觀隱藏掉,如果用hidden屬性能不能提取出來?CSS可不可以? 答:hidden可以提出來,但如果是注釋就不會管。CSS不可以。 問:頁面大小不超過1兆,是指頁面壓縮以前還是以后。 答:指頁面壓縮以后,不要超過1兆 問:我網站的信息已經過時了,但網頁返回的是200,會受懲罰?為什么呀? 答:用戶在搜索結果里點了你的結果,導流導到你的網站,但沒什么可看的,對用戶沒有用,百度當然不喜歡。 問:現在我們很多網站,為了讓用戶覺得有意思,內容沒了就放一張圖片,寫一些有意思的話,什么“工程師去哪啦”之類的,對百度友好不? 答:最好不要用,我知道站點是想讓百度當內容死鏈來識別,但內容死鏈識別起來是有準確率和召回率風險的。 問:我們團購網站的確會有過期團購的頁面,會受懲罰嗎 答:如果量特別大、點擊量很大的話肯定會有懲罰的。有些可以當內容死鏈被分析出來,如果分析不出來,會被一些其他的策略挖出來,會有這樣的問題。 問:剛才說資訊內容頁面,上面有個發布時間好,那如果頁面上沒有時間呢? 答:那我們往往是按當時抓取的時間來做判定。 問:評論里面時間重要嗎。 答:百度更重視主體內容的時間,評論不算主體內容。 問:我們是個平臺,很多產品其實只是一個型號變更了,其實顏色都是一模一樣的,對蜘蛛而言僅僅只是幾個字符,會被識別為重復嗎 答:如果是一個產品的結構化信息的話,應該不會被認為是重復。如果你是簡單內容摘要的方式進行介紹的話,可能會存在重復問題。 問:靜態URL和動態URL區別大嗎? 答:不大,我們現在認為靜態和動態都一樣的,因為從url上面他能夠識別出來,但是抓取回來的東西不太一樣。所以現在認為無論你是靜態還是動態,我們都認為同樣都是url來對待。 錄入時間:2014/12/16 Hits:8355 |