帮助中心 >  技术知识库 >  网站相关 >  网站运营 >  如何让搜索引擎(百度)更好地收录网站内容

如何让搜索引擎(百度)更好地收录网站内容

2016-05-23 09:42:48 9898

机器可读

百度通过一个叫做Baiduspider的程序抓取互联网上的网页,经过处理后建入索引中。目前Baiduspider只能读懂文本内容,flash、图片等非文本内容暂时不能处理,放置在flash、图片中的文字,百度无法识别。

建议使用文字而不是flash、图片、Javascript等来显示重要的内容或链接,搜索引擎暂时无法识别Flash、图片、Javascript中的内容,这部分内容无法搜索到;仅在flash、Javascript中包含链接指向的网页,百度可能无法收录

建议:

  • 使用文字而不是flash、图? 片、Javascript等来显示重要的内容或链接。

  • 如果必须使用Flash制作网页,建议同时制作一个供搜索引擎收录的文字版,并在首页使用文本链接指向文字版。

  • Ajax等搜索引擎不能识别的技术,只用在需要用户交互的地方,不把希望搜索引擎“看”到的导航及正文内容放到Ajax中。

  • 不使用frame和iframe框架结构,通过iframe显示的内容可能会被百度丢弃。

网站结构

网站应该有清晰的结构和明晰的导航,这能帮助用户快速从你的网站中找到自己需要的内容,也可以帮助搜索引擎快速理解网站中每一个网页所处的结构层次。

网站结构建议采用树型结构,树型结构通常分为以下三个层次:首页——频道——文章页。象一棵大树一样,首先有一个树干(首页),然后再是树枝(频道),最后是树叶(普通内容页)。树型结构的扩展性更强,网站内容变多时,可以通过细分树枝(频道)来轻松应对。

理想的网站结构应该是更扁平一些,从首页到内容页的层次尽量少,这样搜索引擎处理起来,会更简单。

同时,网站也应该是一个网状结构,网站上每个网页都应该有指向上、下级网页以及相关内容的链接:首页有到频道页的链接,频道页有到首页和普通内容?的链接、普通内容页有到上级频道以及首页的链接、内容相关的网页间互相有链接。

网站中每一个网页,都应该是网站结构的一部分,都应该能通过其他网页链接到。

总结一下,合理的网站结构应该是一个扁平的树型网状结构。

建议:

  • 确保每个页面都可以通过至少一个文本链接到达。

  • 重要的内容,应该能从首页或者网站结构中比较浅的层次访问到。

  • 合理分类网站上的内容,不要过度细分。

网站应该有简明、清晰的导航,可以让用户快速找到自己需要的内容,同时也可以帮助搜索引擎更好的了解网站的结构。

建议:

  • 为每个页面都加上导航栏,让用户可以方便的返回频道、网站首页,也可以让搜索引擎方便的定位网页在网结构中的层次。

  • 内容较多的网站,建议使用面包屑式的导航,这更容易让用户理解当前所处的位置:网站首页 > 频道 > 当前浏览页面。通过面包屑导航,用户可以很清楚的知道自己所在页面在整个网站中的位置,可以方便的返回上一级频道或者首页也很方便。

  • 导航中使用文字链接,不使用复杂的js或者flash。

  • 使用图片做导航时,可以使用Alt注释,用Alt告诉搜索引擎所指向的网页内容是什么。

子域名与目录的选择

选择使用子域名还是目录来合理的分配网站内容,对网站在搜索引擎中的表现会有较大的影响。

1. 在某个频道的内容没有丰富到可以当做一个独立站点存在之前,使用目录形式;等频道下积累了足够的内容,再转换成子域名的形式。

一个网页能否排到搜索结果的前面,“出身”很重要,如果出自一个站点权重较高的网站,那排到前面的可能性就越大,反之则越小。通常情况下主站点的权重是最高的,子站点会从主站点继承一部分权重,继承的多少,视子站点质量而定。

在内容没有丰富到可以做为一个独立站点之前,内容放到主站点下一个目录中能在搜索引擎中获得更好的表现。

2. 内容差异度较大、关联度不高的内容,使用子站点形式。

搜索引擎会识别站点的主题,如果站点中内容关联度不高,可能导致搜索引擎错误的识别。关联度不高的内容,放在不同的子域名下,可以帮助搜索引擎更好的理解站点的主题。

3. 域名间内容做好权限,互相分开,a. example.com下的内容,不能通过b. example.com访问。

子域名间的内容可以互相访问,可能会被搜索引擎当做重复内容而进行除重处理,保留的url不一定是正常域名下的。

4. 不要滥用子域名。

无丰富内容而滥用大量子域名,会被搜索引擎当做作弊行为而受到惩罚。

规范、简单的url

创建具有良好描述性、规范、简单的url,有利于用户更方便的记忆和判断网页的内容,也有利于搜索引擎更有效的抓取您的网站。网站设计之初,就应该有合理的url规划。

1. 网站中同一网页,只对应一个url。如果网站上多种url都能访问同样的内容,会有如下危险:

  • 搜索引擎会选一种url为标准,可能会和正版不同。

  • 用户可能为同一网页的不同url做推荐,多种url形式分散了该网页的权重。

如果你的网站上已经存在多种url形式,建议按以下方式处理:

  • 在系统中只使用正常形式url,不让用户接触到非正常形式的url。

  • 不把Session id、统计代码等不必要的内容放在url中。

  • 不同形式的url,301永久跳转?正常形式。

  • 防止用户输错而启用的备用域名,301永久跳转到主域名。

  • 使用robots.txt禁止 Baiduspider 抓取您不想向用户展现的形式。

2. 让用户能从url判断出网页内容以及网站结构信息,并可以预测将要看到的内容。

3. URL尽量短。

长长的URL不仅不美观,用户还很难从中获取额外有用的信息。另一方面,短url还有助于减小页面体积,加快网页打开速度,提升用户体验。

4. 正常的动态url对搜索引擎没有影响。

url是动态还是静态对搜索引擎没有影响,但建议尽量?少动态url中包含的变量参数,这样即有助于减少url长度,也可以减少让搜索引擎掉入黑洞的风险。

5. 不添加不能被系统自动识别为url组成部分的字符。

改版/换域名

网站改版、换域名在互联网飞速发展的情况下是不可避免的,但处理不当,会造成重大的流量损失。

改版、换域名需要考虑的第一要点就是如何保证老用户不流失,当用户访问旧内容时,能引导用户到新网站上对应的内容,避免出现用户访问不到以前收藏的网页的情况。

我们建议在改版或者换域名时,将旧网页301永久重定向到内容对应的新网页,这样百?更容易发现这个转变,并迅速的将旧网页积累的权值传递给对应的新网页。

  • 如非必要,不要做整站内容的完全更换。网站改版或者网站内重要页面链接发生变动时,应该将改版前的页面301永久重定向到改版后的对应的页面

  • 网站更换域名,应该将旧域名的所有页面301永久重定向到新域名上对应的页面。网站更换域名后,维持旧域名能稳定访问尽可能长的时间,给用户多一些时间记忆新域名。

  • 网站改版/更换域名后,请把新的URL/新域名下的URL,通过sitemap提交给百度,帮助百度更?发现和作出调整。

合理的返回码

百度爬虫在进行抓取和处理时,是根据http 协议规范来设置相应的逻辑的,所以请站长们也尽量参考http 协议中关于返回码的含义的定义来进行设置。

百度spider 对常用的http 返回码的处理逻辑是这样的:

1. 404

404返回码的含义是“NOT FOUND”,百度会认为网页已经失效,那么通常会从搜索结果中删除,并且短期内spider再次发现这条url也不会抓取。

2. 503

503返回码的含义是“Service Unavailable”,百度会认为该网页临时不可访问,通常网站?时关闭,带宽有限等会产生这种情况。对于网页返回503,百度spider不会把这条url直接删除,短期内会再访问。届时如果网页已恢复,则正常抓取;如果继续返回503,短期内还会反复访问几次。但是如果网页长期返回503,那么这个url仍会被百度认为是失效链接,从搜索结果中删除。

3. 403 

403返回码的含义是“Forbidden”,百度会认为网页当前禁止访问。对于这种情况,如果是新发现的url,百度spider暂不会抓取,短期内会再次检查;如果是百度已收录url,当前也不会直接删除,短期内同样会再访问。届时如果网页允许访问,则?常抓取;如果仍不允许访问,短期内还会反复访问几次。但是如果网页长期返回403,百度也会认为是失效链接,从搜索结果中删除。

4. 301

301返回码的含义是“Moved Permanently”,百度会认为网页当前跳转至新url。当遇到站点迁移,域名更换、站点改版的情况时,推荐使用301返回码,尽量减少改版带来的流量损失。虽然百度spider现在对301跳转的响应周期较长,但我们还是推荐大家这么做。

建议:

  • 如果站点临时关闭,当网页不能打开时,不要立即返回404,建议使用503状态。503?以告知百度spider该页面临时不可访问,请过段时间再重试。

  • 如果百度spider对您的站点抓取压力过大,请尽量不要使用404,同样建议返回503。这样百度spider会过段时间再来尝试抓取这个链接,如果那个时间站点空闲,那它就会被成功抓取了。

  • 有一些网站希望百度只收录部分内容,例如审核后的内容,累积一段时间的新用户页等等。在这种情况,建议新发内容暂时返回403,等审核或做好处理之后,再返回正常状态的返回码。

  • 站点迁移,或域名更换时,请使用301返回码。


提交成功!非常感谢您的反馈,我们会继续努力做到更好!

这条文档是否有帮助解决问题?

非常抱歉未能帮助到您。为了给您提供更好的服务,我们很需要您进一步的反馈信息:

在文档使用中是否遇到以下问题: