搜索引擎的工作原理，在我们的SEO工作中经常会被提及，简单来说，主要是四个步骤，爬行和抓取，索引，排名。排名这一块设计算法问题，暂且不去深究，这里主要说说爬行和抓取以及预处理两个方面。

　　一、爬行和抓取阶段

　　通过蜘蛛程序，各搜索引擎在访问网站时都会先去查看网站根目录下的robots.txt文件，从而获取网站中被禁止爬取网址的信息。对于被禁止抓取部分的网址，不被搜索引擎收录，但是需要注意的一个现象是，百度目前会对部分将百度蜘蛛屏幕的网站以下列类似淘宝网的形式显示，据个人不完全观察发现，这种现象正逐渐变的普遍起来。

　　为了获取更多的信息，蜘蛛会通过跟踪页面上的链接来抓取页面。从理论上来说，蜘蛛可以通过链接抓取整个互联网上的信息，但是在实际操作中，考虑到页面的复杂程度，蜘蛛会采取深度抓取和广度抓取两种方式来进行页面抓取的工作。为了避免重复爬行和抓取，搜索引擎会建立包括已发现但未被抓取以及已被抓取的两个网页地址库进行参考对比，而被抓取的页面会进入原始的页面数据库。到此为止，原始数据库的建立告一段落了。

　　二、索引阶段

　　原始数据库建立完毕，搜索引擎会对网页进行文字提取的处理，当然，除了页面上显示的文字外，搜索引擎还会对诸如meta标签、flash替代文件，锚文本、alt标签等部分的文字进行提取。

　　百度的中文分词技术在搜索引擎中的霸主地位无人可以撼动。对于页面上抓取到的文字，搜素引擎会进行分词处理，比如将“瘦小腿方法”分为“瘦小腿”、“方法”两个部分。而分词的方法，一般会有词典与统计两种手段。词典嘛，不需要太多解释；至于统计，是指通过分析大量文本从而计算字与字之间相邻出现的概率，概率越大，越容易形成一个词。百度目前是将两种方法结合使用，来达到理想的疗效。

　　或许说到这里，大家会问，针对一些中文中常出现的词，比如“的”、“了”、“呀”之类没实际意义但是使用频率又高的词，会怎么样处理呢？答案是剔除，从而提高搜索引擎的计算效率。

　　在浏览网页的信息时，我们会发现，有一些板块，在网站是重复出现的，比如“导航”、“广告”等，这部分东西，对于所属页面的显示内容来说，并没实际的意义。自然的，搜索引擎也会将此部分内容进行处理，从而筛选出所收录页面阐述表达内容的结果文字部分。当然，文字部分筛选出来之后，搜索引擎还会对各个网页上所显示的结果文字内容进行对比，从而删除掉重复的内容进行显示。

　　深入了解了搜索引擎原理，对于日常的SEO工作理解以及启发作用还是十分明显的。比如，你在伪原创的过程中，只是草草的给一些文章加一些简单的助词或者对小部分的文字内容进行简单的修改，不好意思，你的文章在预处理甚至是爬行和抓取阶段会被pass了。