在上一节《1.1.2、搜索引擎工作原理--网页搜索基础简介》我们知道搜索引擎会有一定的策略从网络上搜集回网页，然而这些刚搜集回来的网页是没有办法直接投入使用的，搜索引擎还需要对这些网页进行一定的预处理，才能为之后的查询服务打好基础。本节将对预处理做一个简单的介绍。

预处理主要工作

预处理主要是对搜集回来的网页进行分析处理，将每个网页有意义的东西提取出来，只有这样，才能减少干扰因素，让搜索引擎能对每个页面进行更好的定位。在预处理的过程中，主要做的是下面4件事情。

1、关键词的提取

因为当搜索引擎得到一个网页的源代码时，看到的是大量的HTML代码，这些代码充斥着大量无用的信息，搜索引擎就必须先对网页进行关键词的提取，这样才能更好的分析出一个网页主题。

以上是对http://hcsem.com/网页进行关键词提取后，得到的关键词列表。

2、重复或转载页面的消除

互联网一大特点就是信息共享，这样的特点导致在互联网上复制一篇文章非常简单。因此，互联网上充斥着大量复制的网页，如果搜索引擎要将每篇网页都进行搜集处理，会浪费很多时间，以及在用户查询的时候可能会返回多个相同的结果，这是用户和搜索引擎都不希望看到的，因此，搜索引擎需要进行重复页的消除。

假设网页A是原创的文章，网页B、C、D都是复制的，那么搜索引擎需要一定的技术将B、C、D识别出来，然后作为重复项页面删除掉。

3、链接分析

搜索引擎是根据链接在互联网上爬行的，因此搜索引擎需要对每个搜集回来的网页进行连接分析，以找到新的网页以及网页间的关系。

4、网页重要程度的计算

在预处理的过程中，搜索引擎会将搜集回来的网页进行权重计算，给每个网页建立一个重要性指标，该指标会作为查询服务阶段最终形成结果排序的部分参数。

小结

以上就是搜索引擎预处理的简介，搜索引擎在预处理的过程中会涉及到中文分词、分析网页和建立倒排文件、网页净化和消重等问题，我们在第三章再做介绍。