搜索引擎技术在星空黄页网站中的应用
陈 哲 倪俊峰
(中国电信集团黄页信息有限公司 上海200080)
摘 要 本文概要地介绍了搜索引擎的基本原理和主要分类。介绍了星空黄页网站中的搜索引擎技术的应用情况。
关键词 黄页 黄页网站 搜索引擎
搜索引擎(Search Engine)已经成为大家在工作、学习、娱乐中不可或缺的神兵利器。通过使用搜索引擎，使我们检索信息的能力获得了极大的提高，成本有效地降低。可以说，搜索引擎是现代的计算机技术、因特网技术与传统的索引理论相结合的成功典范。搜索引擎在因特网普及的大背景下应运而生，如今，它已广泛地应用于各行各业，以它为核心引发了所谓的搜索经济，成为大家关注的焦点。
星空黄页是中国电信提供全国企业信息的专业网站，随着数据量的快速增长，用户查询习惯的改变，对黄页网站的检索技术也提出了新的挑战。搜索引擎技术成为改造黄页网站的首选，本文着重介绍了搜索引擎技术在黄页网站的应用情况。
1 搜索引擎的基本原理
搜索引擎并没有一个精确的定义，大致可以分为两大类：全文搜索引擎(FullTextSearch Engine)和分类目录(Directory)。
全文搜索引擎并不真正搜索互联网，它搜索的实际上是预先整理好的网页索引数据库。全文搜索引擎通过一个叫“网络机器人”或“网络蜘蛛”的软件，它遍历Web空间，能够扫描一定IP地址范围内的网站，并沿着网络上的链接从一个网页到另一个网页，从一个网站到另一个网站采集网页资料。它为保证采集的资料最新，还会回访已查过的网页。网络机器人或网络蜘蛛采集的网页，还要由其他程序进行分析，根据一定的相关度算法进行大量的计算建立网页索引，才能添加到索引数据库中。我们平时看到的全文搜索引擎，实际上只是一个搜索引擎系统的检索界面，当你输入关键词进行查询时，搜索引擎会从庞大的数据库中找到符合该关键词的所有相关网页的索引，并按一定的排名规则呈现给我们。不同的搜索引擎，网页索引数据库不同，排名规则也不尽相同，所以，当我们以同一关键词用不同的搜索引擎查询时，搜索结果也就不尽相同。
大型全文搜索引擎的数据库储存了互联网上几亿至几十亿的网页索引，数据量达到几千G甚至几万G。但即使最大的搜索引擎建立超过20亿网页的索引数据库，也只能占到互联网上普通网页的不到30%，不同搜索引擎之间的网页数据重叠率一般在70%以下。我们使用不同搜索引擎的重要原因，就是因为它们能分别搜索到不同的内容。而互联网上有更大量的内容，是搜索引擎无法抓取索引的，也是我们无法用搜索引擎搜索到的。
分类目录则是通过人工的方式收集整理网站资料形成数据库的，它和全文搜索引擎一样，整个工作过程也同样分为收集信息、分析信息和查询信息三部分，只不过分类目录的收集、分析信息两部分主要依靠人工完成。分类目录一般都有专门的编辑人员，负责收集网站的信息。随着收录站点的增多，现在一般都是由站点管理者递交自己的网站信息给分类目录，然后由分类目录的编辑人员审核递交的网站，以决定是否收录该站点。如果该站点审核通过，分类目录的编辑人员还需要分析该站点的内容，并将该站点放在相应的类别和目录中。所有这些收录的站点同样被存放在一个“索引数据库”中。用户在查询信息时，可以选择按照关键词搜索，也可按分类目录逐层查找。如以关键词搜索，返回的结果跟全文搜索引擎一样，也是根据信息关联程度排列网站。需要注意的是，分类目录的关键词查询只能在网站的名称、网址、简介等内容中进行，它的查询结果也只是被收录网站首页的URL地址，而不是具体的页面。分类目录就像一个电话号码簿一样，按照各个网站的性质，把各网址分门别类排在一起，大类下面套着小类，一直到各个网站的详细地址，一般还会提供各个网站的内容简介，用户不使用关键词也可进行查询，只要找到相关目录，就完全可以找到相关的网站(注意：是相关的网站，而不是这个网站上某个网页的内容，某一目录中网站的排名一般是按照标题字母的先后顺序或者收录的时间顺序决定的)。
由此可见，分类目录引擎的收集信息、分析信息和查询信息方式是非常类似于当前黄页网站分类查询体系，不同的是黄页收集信息主要来自电信渠道，普通的分类目录引擎一般都是由站点管理者递交自己的网站信息给分类目录，然后由分类目录的编辑人员审核递交的网站，以决定是否收录该站点。
2 搜索引擎技术在星空黄页网站的应用
星空黄页搜索(SYP―Search Yellow Pages)，中国电信黄页2004年8月推出，是在中国电信集团黄页信息有限公司覆盖全国数千万企业信息资源的基础上推出的专业企业信息搜索服务。
有别于主流的搜索引擎网站，星空黄页搜索是以站内数据搜索为核心，基于全国号码资源数据库为基础的企业搜索，正是由于数据采集渠道来自电信集团内部，所以无论企业是否上网，只要企业信息存在于电信黄页的号码资源数据库中，该企业的信息都能在星空黄页中搜索到。用户可以通过企业名称、产品、电话、地址等任何与企业相关的搜索请求，找到需要的企业信息，还可以按照省、市分地区进行本地化的企业搜索。在部分开通地图服务的城市中还能进一步提供企业地图信息。
星空黄页搜索引擎的建设采取了合作开发模式，采用百度公司网事通系统来提供大数据量搜索。
系统主要有三个体系子系统构成：
a 用户数据库子系统
本子系统由用户的数据库管理系统(用户所有)与数据库监视和导出系统(百度所有)共同组成。
数据库监视和导出系统负责监视数据库的改变，并将相应信息传输给“信息获取和索引子系统”。
b 信息获取和索引子系统
该子系统主要有以下两项功能；
(1) 接收用户数据库子系统传送来的数据，整理，并建立检索索引。
(2) 保证检索数据与用户数据的同步和一致。
c 信息检索服务子系统
信息检索服务子系统响应来自internet的检索请求，处理该请求，将检索结果返回给用户。该子系统是与internet的接口。
该系统的功能特点如下：
a 功能全面，支持多种搜索特性，提供丰富的选择
(1) 支持大数据量下的全文检索，在G级数据量下保证亚秒响应速度；
(2) 支持关键字的实时全文检索，即一旦有数据加入到数据库中就可以立刻被检索到；
(3) 支持大数据量下的高效全文检索，100万条记录数的响应时间小于1秒；
(4) 支持对一个字段以及多个字段的复合检索；
(5) 支持二次检索和各种逻辑检索。
b 智能化全文检索保证最准确的结果
(1) 百度特有的自动词汇切分技术，充分考虑了中文语言的特点，能帮助用户找到最准确的关键字，从而大大提高查准率；
(2) 支持Big5、GB、GBK、GBK2312等多种汉字编码，并支持英文检索，对于英文的大小写可以自动转换；
(3) 支持查询任何词汇、数字、短语等；
(4) 支持中文或英文的单独检索；
(5) 支持中英文的混合检索。
c 实时查询
(1) 用户可以对数据库进行实时查询，检索结果根据时间排序；
(2) 用户数据库中的任何改变，如添加、修改、删除信息可以实时地传送给索引服务器。
d 高可配置性
(1) 支持字段的添加和删除，而无需对程序进行修改；
(2) 用户可以随意创建、修改、删除数据库中的信息，信息的变化可以被百度网事通DB检索系统实时自动识别；
(3) 百度网事通DB检索系统和网站之间通过TIP/IP协议通讯，用户可以自己定义检索结果页面的模版；
(4) 用户可以自己定义检索规则，既可支持按字段检索又可以支持全文查询。
星空黄页搜索服务推出以后，大大提高了用户的搜索体验，也为黄页提供了新的商机。
参考文献
1 杨兴平.揭开神秘面纱，搜索引擎原理浅析
2 HISTORY：W3 SEARCH ENGINES http://vlib.iue.it/history/search/
陈 哲 中国电信集团黄页信息有限公司工程师。
倪俊峰 中国电信集团黄页信息有限公司工程师。
