





























是拥有大量书籍的图书馆,而在当今很多人都会选择种更方便快捷全面准确的方式互联网如果说互联网是个知识宝库,那么搜索引擎就是打开知识宝库的把钥匙搜索引擎是随着信息的迅速增加,从年开始逐渐发展起来的技术,用于帮助互联网用户查询信息的搜索工具搜索引擎以定的策略在互联网中搜集发现信息,对信息进行理解提取组织和处理,并为用户提供检索服务,从而起到信息导航的目的目前搜索引擎已经成为倍受网络用户关注的焦点,也成为计算机工业界和学术界争相研究开发的对象搜索引擎的现状随着个人计算机的普及和网络技术的发展,越来越多的数据和信息可以从网络上无偿获取。
比如,目前已经可以搜索约亿个网页。
这样个浩瀚的信息海洋,是人类共同创造的精神财富,其中包含很多对生活和科研非常有价值的信息。
但是,从这个数据的海洋中检索到我们所需要的信息,真所谓大海捞针。
没有网络搜索引擎技术这简直是不可能的。
网络搜索是每个网络用户所关心的问题,也是研究信息检索和处理的工作者所面临的巨大挑战。
网络搜索牵扯到很多研究领域,如信息检索数据库数据挖掘系统技术多媒体人工智能计算机网络分布式处理数字图书馆自然语言处理等许多领域的理论和技术,并已成为种综合性的技术。
以前数据库技术主要处理的是结构化的数据能以二维表格的形式来表示,通过查询语言,能够得到准确的结果。
然而更多的数据和信息是无法用二维表格来表示,特别是些电子文档和页称为无结构数据或半结构数据。
因此和数据库检索不同的是,信息检索得到的结果是近似相似结果而非确切结果。
因特网出现之前,搜索引擎也存在并发挥着作用,搜索范围从简单文本到大容量数据库不断发展,搜索技术从关键词查找到全文检索不断进步。
迅速发展的因特网改变了切,新的网络搜索引擎比传统搜索引擎有了质的飞跃。
传统搜索引擎面对的是增长缓慢的有限的数据,而且数据的格式非常统,但是网络搜索引擎面对的是指数增长的几乎无限的数据,数据内容格式各不相同。
网络数据还有其自身的特点∶如包含有大量的垃圾数据,网页之间有链接,即使是近似内容的网页也可能在网页设计,用词造句等方面有很大的差距。
这些特点和现实使得传统搜索引擎技术的算法无法适用于面对海量数据的网络搜索。
现代的网络搜索引擎技术已同传统的搜索引擎技术在算法计算环境理论模型等方面有了根本的不同,不仅可以根据网络文档的内容,文档之间的链接,还可以根据用户对网页的访问模式进行计算等。
现代搜索引擎与传统搜索引擎都有共同的目标,就是查全与查准,只不过新的时代环境为新技术赋予了更多的内涵。
从结构上看,现代搜索引擎主要有搜集或的作用索引查询,排序及结果处理五部分。
其中索引和排序是核心技术,也是目前研究的重点。
目前的搜索引擎还是基于关键词的,往往个关键词带来成千上万的搜索结果。
用户不可能查看每个搜索结果,因此搜索结果的排序非常重要。
例如个用户输入关键词哈佛进行搜索,他很可能想看的结果是哈佛大学的主页,而不是随便的个恰巧包含哈佛词的网页。
所以个好的搜索引擎会在提供给用户的结果中将些高质量的网页排在前面。
然而什么样的网页能称为高质量,不同的用户可能有不同的看法。
从目前的研究和应用角度来说,既该网页包含关于个主题的具体信息,同时被很多其它高质量的网页所链接指向。
不同领域的研究人员目前正在从不同的角度努力提高搜索引擎的性能。
如数据库研究人员考虑如何能从网页中抽取出结构化的数据信息来,如何提高检索机制,信息检索的研究人员考虑如何能将垃圾网页去除,检索结果进行有效分类来方便用户的查看,如何对不同的用户即使是相同的搜索关键词提供不同的搜索结果来满足不同用户的需求。
同时现代搜索引擎也引起些相关的研究课题,如信息抽取,链接分析,服务器日志分析以得到访问用户的行为兴趣模式,推荐系统如网上书店的推荐系统等。
同时我们也看到基于关键词的搜索有其局限性,而且这种局限性随着网络的发展也日渐明显。
很多情况下,用户的需求不能仅用几个关键词表达清楚,甚至在很多情况下用户本身也不是很清楚自己的搜索要求,这时候需要搜索引擎能够进行多层次的搜索,从粗到细,逐步精化和缩小搜索范围。
目前商业用的搜索引擎很多,如,等。
因特网使得技术的发展日新月异。
处在知识经济基础设施地位的网络搜索引擎必将得到更多的重视与发展,同时也充满着机遇与挑战。
第二章搜索引擎概述搜索引擎的概念随着信息的科学技术的不断发展,网络已经成为人么生活中的重要组成部分,互联网作为信要复杂些。
下图是分析类的关系图从图中看出如果要做个分词器,就是继承第二代,成为第三代。
然后再写个的子类,专门用来做新分词器的转换器就好了。
分词是通过点用方法实现的,所以,重写分词类,关键是重写函数,实现自己的分词算法正向减字最大匹配法正向减字最大匹配法切分词的过程是从自然语言的中文语句中提取出设定的长度字串,与词典比较,如果在词典中,就个有意义的词串,并用分隔符分隔输出,否则缩短字串,在词典中重新查找。
正向减字最大匹配算法流程图该算法的思想的是,事先将网页处理成每行是个句子的纯文本格式。
从中逐句提取,对于每个句子从左往右以为界选出字串,如果在词典中,处理下个长为的候选字段否则,将最右边个字去掉,继续与词典比较切分完后,构成词的字符串或者此时已经为单子,用分隔符隔开输出给。
从中减去,继续处理后续的字串。
处理结束,取中的下个句子赋给,重复前述步骤,直到整篇文本都切分完毕。
查询信息查询器是整个搜索引擎系统中最后个环节,是最终同用户交互的用户搜索界面。
用户通过页输入搜索关键词,查询器则切分用户输入的字串,然后访问倒排文件索引,检索出所有符合检索条件的文件,并对这些信息进行并集运算和排序运算,最后得到最终的结果文件,再从各文件中提取摘要信息写入用户反馈网页中读取中句子将词典读入内存文本的句子是否处理完读取句子调用切词程序结束图正向减字最大匹配过程查询实现查询流程图接受查询请求获得关键字检索索引库检索索引库是否有匹配记录此网页是否遍历完成排序返回结果图查询流程文档查询利用搜索引擎可以查询到文件吗可以查询到动画吗可能你觉得不可能,因为这些不是般的文本网页。
早期的搜索引擎般只能检索普通的文本网页信息,随着各种其他文件格式的流行,现代搜索引擎逐渐增加了对常见文件格式的支持功能,如等搜索引擎就可以查询到包括格式在内的近十多种类型文件。
但是,这种功能需要搜索引擎能够正确解析文件格式,而且可以想象,只有比较流行的常见文件格式才会受到支持。
文档搜索过程当用户要查询文档时,对关键字进行检索得到结果,再经过处理,判断所得结果的后缀名字段,将字段为的结果提取出来,用于结果显示。
关键字高亮显示设置高亮显示的方式查询关键字得到相关结果读取索引中字段的内容添加到结果集是否为是否图文档搜索过程图第四章用户接口设计用户注册登陆以下是用户注册登陆的流程图。
访问本搜索引擎的用户可以以访客,已注册用户身份来完成搜索功能。
查询扩展由于在自然语言中存在大量的同义词和多义词,而且目前大部分搜索引擎是基于传统的倒排索引布尔查询和基于关键词的机械式的符号匹配,在使用搜索输入用户名和密码未通过验证填写资料注册数据库中是否存在该用户密码是否致否是是否图用户注册登陆流程图通过验证引擎时用户提交的查询词不够规范等等以系列的问题使得用户在查询时出现许多难以克服的问题,使得系统的查全率很低。
对于这种情况,必须对初始查询进行定的修改,因为仅仅依靠用户输入的初始查询词来提高系统的检索性能是有限的。
因此,需要对初始查询的进行修改即查询扩展。
目前关于查询扩展大体上有基于全局语料集的分析的方法全局分析方法基于局部文档集分析的方法局部分析方法基于局部上下文分析和基于用户日志的查询扩展等。
基于用户日志的查询扩展方法通过挖掘整个用户的查询日志来提取扩展词。
众多用户使用检索系统时多次反馈结果都由用户的查询日志积累起来的,因此对用户查询日至分析相当于使用大量用户的相关反馈。
个性化查询经过对用户兴趣的研究,发现用户兴趣存在下特点首先,用户的浏览具有方向性。
也就是说用户的浏览并不是随机的,而是根据用户的不同,侧重点不同。
有些类别的网页用户经常浏览,有些类别的网页用户基本不看。
其次,用户兴趣随着时间变化有定的变化。
也就是说用户的兴趣不是成不变的,而是会变化的。
介于以上原因,本文将根据用户的查询记录来提取用户兴趣,并根据用户的兴趣返回结果。
用户注册时可以填写自己的兴趣,提交后,系统将根据用户的兴趣对用户感兴趣的网页类别设置相应的权值,权值为用户所选兴趣项数分之,即用户注册时选择了两项兴趣,则这两类页面的权值设置为都为,其他类别的页面权值为最终的权值其中其中,是计算得到的权值,是用户兴趣权值。
本系统取,。
由于用户的兴趣随着时间的推移有定的变化,因此,可以定时根据用户的浏览记录来修改用户兴趣。
本文根据统计用户历史访问来修改用户兴趣,若用户在段时间内,访问的页面总数为,新闻类别页面为,则新闻类别的页面权值修改为。
用户查询过程系统数据库设计本课题开发个基于用户反馈的个性化搜索引擎系统,服务器端主要设计了如下个数据库表用户基本信息表用来存储已注册用户的基本信息。
搜索记录表用来存储历史搜索记录。
用户兴趣表用来记录用户兴趣。
表用户基本信息表字段名称字段类型字段说明用户名用户密码注册时间最后次登陆时间备注表搜索结果存储表字段名称字段类型字段说明搜索关键词搜索结果链接地址对于查询,构造查询结果所有点击的集合取出用户兴趣,计算页面的权值结合计算的权值,得到最终权值根据最终权值,对页面进行排序返回结果图用户查询图搜索结果标题搜索结果内容搜索结果网页页面大小搜索结果更新日期搜索结果存储时间页面号页面类型表用户兴趣表字段名称字段类型字段说明规则序号类型生成时间兴趣权重参考文献中国互联网络发展状况统计报告李小明,闫宏飞,王继民搜索引擎原理技术与系统北京科学出版社,徐宝文,张卫丰搜索引擎与信息获取技术北京清华大学出版社,刘琨搜索引擎的研究与实现西安电子科技大学,于敦德从看互联网爬虫设计陈瑜芳,何克右网络蜘蛛的设计与实现武汉武汉理工大学计算机科学与技术学院搜索引擎的现状和发展张波个性化搜索系统研究孙宾,现代汉语文本的词语切分技术,技术报告,北京大学计算语言学研
