中英文新闻网页关键词抽取技术应用研究.pdf

合肥工业大学硕士学位论文中英文新闻网页关键词抽取技术研究姓名:李星华申请学位级别:硕士专业:计算机应用技术指导教师:吴信东;胡学钢 20090301 中英文新闻网页关键词抽取技术的研究摘要信息技术的飞速发展和互联网的普及使得网上信息呈现出几何级数的增长。检索和利用网络信息变得越来越困难。如何有效的对海量信息进行组织、压缩和检索,提高信息访问的效率成了一个越来越重要的课题。作为网络信息传播的重要载体,众多新闻网页没有关键词。对这些网页进行关键词抽取,将提高用户浏览的速度和信息的访问效率。从这点出发,本文研究了自然语言处理和信息检索技术的一个重要领域. 新闻网页的关键词自动抽取。在追踪了国内外研究现状,分析比较了各类关键词抽取算法的基础上,提出了一种不依赖语种、不依赖训练语料库的单文档的。大量的随机新闻网页实验结果表明,本文提出的算法是有效的新闻网页关键词抽取算法。综上所述,本文的主要工作如下: (1)对新闻网页关键词抽取展开研究,从理论和实验两方面证明了基于语义分析的关键词抽取方法有着良好的应用前景。在对提出的基于词汇链的关键词抽取算法KEUD实验验证的基础上,将词语相关性引入词语语义相似度分析中, ; (2)在抽取关键词的过程中实现了词语的歧义消解。在自然语言处理和信息检索技术中,语义结构的构造依赖于每个词语的词义。利用构建的词汇链表示文本语义结构就要求实现对多义词的词义判别。本文借助知识库和语境上下文提供的有效信息,在构建词汇链过程中将词语的各个词义纳入到整个语境下考查,通过判断多义词的词义与其周围上下文环境的关系来消除多义词的歧义; (3)每一种特征选择方法都要与具体的应用相结合才能最大限度发挥其性能。通过对比实验,本文从文章、词汇链和知识库中提出了大量有效特征,借助选取的特征从候选词集中选择出最终抽取的关键词; (4)引入词语的相关性以解决未包含词语的抽取问题。提出的KEUD算法由于需要判断词语间的语义相似度,而语义相似度的计算需要知识库的支持。因此不能很好的处理未包含词的抽取问题。为了解决该问题,本文在该算法的基础上加入了词共现模型,提出了基于词汇链与词共现的新闻网页关键词抽取算。该算法从词语的语义相似性与相关性两个角度考虑文中词语的重要度,提高了对未包含词语的抽取能力。关键词:关键词抽取,词汇链,词共现,歧义消解,相似性,相关性 Keyword Extraction from News Web Pages Abstract The rapid development ofinformation technology and the popularity ofthe have brought ageometric growth retrieval and use work information have e more and more anize press large volumes ofinformation,how to search relevant information, and how to improve the efficiency of information access are now allimportant ,there are no keywords in many news Web pages that are propagation vectors work will improve the users’browsing speed and efficiency ofinformation access ifwe can extract and provide keywords from these web pages. From thispoint ofview,this dissertation studies automatic keyword extraction from news web pages,which is an important research area innatural language processing and information on existing research efforts both within China and overseas,as well as adetailed analysis parison of avariety of keyword extraction algorithms,two keyword extraction algorithms