企业与个人网络营销一站式服务商
网站建设 / SEO优化排名 / 小程序开发 / OA
0731-88571521
136-3748-2004
如何了解百度搜索引擎的中文分词技术
信息来源:长沙做网站   发布时间:2013-10-24   浏览:

从形式上看,词是稳定的字的组合,因此在上下文中,相邻的字同时出现的次数越多,就越有可能构成一个词。因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。可以对语料中相邻共现的各个字的组合的频度进行统计,计算它们的互现信息。

  定义两个字的互现信息,计算两个汉字X、Y的相邻共现概率。互现信息体现了汉字之间结合关系的紧密程度。当紧密程度高于某一个阈值时,便可认为此字组可能构成了一个词。这种方法只需对语料中的字组频度进行统计,不需要切分词典,因而又叫做无词典分词法或统计取词方法。但这种方法也有一定的局限性,会经常抽出一些共现频度高、但并不是词的常用字组,例如“这一”、“之一”、“有的”、“我的”、“许多的”等,并且对常用词的识别精度差,时空开销大。实际应用的统计分词系统都要使用一部基本的分词词典(常用词词典)进行串匹配分词,同时使用统计方法识别一些新的词,即将串频统计和串匹配结合起来,既发挥匹配分词切分速度快、效率高的特点,又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。

  前面我们有讲到《SEO之基于字符串匹配的分词方法》和《SEO之基于理解的分词方法》,那么这三种方法中,到底是哪种SEO分词算法的准确度更高,目前尚无定论。对于任何一个成熟的分词系统来说,不可能单独依靠某一种算法来实现,对于中文词的识别,需要综合多种算法来处理不同的问题。

  分词准确性对搜索引擎来说非常重要,如果分词速度太慢,即使准确性再高,对于搜索引擎来说也是不可用的,因为搜索引擎需要处理数以亿计的网页,如果分词耗用的时间过长,会影响到搜索引擎对内容的更新速度。因此对于搜索引擎来说,分词的准确性和速度,都需要达到很高的要求。




上一条: 刚刚建立的网站进行优化需要我们避免的工作
下一条: 浅谈网站如何针对百度做好优化工作
案例鉴赏
多年的网站建设经验,斌网网络不断提升技术设计服务水平,迎合搜索引擎优化规则
网络营销
多年的网站建设经验,网至普不断提升技术设计服务水平,迎合搜索引擎优化规则
长沙私人做网站    长沙做网站    深圳网站建设    株洲做网站    东莞做网站    南京防腐木    湖南大拇指养猪设备    株洲做网站    
版权所有 © 长沙市天心区斌网网络技术服务部    湘公网安备 43010302000270号  统一社会信用代码:92430103MA4LAMB24R  网站ICP备案号:湘ICP备13006070号-2