西藏信息港
旅游
当前位置:首页 > 旅游

你不知道的秘籍百度的中文分词三点原理

发布时间:2019-06-04 04:54:58 编辑:笔名

你不知道的秘籍 百度的中文分词三点原理

A5任务 SEO诊断选学淘宝客 站长团购 云主机

百度中文分词算法:指搜索引擎为了更好的辨别用户的需求,并且为了快速提供给用户需求性信息而使用的算法。

搜索引擎要在单位时间内处理千万亿级的页面数据量,因此搜索引擎拥有一个中文词库。比如百度现在大约有9万个中文词,那么搜索引擎就可以对千亿级的页面进行分析,按照中文词库进行了分类。

百度分词基本有三种分法

1、基于理解:傻瓜式匹配,小于等于3个中文字符百度是不进行切词的,比如搜索 大学堂 。

2、基于统计:百度把一个词标红的原因:标红的词一般是一个关键词,你搜索 学 字的时候,百度它自认的把 学习 也当成了一个关键词,所以出现 学习 这个词标红,这就是百度分词法:基于统计分词。

3、基于字符串匹配(百度的分词法:正向切词法)

与小(匹配:一直匹配到没词可配;小匹配:匹配出词了就停止匹配,再从另一个词开始匹配)比如:百度搜索 湖南大学堂屋顶 ,百度的一个分词算法我们把它当成一个黑盒子,我们通过一些输入关键词,根据百度的输出结果来判定百度的分词算法。正向与反向(正向:从前往后配;反向:从后往前配)(湖南大学堂屋顶)正向分法:湖南大学 堂屋 顶 (刘强大地方法)正向分法:刘 强大 地方 法。反向分法:方法 大地 刘 强。而在这个词语当中 大地 不是一个词。

另外,切词原理:百度有专有词库(是不可分割的)比如杰出人物(如:毛泽东)明星(如:刘德华)检索量大的词(如:买票难) 。

当然这些只是百度中文分词原理的一部分,也不是全对。因为的百度的算法是不可能透露出来,商业机秘如果让你知道,那岂不是有N多的百度了。

临床表现
砷角化症
零代码开发小程序