中文自动分词歧义类型

      汉语自动分词是中文信息处理领域的一项基础性课题，也是智能化中文信息处理的关键所在，因为在中文信息处理中，凡是涉及句法、语义等的研究（如机器翻译、自然语言处理等）都要以词为单位。汉语不同于西文，在一个汉语句子中，词与词之间没有明显的分隔符（如空格）。汉语的词法约束很不规范，而且千变万化，就给汉语分词带来了很大的麻烦。正是由于汉语分词的困难及其中文信息处理中的重要地位，自20世纪70年代末以来，许多人投入到了汉语自动分词的研究工作中来，也出现了好多具有应用前景的分词方法。

     汉语分词是汉语分析以及计算机处理汉语的一大难点，导致汉语分词精度不高的原因一般有：词语（抑或说汉语分析基本单元）的界定、词典范围、分词中因为算法问题产生的歧义。

     分词过程中歧义产生的根源可归纳为以下三类：

     · 由自然语言的二义性所引起的歧义，称为第一类歧义。如：“兵乓球拍卖完了”可切分为“乒乓球/拍卖/完了”又可以切分为“乒乓球拍/卖/完了”。这两种切分形式无论在语法上还是与以上都是正确的，就是人工分词也会产生歧义，只有结合上下文才能给出正确的切分。

     · 由机器自动分词产生的特有歧义，称为第二类歧义。如：“在这种环境下工作是太可怕了”用机器切分，可以切分为“在/这种/环境/下工/是/太/可怕/了”，也可以切分为“在/这种/环境/下/工作/是/太/可怕/了”。对本句来说，只有第二种切分是正确的。用人工分词是不可能产生歧义的，歧义是由于机器机械切分产生的。

      · 由于分词词典的大小引起的歧义，称为第三类歧义。如：“王小二是一个农民”用机器切分被分为“王/小/二/是/一个/农民”，这里“王小二”是一个人名，在汉语中应是一个词，所以这个切分是错误的。由于机器自动分词是根据分词词典进行的。故词典中没有的词，就不可能被正确切分，分词词典不可能也没有必要包括所有的词（如人名、地名），同时，词典中所包括的词越多，就会产生新的歧义。例如：“发展社会主义的新乡村”新乡是一个地名，若词典中有该词，则“新乡村”是一个歧义字段。因此，不论词典的大与小都可能产生歧义。

       统计表明第一类歧义字段只占歧义字段总数的5%左右，剩下来的就都是第二类歧义字段和第三类歧义字段。故自动分词阶段对歧义的研究主要集中在对第二类、第三类歧义字段的研究。而对于第二类歧义，又主要有两种：组合型歧义与交集型歧义。组合型歧义就是对于字串AB，可以切分为AB，又可以切分为A/B；交集型歧义就是ABC，可以切分为AB/C，又可以切分为A/BC。这其中交集型歧义有占了绝大多数，据统计达94%，因此处理好交集型歧义在汉语分词中有着非常重要的地位。