SegT一个实用的藏文分词系统.pdf

第26卷第1期 中文信息学报 V01．26。No．1 2012年1月 0FCHINESEINFORMATIoNPROCESSINGJan．。2012 JOURNAL 文章编号：1003-0077(2012)01—0097—07 SegT：一个实用的藏文分词系统 刘汇丹1’2，诺明花1’2，赵维纳3”，吴健1，贺也平1 (1．中国科学院软件研究所，北京100190；2．中国科学院研究生院，北京100190， 3．北京语言大学，北京100083；4．青海师范大学，青海西宁810008) 摘要：在分析现有藏文分词方法的基础上，该文重点研究了葳文分词中的格助词分块、临界词识别、词频统计、交 集型歧义检测和消歧等问题并提出了相应的方法。应用这些方法，设计实现了一个藏文分词系统SegT。该系统 采用格助词分块并识别临界词，然后采用最大匹配方法分词，并进行紧缩词识别。系统采用双向切分检测交集型 歧义字段并使用预先统计的词频信息进行消歧。实验结果表明，该文设计的格助词分块和临界词识别方法可以将 分词速度提高15％左右，但格助词分块对分词效果没有明显提高或降低。系统最终分词正确率为96．98％，基本 达到了实用的水平。 关键词：藏文分词；格助词；临界词识别；词频统计；藏丈信息处理；中文信息处理 中图分类号：TP391 文献标识码：A PracticalTibetanWord SegT：A SegmentationSystem LIUHuidanl一，NUo Weina3”，WU Minghual“，ZHA0 Jianl，HEYepin91 (1．Instituteof of Software。Chinese 100190。China； AcademySciences．Beijing of Chinese of 2．Graduate the 100190，China； University AcademySciences，Beijing Culture and 3．BeijingLanguage University，Beijing100083，China； Normal 810008，China) 4．Qinghai University，Xining，Qinghai and aTibetanword identifiescriti- Abstract：This segmentation paperdesignsimplements systemnamed“SCgT”．It calwordswithafaSt triestructurewhenit with basedonthe eachTibetansentencetoblocks algorithm segments