自然语言处理:
1、什么是自然语言处理(NLP)
- 自然语言处理是一门交叉学科,包括计算机科学,人工智能和语言学
- 目标:让计算机去处理或“理解”自然语言, 完成一些有用的任务例如问答系统,机器翻译
- 完全理解或者表示语言的意义(甚至去定义它)都是一个虚幻的目标
- 完美的理解语言是一个“AI-complete”的问题
2、自然语言处理的应用
- 应用范围从简单到复杂
- 拼写检查, 关键词提取&搜索,同义词查找&替换
- 从网页中提取有用的信息例如产品价格,日期,地址,人名或公司名等
- 分类,例如对教科书的文本进行分级,对长文本进行正负情绪判断
- 机器翻译
- 口语对话系统
- 复杂的问答系统
3、工业届里的NLP应用
- 搜索引擎
- 在线广告
- 自动的或辅助的翻译技术
- 市场营销或者金融交易领域的情感分析
- 语音识别
4、NLP为什么这么难
- 语言在表达上就很复杂,使用的时候要综合考虑使用情境
- Jane hit June and then she [fell/ran].
- 歧义问题:“I made her duck”
5、现有的中文自然语言处理工具:
N-gram语言模型:
目的:在给定语料库的情况下,计算一个字符串出现的概率
N-gram是自然语言处理(NLP)中一个非常重要的概念,通常在NLP中,人们基于一定的语料库,可以利用N-gram来做以下几类事情:
- 预计或者评估一个句子是否合理;
- 评估两个字符串之间的差异程度,这也是模糊匹配中常用的一种手段;
- 语音识别;
- 机器翻译;
- 文本分类;
资料链接:
n-gram_1(包含
开源n-gram数据集)
数据稀疏和平滑技术:
中文纠错
github上中文纠错项目:
结巴分词的词典:
高效的分词工具:
结巴
&spm=1001.2101.3001.5002&articleId=79580219&d=1&t=3&u=e7a66ddce6734c01b887a281dc8e9d78)
1万+

被折叠的 条评论
为什么被折叠?



