python jieba分词的使用

这篇博客介绍了如何使用jieba进行分词,包括精确模式、全模式和搜索引擎模式,并展示了《遮天》小说的关键词提取,使用了TF-IDF和TextRank算法,最后提到了如何对DataFrame中的词频进行分析。

jieba分词的使用

一、简单分词

使用 jieba.cut(), jieba.lcut() 完成,后者返回 list 的结果,有三种分词模式:精确模式全模式搜索引擎模式

jieba.cut(sentence,cut_all=False,HMM=True) # 精确模式
jieba.cut(sentence,cut_all=True,HMM=True) # 全模式
jieba.cut_for_search (sentence, HMM=True) # 搜索引擎模式

sentence为需要分词的字符串,可以是unicode 或 UTF-8字符串,GBK字符串可能解码错误;
cut_all 参数用来控制是否采用全模式,默认为False;
HMM 参数用来控制是否使用 HMM 模型。

举例

import jieba
sentence="做人还是平常点好,争这个争那个,争来争去赔了自己的命。像我这样,说起来是越混越没出息,\
可寿命长,我认识的人一个挨着一个死去,我还活着。"
seg_list=jieba.cut(sentence,cut_all=False,HMM=True)
print("精确模式: " + "/ ".join(seg_list))

seg_list=jieba.cut(sentence,cut_all=True,HMM=True)
print("全模式: " + "/ ".join(seg_list))

seg_list=jieba.cut_for_search(sentence,HMM=True)
print<
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值