中文分词
1.下载一中文长篇小说，并转换成UTF-8编码。（要在文件下面将格式转换。）
2.使用jieba库，进行中文词频统计，输出TOP20的词及出现次数。
3.排除一些无意义词、合并同一词。
4.对词频统计结果做简单的解读。
import jieba txt = open(‘小说.txt‘,‘r‘,encoding=‘utf-8‘).read() words=list(jieba.cut(txt)) print(‘列表如下：‘,words) exp={‘,?!‘}#创建新的集合 keys=set(words)-exp#排除无意义词，合并同一词 dic={} for a in keys:#只保留两位以上的词 if len(a)>1: dic[a]=words.count(a) c=list(dic.items())#解读词频 c.sort(key=lambda x:x[1],reverse=True) for i in range(20):#输出前20 print(c[i])
部分截图：
原文：http://www.cnblogs.com/jzx-089/p/7610434.html