首页 > Web开发 > 详细

[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)

时间:2018-07-09 10:37:00      阅读:326      评论:0      收藏:0      [点我收藏+]

NLTK是python环境中的一个非常流行的NLP库,这篇记录主要记录NLTK的一些常见操作

1.去除网页html标记

  我们常常通过爬虫获取网页信息,然后需要去除网页的html标签。为此我们可以这么做:

技术分享图片

2.统计词频

  这里使用的tokens就是上面图中的tokens

技术分享图片

3.去除停用词

  停用词就是类似the,a,of这种语义无价值的词,取出后我们还可以把统计图画出来

技术分享图片

4.绘制词云图

  对于词云图的使用原理还不太清楚,只是找了一个可运行的公式

技术分享图片

 

 

 

 

 

  

[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)

原文:https://www.cnblogs.com/trickofjoker/p/9282234.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!