首页 > 编程语言 > 详细

软工作业3:Python词频统计

时间:2018-10-08 22:46:17      阅读:205      评论:0      收藏:0      [点我收藏+]

一、程序分析

  1.读文件到缓冲区

def process_file(dst):     # 读文件到缓冲区
    try:     # 打开文件
        file=open(dst,"r")
    except IOError as s:
        print(s)
        return None
    try:     # 读文件到缓冲区
        bvffer=file.read()
    except:
        print("Read File Error!")
        return None
    file.close()
    return bvffer

 

2.设置缓冲区,将文本度数缓冲区,并对文本的特殊符号进行修改,使其更容易处理,并读入字典

def process_buffer(bvffer):
    if bvffer:
        word_freq = {}
        # 下面添加处理缓冲区 bvffer代码,统计每个单词的频率,存放在字典word_freq
        for i in !"#$%&()*+-,-./:;<=>?@“”[\\]^_{|}~:
            bvffer = bvffer.replace(i, " ")  # 替换特殊字符
        bvffer = bvffer.lower()  # 把大写字母转换为小写
        words = bvffer.split()  # 分割字符串
        for word in words:
            word_freq[word] = word_freq.get(word, 0)+1
        return word_freq

 

3.输出函数将处理好的单词按词频排序,输出词频Top10 的单词

def output_result(word_freq):
    if word_freq:
        sorted_word_freq = sorted(word_freq.items(), key=lambda v: v[1], reverse=True)
        for item in sorted_word_freq[:10]:  # 输出 Top 10 的单词
            print(item)

 

4.封装main函数

def main():
    parser = argparse.ArgumentParser()
    parser.add_argument(dst)
    args = parser.parse_args()
    dst = args.dstdst = "Gone_with_the_wind.txt"
    bvffer = process_file(dst)
    word_freq = process_buffer(bvffer)
    output_result(word_freq)

 

5.cProfile的性能评估

if __name__ == "__main__":
    import cProfile
    import pstats
    import argparse
    cProfile.run("main()", "result")
    # 直接把分析结果打印到控制台
    p = pstats.Stats("result")  # 创建Stats对象
    p.sort_stats(calls).print_stats(10)
    # 按照调用次数排序,打印前10函数的信息
    p.strip_dirs().sort_stats("cumulative", "name").print_stats(10)
    p.print_callers(0.5, "process_file")  # 得知哪些函数调用了process_file
    p.print_callers(0.5, "process_buffer")  
    p.print_callers(0.5, "output_result")

 

二、代码格说明

缩进

if bvffer:
        word_freq = {}

 

三、程序运行命令、运行结果截图

对Gone_with_the_wind.txt进行词频统计:

运行截图:

技术分享图片

按执行次数

技术分享图片

按执行时间:

技术分享图片

 

四、性能分析结果及改进

执行次数最多:

 技术分享图片

执行时间最多:

技术分享图片

改进代码:

分析:可以去掉其中的部分不可能出现的符号

原来代码:

for i in !"#$%&()*+-,-./:;<=>?@“”[\\]^_{|}~:
            bvffer = bvffer.replace(i, " ")  # 替换特殊字符

技术分享图片

改进之后:

for i in !"()+-,-./:;<=>?“”^~:
            bvffer = bvffer.replace(i, " ")  # 替换特殊字符

 技术分享图片

软工作业3:Python词频统计

原文:https://www.cnblogs.com/tanqiking/p/9757496.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!