1.读文件到缓冲区
def process_file(dst): # 读文件到缓冲区 try: # 打开文件 file=open(dst,"r") except IOError as s: print(s) return None try: # 读文件到缓冲区 bvffer=file.read() except: print("Read File Error!") return None file.close() return bvffer
2.设置缓冲区,将文本度数缓冲区,并对文本的特殊符号进行修改,使其更容易处理,并读入字典
def process_buffer(bvffer): if bvffer: word_freq = {} # 下面添加处理缓冲区 bvffer代码,统计每个单词的频率,存放在字典word_freq for i in ‘!"#$%&()*+-,-./:;<=>?@“”[\\]^_{|}~‘: bvffer = bvffer.replace(i, " ") # 替换特殊字符 bvffer = bvffer.lower() # 把大写字母转换为小写 words = bvffer.split() # 分割字符串 for word in words: word_freq[word] = word_freq.get(word, 0)+1 return word_freq
3.输出函数将处理好的单词按词频排序,输出词频Top10 的单词
def output_result(word_freq): if word_freq: sorted_word_freq = sorted(word_freq.items(), key=lambda v: v[1], reverse=True) for item in sorted_word_freq[:10]: # 输出 Top 10 的单词 print(item)
4.封装main函数
def main(): parser = argparse.ArgumentParser() parser.add_argument(‘dst‘) args = parser.parse_args() dst = args.dstdst = "Gone_with_the_wind.txt" bvffer = process_file(dst) word_freq = process_buffer(bvffer) output_result(word_freq)
5.cProfile的性能评估
if __name__ == "__main__": import cProfile import pstats import argparse cProfile.run("main()", "result") # 直接把分析结果打印到控制台 p = pstats.Stats("result") # 创建Stats对象 p.sort_stats(‘calls‘).print_stats(10) # 按照调用次数排序,打印前10函数的信息 p.strip_dirs().sort_stats("cumulative", "name").print_stats(10) p.print_callers(0.5, "process_file") # 得知哪些函数调用了process_file p.print_callers(0.5, "process_buffer") p.print_callers(0.5, "output_result")
缩进
if bvffer: word_freq = {}
运行截图:
按执行次数:
按执行时间:
四、性能分析结果及改进
执行次数最多:
执行时间最多:
改进代码:
分析:可以去掉其中的部分不可能出现的符号
原来代码:
for i in ‘!"#$%&()*+-,-./:;<=>?@“”[\\]^_{|}~‘: bvffer = bvffer.replace(i, " ") # 替换特殊字符
改进之后:
for i in ‘!"()+-,-./:;<=>?“”^~‘: bvffer = bvffer.replace(i, " ") # 替换特殊字符
原文:https://www.cnblogs.com/tanqiking/p/9757496.html