TF-IDF 概念
- 是一种统计方法，用以评估一个词对于一个语料库中一份文件的重要程度。
- 词的重要性随着在文件中出现的次数正比增加，同时随着它在语料库其他文件中出现的频率反比下降。就是说一个词在某一个文档中出现次数比较多，其他文档没有出现，说明该词对该份文档分类很重要。然而如果其他文档也出现比较多，说明该词区分性不大，就用IDF来降低该词的权重。
TF-IDF “词频-逆文本频率指数”
TF-IDF（Term Frequency - Inverse Document Frequency）
词频：TF = 词在文档中出现的次数 / 文档中总词数
逆文档频率：IDF = log[ (语料库中的文档总数 / (包含词条w的文档数 + 1) ]，分母加1，是为了避免分母为0
TF-IDF = TF（词频） * IDF（逆文档频率）
TF：词频，文本中各个词的出现频率统计，并作为文本特征，这个很好理解。big：tf = 30 / 240
IDF：逆文本频率，其他文本里面都没有出现big，idf = log(101 / 2)。->∞
其他99篇文本里都出现big，log(100 / 101)。->0
概括来讲，IDF反应了一个词在所有文本中出现的频率，如果一个词在很多的文本中出现，那么它的IDF值应该低。而反过来如果一个词在比较少的文本中出现，那么它的IDF值应该高，比如一些专业的名词如”Machine Learning“，这样的词IDF值应该高。一个极端的情况，如果一个词在所有的文本中都出现，那么它的IDF值应该为0。
1.读取
2.数据预处理
3.数据划分—训练集和测试集数据划分
from sklearn.model_selection import train_test_split
x_train,x_test, y_train, y_test = train_test_split(data, target, test_size=0.2, random_state=0, stratify=y_train)
4.文本特征提取
sklearn.feature_extraction.text.CountVectorizer
sklearn.feature_extraction.text.TfidfVectorizer
from sklearn.feature_extraction.text import TfidfVectorizer
tfidf2 = TfidfVectorizer()
观察邮件与向量的关系
向量还原为邮件
4.模型选择
from sklearn.naive_bayes import GaussianNB
from sklearn.naive_bayes import MultinomialNB
说明为什么选择这个模型？
模型需要根据数据集中特征的特点来进行选取，垃圾邮件分类重点在于文档中单词出现的频率以及文档的重要性，数据并不符合正态分布的特征，并且垃圾邮件判定过程是一个随机事件，单词在邮件中出现的次数并不是固定的，因此不能选择高斯型分布模型，此处选择多项式分布模型。
5.模型评价：混淆矩阵，分类报告
from sklearn.metrics import confusion_matrix
confusion_matrix = confusion_matrix(y_test, y_predict)
说明混淆矩阵的含义
from sklearn.metrics import classification_report
说明准确率、精确率、召回率、F值分别代表的意义
混淆矩阵（confusion-matrix）：
TP（True Positive）：真实为0，预测也为0
FN（False Negative）：真实为0，预测为1
FP（False Positive）：真实为1，预测为0
TN（True Negative）：真实为1，预测也为1
准确率：代表分类器对整个样本判断正确的比重。
精确率：指被分类器判断正例中的正样本的比重。
召回率：指被预测为正例的占总的正例的比重。
F值：精确率和召回率的调和平均数，最大为1，最小为0。
6.比较与总结
如果用CountVectorizer进行文本特征生成，与TfidfVectorizer相比，效果如何？
CountVectorizer：只考虑词汇在文本中出现的频率。
TfidfVectorizer：除了考量某词汇在本文本中出现的频率，还关注包含这个词的其他文本的数量，能够削减高频没有意义的词汇出现带来的影响，挖掘更有意义的特征。
两者结合来看，用CountVectorizer虽在总样本中表现看似优秀，但其实际对样本个体预测的误差要高于使用TfidfVectorizer。因为TfidfVectorizer能够过滤掉一些常见的却无关紧要本的词语，同时保留影响整个文本的重要字词，更适用于垃圾邮件分类。
实现代码：
1 from nltk.corpus import stopwords
2 from nltk.stem import WordNetLemmatizer
3 from sklearn.model_selection import train_test_split
4 from sklearn.feature_extraction.text import TfidfVectorizer
5 from sklearn.naive_bayes import MultinomialNB
6 from sklearn.metrics import confusion_matrix, classification_report
7 import nltk
8 import csv
9 import numpy as np
10
11 # 根据词性，生成还原参数pos
12 def get_wordnet_pos(treebank_tag):
13 if treebank_tag.startswith(‘J‘): # 形容词
14 return nltk.corpus.wordnet.ADJ
15 elif treebank_tag.startswith(‘V‘): # 动词
16 return nltk.corpus.wordnet.VERB
17 elif treebank_tag.startswith(‘N‘): # 名词
18 return nltk.corpus.wordnet.NOUN
19 elif treebank_tag.startswith(‘R‘): # 副词
20 return nltk.corpus.wordnet.ADV
21 else:
22 return nltk.corpus.wordnet.NOUN
23
24 # 预处理
25 def preprocessing(text):
26 tokens = [word for sent in nltk.sent_tokenize(text) for word in nltk.word_tokenize(sent)] # 分词
27 stops = stopwords.words(‘english‘) # 使用英文的停用词表
28 tokens = [token for token in tokens if token not in stops] # 去除停用词
29 tokens = [token.lower() for token in tokens if len(token) >= 3] # 大小写，短词
30 lmtzr = WordNetLemmatizer()
31 tag = nltk.pos_tag(tokens) # 词性
32 tokens = [lmtzr.lemmatize(token, pos=get_wordnet_pos(tag[i][1])) for i, token in enumerate(tokens)] # 词性还原
33 preprocessed_text = ‘ ‘.join(tokens)
34 return preprocessed_text
35
36 # 读取数据集
37 def read_dataset():
38 file_path = r‘E:\机器学习\SMSSpamCollection‘
39 sms = open(file_path, encoding=‘utf-8‘)
40 sms_data = []
41 sms_label = []
42 csv_reader = csv.reader(sms, delimiter=‘\t‘)
43 for line in csv_reader:
44 sms_label.append(line[0]) # 提取出标签
45 sms_data.append(preprocessing(line[1])) # 提取出特征
46 sms.close()
47 return sms_data, sms_label
48
49 # 划分数据集
50 def split_dataset(data, label):
51 x_train, x_test, y_train, y_test = train_test_split(data, label, test_size=0.2, random_state=0, stratify=label)
52 return x_train, x_test, y_train, y_test
53
54 # 把原始文本转化为tf-idf的特征矩阵
55 def tfidf_dataset(x_train,x_test):
56 tfidf = TfidfVectorizer()
57 X_train = tfidf.fit_transform(x_train) # X_train用fit_transform生成词汇表
58 X_test = tfidf.transform(x_test) # X_test要与X_train词汇表相同，因此在X_train进行fit_transform基础上进行transform操作
59 return X_train, X_test, tfidf
60
61 # 向量还原成邮件
62 def revert_mail(x_train, X_train, model):
63 s = X_train.toarray()[0]
64 print("第一封邮件向量表示为：", s)
65 # 该函数输入一个矩阵，返回扁平化后矩阵中非零元素的位置（index）
66 a = np.flatnonzero(X_train.toarray()[0]) # 非零元素的位置（index）
67 print("非零元素的位置:", a)
68 print("向量的非零元素的值：", s[a])
69 b = model.vocabulary_ # 词汇表
70 key_list = []
71 for key, value in b.items():
72 if value in a:
73 key_list.append(key) # key非0元素对应的单词
74 print("向量非零元素对应的单词：", key_list)
75 print("向量化之前的邮件：", x_train[0])
76
77 # 模型选择（根据数据特点选择多项式分布）
78 def mnb_model(x_train, x_test, y_train, y_test):
79 mnb = MultinomialNB()
80 mnb.fit(x_train, y_train)
81 ypre_mnb = mnb.predict(x_test)
82 print("总数：", len(y_test))
83 print("预测正确数：", (ypre_mnb == y_test).sum())
84 return ypre_mnb
85
86 # 模型评价：混淆矩阵，分类报告
87 def class_report(ypre_mnb, y_test):
88 conf_matrix = confusion_matrix(y_test, ypre_mnb)
89 print("=====================================================")
90 print("混淆矩阵：\n", conf_matrix)
91 c = classification_report(y_test, ypre_mnb)
92 print("=====================================================")
93 print("分类报告：\n", c)
94 print("模型准确率：", (conf_matrix[0][0] + conf_matrix[1][1]) / np.sum(conf_matrix))
95
96 if __name__ == ‘__main__‘:
97 sms_data, sms_label = read_dataset() # 读取数据集
98 x_train, x_test, y_train, y_test = split_dataset(sms_data, sms_label) # 划分数据集
99 X_train, X_test,tfidf = tfidf_dataset(x_train, x_test) # 把原始文本转化为tf-idf的特征矩阵
100 revert_mail(x_train, X_train, tfidf) # 向量还原成邮件
101 y_mnb = mnb_model(X_train, X_test, y_train,y_test) # 模型选择
102 class_report(y_mnb, y_test) # 模型评价
运行结果：
