改进的朴素贝叶斯算法在垃圾邮件过滤中的研究

doi:10.11959/j.issn.1000-436x.2017084

通信学报 ›› 2017, Vol. 38 ›› Issue (4): 140-148.doi: 10.11959/j.issn.1000-436x.2017084

改进的朴素贝叶斯算法在垃圾邮件过滤中的研究

杨雷¹,曹翠玲¹,孙建国^1,²,张立国¹

¹ 哈尔滨工程大学计算机科学与技术学院,黑龙江哈尔滨 150001
² 中国科学院信息工程研究所,北京 100093

修回日期:2017-02-22 出版日期:2017-04-01 发布日期:2017-07-20
作者简介:杨雷（1986-），男，黑龙江哈尔滨人，哈尔滨工程大学博士生，主要研究方向为机器学习、推荐系统等。|曹翠玲（1900-），女，河北邯郸人，哈尔滨工程大学硕士生，主要研究方向为信息安全、内容过滤等。|孙建国（1981-），男，黑龙江巴彦人，博士，哈尔滨工程大学博士生导师，主要研究方向为信息安全、可信计算等。|张立国（1981-），男，黑龙江双城人，博士，哈尔滨工程大学讲师，主要研究方向为多媒体信息处理等。
基金资助:
国家自然科学基金资助项目(61202455);国家自然科学基金资助项目(61472096)

Study on an improved naive Bayes algorithm in spam filtering

Lei YANG¹,Cui-ling CAO¹,Jian-guo SUN^1,²,Li-guo ZHANG¹

¹ College of Computer Science and Technology,Harbin Engineering University,Harbin 150001,China
² Institute of Information Engineering,Chinese Academy of Sciences,Beijing 100093,China

Revised:2017-02-22 Online:2017-04-01 Published:2017-07-20
Supported by:
The National Natural Science Foundation of China(61202455);The National Natural Science Foundation of China(61472096)

摘要/Abstract

摘要：

提出了一种利用支持向量机改进的朴素贝叶斯算法——TSVM-NB算法。首先利用NB算法对样本集进行初次训练，利用支持向量机构造一个最优分类超平面，每个样本根据与其距离最近样本的类型是否相同进行取舍，这样既降低样本空间规模，又提高每个样本类别的独立性，最后再次用朴素贝叶斯算法训练样本集从而生成分类模型。仿真实验结果表明，该算法在样本空间进行取舍过程当中消除了冗余属性，可以快速得到分类特征子集，提高了垃圾邮件过滤的分类速度、召回率和正确率。

关键词: 邮件过滤, 朴素贝叶斯, 支持向量机, 修剪策略

Abstract:

A method of improved support vector machine naive Bayes algorithm was proposed——TSVM-NB algorithm.

Key words: spam filtering, naive Bayes, SVM, trim strategy

中图分类号:

TP309

杨雷,曹翠玲,孙建国,张立国. 改进的朴素贝叶斯算法在垃圾邮件过滤中的研究[J]. 通信学报, 2017, 38(4): 140-148.

Lei YANG,Cui-ling CAO,Jian-guo SUN,Li-guo ZHANG. Study on an improved naive Bayes algorithm in spam filtering[J]. Journal on Communications, 2017, 38(4): 140-148.

图/表 10

图1

图2

图3

表1

表2

实验评估标准及其公式"

名称	公式
召回率	$\frac{检测出垃圾邮件数量}{样本中垃圾邮件总数量}$
正确率	$\frac{正确识别出的邮件数量}{邮件总数}$
分类速度	$\frac{邮件总数}{时间}$

表2

图4

图5

图6

图7

图8

参考文献 11

[1]	王双成, 杜瑞杰, 刘颖 . 连续属性完全贝叶斯分类器的学习与优化[J]. 计算机学报, 2012,35(10): 2129-2138.
	WANG S C , DU R J , LIU Y . The learning and optimization of full Bayes classifiers with continuous attributes[J]. Chinese Journal of Computers, 2012,35(10): 2129-2138.
[2]	HE Y L , WNAG R , KWONG S . Bayesian classifiers based on probability density estimation and their applications to simultaneous fault diagnosis[J]. Information Science, 2014,259(1): 252-268.
[3]	JOSHI A J , PORIKLI F , PAPANIKOLOPOULOS N P . Scalable active learning for multiclass image classification[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2012,34(11): 2259-2273.
[4]	RUGGIERI S.Efficient C4 . 5[J]. IEEE Transactions on Knowledge and Data Engineering, 2002,14(2): 438-444.
[5]	LI J,BIOUCAS-DIAS J M , PLAZA A . Semisupervised hyperspectral image classification using soft sparse multinomial logistic regression[J]. IEEE Transactions on Geoscience and Remote Sensing, 2013,51(2): 844-856.
[6]	EI-ALFY E S M , ALHASAN A A . Spam filtering framework for multimodal mobile communication based on dendritic cell algorithm[J]. Future Generation Computer Systems, 2016,64: 98-107.
[7]	ALMEIDAT N , YAMAKAMI A . Contributions to the study of SMS filtering:new collection and results[C]// The 11th ACM Symposium on Document Engineering. 2011: 259-262.
[8]	CHELLY Z , ELOUEDI Z . Hybridization schemes of the fuzzy dendritic cell immune binary classifier based on different fuzzy clustering techniques[J]. New Generation Computing, 2015,33(1): 1-31.
[9]	KHEDR A , GULAK G , VAIKUNTANATHAN V . SHIELD:scalable homomorphic implementation of encrypted data-classifiers[J]. IEEE Transactions on Computers, 2016,65(9): 2848-2858.
[10]	FREDMAN J S , CALVET L E;BESSIERE,P . Bayesian inference with Muller C-elements[J]. IEEE Transactions on Circuits and Systems I-Regular Papers, 2016,63(6): 895-903.
[11]	AFZAL H , MEHMOOD K . Spam filtering of bi-lingual tweets using machine learning[C]// The 18th International Conference on Advanced Communication Technology. 2016: 710-714.

序号	数据集	样本数量	属性数量	分类数量
1	Juck ads	2 245	27	3
2	Erotic and Violence Mails	1 520	15	2
3	Garbled Characters	836	10	2
4	Special Speech	399	16	3
5	Normal Working Mails	2 546	31	4
6	Normal AC Mails	2 454	28	5

[1]	赵晨阳,王俊岭. 基于隐含上下文支持向量机的服务推荐方法[J]. 通信学报, 2019, 40(9): 61-73.
[2]	党小超,黄亚宁,郝占军,司雄. 基于信道状态信息的无源室内人员日常行为检测方法[J]. 通信学报, 2019, 40(4): 160-170.
[3]	殷晓玲,陈晓江,夏启寿,何娟,张鹏艳,陈峰. 基于智能手机内置传感器的人体运动状态识别[J]. 通信学报, 2019, 40(3): 157-169.
[4]	刘浩然,丁攀,郭长江,常金凤,崔静闯. 基于贝叶斯算法的中文垃圾邮件过滤系统研究[J]. 通信学报, 2018, 39(12): 151-159.
[5]	何明,仇功达,周波,柳强,曹玉婷. 基于改进密度聚类与模式信息挖掘的异常轨迹识别方法[J]. 通信学报, 2017, 38(12): 21-33.
[6]	吕钊,吴小培,张超,卫兵. 基于EOG的安全辅助驾驶系统算法设计与实现[J]. 通信学报, 2016, 37(7): 87-95.
[7]	刘晟,彭宗举,陈嘉丽,陈芬,郁梅,蒋刚毅. 基于多类支持向量机的3D-HEVC深度视频帧内编码快速算法[J]. 通信学报, 2016, 37(11): 181-188.
[8]	曾谁飞,张笑燕,杜晓峰,陆天波. 改进的朴素贝叶斯增量算法研究[J]. 通信学报, 2016, 37(10): 81-91.
[9]	王汝言,翟美玲,吴大鹏. 带有同步预测的WBAN时序数据融合算法[J]. 通信学报, 2015, 36(6): 13-21.
[10]	武小年,彭小金,杨宇洋,方堃. 入侵检测中基于SVM的两级特征选择方法[J]. 通信学报, 2015, 36(4): 19-26.
[11]	刘敬，谷利泽，钮心忻，杨义先. 基于单分类支持向量机和主动学习的网络异常检测研究[J]. 通信学报, 2015, 36(11): 136-146.
[12]	刘国栋,许静. 基于SVM方法的神经网络呼吸音识别算法[J]. 通信学报, 2014, 35(10): 218-222.
[13]	刘国栋，许静. 基于SVM方法的神经网络呼吸音识别算法[J]. 通信学报, 2014, 35(10): 25-222.
[14]	冯兵1,2，李芝棠1,2,3，花广路1,2. 基于灰度—梯度共生矩阵的图像型垃圾邮件识别方法[J]. 通信学报, 2013, 34(Z2): 1-4.
[15]	冯兵,李芝棠,花广路. 基于灰度—梯度共生矩阵的图像型拉圾邮件识别方法[J]. 通信学报, 2013, 34(Z2): 1-3.

改进的朴素贝叶斯算法在垃圾邮件过滤中的研究

Study on an improved naive Bayes algorithm in spam filtering

在线阅读

PDF下载

可视化

被引次数

摘要/Abstract

引用本文

使用本文

图/表 10

参考文献 11

相关文章 15

Metrics

推荐阅读 0