商家评论的情感分类研究和应用

doi:10.3969/j.issn.1000-0801.2011.06.010

摘要/Abstract

摘要：

大多数基于有指导机器学习方法的情感分类采用N 元（n-gram）词袋（bag-of-words）模型，使用二值（binary）作为特征项的权重。本文系统地分析了信息检索中常用的特征权重计算方法，并从项频、倒文档率、归一化因子等角度加以借鉴和改进，研究其在商家评论上的应用。最主要的改进在于考虑了特征项在不同类别中分布情况的差异以及对倒文档率的平滑。在餐饮评论语料上的实验结果表明，经典的tf·idf若干变形，尤其是倒文档率类差异（delta idf）及平滑因子（smoothing factor）的引入，能有效提高分类准确率。在酒店、电脑、书籍等领域的在线评论公开数据集上也取得了较好的性能，证明了方法的普遍适用性。这一方法目前已经在中国电信“号码百事通”业务中用于餐饮商家及优惠券推荐，效果良好。

关键词: 商家评论, 消费偏好, 情感分析, 褒贬分类, 特征权重

Abstract:

Most supervised machine learning method based sentiment classifications apply binary n-gram weights.In this paper， we systematically explore whether more sophisticated feature weighting schemes adapted from information retrieval（IR）can enhance the accuracy of sentiment classification for business reviews.Considered points of view are term frequency（tf），delta inverse document frequency（idf），and smoothing factor.Using restaurant reviews from the number wizard service created by China Telecom as experimental data show that，variants of the classic tf·idf scheme，especially incorporating of delta idf and smoothing factors，provide significant increases in accuracy.Tests on multi-domain public data sets indicate the universality of our approach.The proposed method has been implemented as effective application of restaurant recommendation system on China Telecom Number Wizard micro-blog.

Key words: business review, consumer preference, sentiment analysis, polarity classification, feature weighting

袁立宇,鞠久朋,杨豪杰,宋平波. 商家评论的情感分类研究和应用[J]. 电信科学, 2011, 27(6): 43-48.

Liyu Yuan,Jiupeng Ju,Haojie Yang,Pingbo Song. Feature Weighting for Sentiment Classification of Online Chinese Reviews[J]. Telecommunications Science, 2011, 27(6): 43-48.

图/表 6

表1

项频tf的若干计算方法"

记法	项频
n（natural）	tf
l（logarithm）	1+log₂（tf）
a（augmented）	$0.5 + \frac{0.5 ·tf}{\max_{t} (tf)}$
b（boolean）	${\begin{cases} 1 ， tf ＞ 0 \\ 0 ， otherwise \end{cases}$
L（log avg）	$\frac{1 + \log_{2} (t f)}{1 + \log_{2} (a v g_d l)}$
o（BM25）	$\frac{(k_{2} + 1) ·tf}{k_{2} ((1 - b) + b · \frac{dl}{avg_d l}) + tf}$

表1

表2

倒文档率idf的若干计算方法"

记法	倒文档率
n（no）	1
t（idf）	$\log_{2} \frac{N}{d f}$
p（prob idf）	$\log_{2} \frac{N - d f}{d f}$
k（BM25 idf）	$\log_{2} \frac{N - d f + 0.5}{d f + 0.5}$
△（t）（Delta idf）	$\log_{2} \frac{N_{1} · d f_{2}}{N_{2} · d f_{1}}$
△（t’）（Delta smoothed idf）	$\log_{2} \frac{N_{1} · d f_{2} + 0.5}{N_{2} · d f_{1} + 0.5}$
△（p）（Delta prob idf）	$\log_{2} \frac{(N_{1} - d f_{2}) · d f_{2}}{d f_{1} · (N_{2} - d f_{2})}$
△（p’）（Delta smoothed prob idf）	$\log_{2} \frac{(N_{1} - d f_{1}) · d f_{2} + 0.5}{(N_{2} - d f_{2}) · d f_{1} + 0.5}$
△（k）（Delta BM25 idf）	$\log_{2} \frac{(N_{1} - d f_{1} + 0.5) · d f_{2} + 0.5}{(N_{2} - d f_{2} + 0.5) · d f_{1} + 0.5}$

表2

表3

归一化因子"

记法	归一化因子
n（none）	1
c（cosine）	$\frac{1}{\sqrt{w_{1}^{2} + w_{2}^{2} + \dots + w_{n}^{2}}}$

表3

表4

表5

图1

参考文献 12

1	Peter Turney . Thumbs up or thumbs down Semantic orientation applied to unsupervised classification of reviews.In： Proc of the 40th Annual Meeting of the Association for Computational Linguistics（ACL）， 2002
2	Pang Bo ， Lee Lilian ， Vaithyanathan S . Thumbs up Sentiment classification using machine learning techniques.In： Conferenee on Empirieal Methods in Natural Language Processing， Morristown，NJ，USA， 2002
3	Vasileios Hatzivassiloglou ， Janyce Wiebe . Effects of adjective orientation and gradability on sentence subjectivity.In： the International Conference on Computational Linguistics （COLING）， 2000
4	Li Shoushan ， Sophia Y M ， Ying Chen ， et al. Sentiment classification and polarity shifting.In： the International Conference on Computational Linguistics（COLING）， 2010
5	Salton G . The SMART retrieval system-experiments in automatic document.In： Processing of Prentice-Hall，Inc， Upper Saddle River，NJ，USA， 1971
6	Gerard Salton ， Chris Buckley . Term weightingapproaches in automatic text retrieval. Technical report， Ithaca，NY，USA， 1987
7	Justin Martineau ， Tim Finin . Delta TFIDF：an improved feature space for sentiment analysis.In： Proceedings of the Third AAAI International Conference on Weblogs and Social Media， San Jose，CA， 2009
8	Georgios Paltoglou ， Mike Thelwall . A study of information retrieval weighting schemes for sentiment analysis.In： Proc of the 48th Annual Meeting of the Association for Computational Linguistics， Uppsala，Sweden， 2010
9
10
11	薛立宏，张云华，曹敏 . 移动互联网运营关键问题及商业模式探讨. 电信科学， 2009，25（5）
12	罗志强，沈军 . 移动电子商务用户溯源认证技术研究与应用. 电信科学， 2009，25（6）

数据集	包含文档数	总计项数	不同的项数	文档平均项数
餐饮	10 000	1 454 658	21 276	145
酒店	4 000	360 827	17 474	90
电脑	4 000	156 136	8 651	39
书籍	4 000	335 850	20 340	84

权重计算方法	餐饮	酒店	电脑	书籍
bnc	88.49	77.80	87.22	91.85
nnn	82.69	86.70	87.52	87.63
onc	78.50	78.77	85.08	91.48
anc	84.92	85.17	87.35	91.18
btc	69.74	77.05	84.98	90.92
okc	74.17	72.07	73.97	90.30
n△（t）c	92.78	90.55	93.30	96.43
n△（t’）n	93.99	89.95	91.85	92.38
a△（p）c	90.27	89.48	90.08	92.92
a△（p’）n	93.67	89.88	91.85	91.32
o△（k）n	82.37	79.33	92.72	96.45
b△（t’）n	91.40	87.78	91.13	95.53
a△（t’）n	93.35	90.22	91.85	92.55

[1]	琚春华,黄治移,鲍福光. 融入音乐子人格特质和社交网络行为分析的音乐推荐方法[J]. 电信科学, 2015, 31(10): 115-123.
[2]	赵玉平,吕廷杰. 对电信产品捆绑套餐基本特性的分析[J]. 电信科学, 2007, 23(6): 83-85.