TextRank提取关键词实现原理

TextRank是在Google的PageRank算法启发下,针对文本里的句子设计的权重算法,目标是自动摘要。它利用投票的原理,让每一个单词给它的邻居(术语称窗口)投赞成票,票的权重取决于自己的票数。这是一个“先有鸡还是先有蛋”的悖论,PageRank采用矩阵迭代收敛的方式解决了这个悖论。TextRank也不例外:

PageRank的计算公式:

创新扩散曲线

TextRank的计算公式:

正规的TextRank公式在PageRank的公式的基础上,引入了边的权值的概念,代表两个句子的相似度
创新扩散曲线

但是很明显我只想计算关键字,如果把一个单词视为一个句子的话,那么所有句子(单词)构成的边的权重都是0(没有交集,没有相似性),所以分子分母的权值w约掉了,算法退化为PageRank。所以说,这里称关键字提取算法为PageRank也不为过。

Java实现

先看看测试数据

1
2
3
4
程序员(英文Programmer)是从事程序开发、维护的专业人员。
一般将程序员分为程序设计人员和程序编码人员,但两者的
界限并不非常清楚,特别是在中国。软件从业人员分为初级
程序员、高级程序员、系统分析员和项目经理四大类。

我取出了百度百科关于“程序员”的定义作为测试用例,很明显,这段定义的关键字应当是“程序员”并且“程序员”的得分应当最高。

首先对这句话分词,这里可以借助各种分词项目,比如HanLP分词,得出分词结果:

1
2
3
4
5
6
7
8
[程序员/n, (, 英文/nz, programmer/en, ), 是/v, 从事/v, 程序/n, 
开发/v, 、/w, 维护/v, 的/uj, 专业/n, 人员/n, 。/w, 一般/a,
将/d, 程序员/n, 分为/v, 程序/n, 设计/vn, 人员/n, 和/c,
程序/n, 编码/n, 人员/n, ,/w, 但/c, 两者/r, 的/uj, 界限/n,
并/c, 不/d, 非常/d, 清楚/a, ,/w, 特别/d, 是/v, 在/p, 中国/ns, 。
/w, 软件/n, 从业/b, 人员/n, 分为/v, 初级/b, 程序员/n, 、
/w, 高级/a, 程序员/n, 、/w, 系统/n, 分析员/n, 和/c, 项目/n,
经理/n, 四/m, 大/a, 类/q, 。/w]

然后去掉里面的停用词,这里我去掉了标点符号、常用词、以及“名词、动词、形容词、副词之外的词”。得出实际有用的词语:

1
2
3
4
[程序员, 英文, 程序, 开发, 维护, 专业, 人员, 程序员, 
分为, 程序, 设计, 人员, 程序, 编码, 人员, 界限, 特别,
中国, 软件, 人员, 分为, 程序员, 高级, 程序员, 系统,
分析员, 项目, 经理]

下面是代码实现的关键:

之后建立两个大小为5的窗口,每个单词将票投给它身前身后距离5以内的单词(中括号的词排名不分先后,但原始分词顺序不可以打乱):
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
{开发=[专业, 程序员, 维护, 英文, 程序, 人员],

软件=[程序员, 分为, 界限, 高级, 中国, 特别, 人员],

程序员=[开发, 软件, 分析员, 维护, 系统, 项目, 经理, 分为, 英文, 程序, 专业, 设计, 高级, 人员, 中国],

分析员=[程序员, 系统, 项目, 经理, 高级],

维护=[专业, 开发, 程序员, 分为, 英文, 程序, 人员],

系统=[程序员, 分析员, 项目, 经理, 分为, 高级],

项目=[程序员, 分析员, 系统, 经理, 高级],

经理=[程序员, 分析员, 系统, 项目],

分为=[专业, 软件, 设计, 程序员, 维护, 系统, 高级, 程序, 中国, 特别, 人员],

英文=[专业, 开发, 程序员, 维护, 程序],

程序=[专业, 开发, 设计, 程序员, 编码, 维护, 界限, 分为, 英文, 特别, 人员],

特别=[软件, 编码, 分为, 界限, 程序, 中国, 人员],

专业=[开发, 程序员, 维护, 分为, 英文, 程序, 人员],

设计=[程序员, 编码, 分为, 程序, 人员],

编码=[设计, 界限, 程序, 中国, 特别, 人员],

界限=[软件, 编码, 程序, 中国, 特别, 人员],

高级=[程序员, 软件, 分析员, 系统, 项目, 分为, 人员],

中国=[程序员, 软件, 编码, 分为, 界限, 特别, 人员],

人员=[开发, 程序员, 软件, 维护, 分为, 程序, 特别, 专业, 设计, 编码, 界限, 高级, 中国]}

然后开始迭代投票,代码没什么难的,就是按照原论文算法过程简单的实现了一遍,这里简单给个注释,省得以后看起来麻烦:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
for (int i = 0; i < max_iter; ++i) //最外层条件是算法设定的最大迭代次数
{
Map<String, Float> m = new HashMap<String, Float>(); //<单词,分数>
float max_diff = 0; //算法终止收敛值
//一个entry代表一个窗口列表,例如: 设计=[程序员, 编码, 分为, 程序, 人员]
//按照这个entry来举例解释下面的代码
for (Map.Entry<String, Set<String>> entry : words.entrySet())
{
String key = entry.getKey(); //设计
Set<String> value = entry.getValue(); //[程序员, 编码, 分为, 程序, 人员]
m.put(key, 1 - d); //公式里面的(1-d)
for (String other : value) //对value列表中的单词进行遍历
{
int size = words.get(other).size(); //单词的度
if (key.equals(other) || size == 0) continue; //保证列表单词与待求单词不同
m.put(key, m.get(key) + d / size * (score.get(other) == null ? 0 : score.get(other)));
}
//每次计算分数后要计算误差与收敛值的差值
max_diff = Math.max(max_diff, Math.abs(m.get(key) - (score.get(key) == null ? 0 : score.get(key))));
}
score = m;
if (max_diff <= min_diff) break;
}

排序后的投票结果:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
[程序员=1.9249977,

人员=1.6290349,

分为=1.4027836,

程序=1.4025855,

高级=0.9747374,

软件=0.93525416,

中国=0.93414587,

特别=0.93352026,

维护=0.9321688,

专业=0.9321688,

系统=0.885048,

编码=0.82671607,

界限=0.82206935,

开发=0.82074183,

分析员=0.77101076,

项目=0.77101076,

英文=0.7098714,

设计=0.6992446,

经理=0.64640945]
-------------本文结束感谢您的阅读-------------