如何统计序列中元素的出现的频度

实际案例

• 某随机序列[12, 5, 6, 4, 6, 5, 5, 7, ...]中，找到出现次数最高的3个元素，它们出现次数是多少？
• 对某英文文章的单词，进行词频统计，找到出现次数最高的10个单词，它们出现次数是多少？

现在我们以序列为例，看下我们如何处理该问题。首先我们先创建一个序列，具体操作如下：

from random import randint

# 创建随机数序列
data = [randint(0, 5) for _ in xrange(20)]

我们思考一下，最终的统计结果必定是字典类型的。因此，我们可在上述的代码中进行如下操作：

# -*- coding: utf-8 -*-

from random import randint

# 创建随机数序列
data = [randint(0, 5) for _ in xrange(20)]
print data

# 创建字典，以data序列的值为字典的键，值初始化为0
c = dict.fromkeys(data, 0)
print c

# 遍历data序列
for x in data:
    c[x] += 1

print c

输出结果如下：

[5, 0, 1, 5, 2, 5, 0, 4, 1, 2, 4, 1, 4, 1, 0, 3, 4, 2, 0, 4]
{0: 0, 1: 0, 2: 0, 3: 0, 4: 0, 5: 0}
{0: 4, 1: 4, 2: 3, 3: 1, 4: 5, 5: 3}

这样，我们就统计出了序列中各个元素出现的次数。再回到实际案例中，案例1要求找到出现次数最高的3个元素。那我们就要根据字典的值，对字典的元素进行排序，具体操作如下：

# -*- coding: utf-8 -*-

from random import randint

# 创建随机数序列
data = [randint(0, 5) for _ in xrange(20)]
print data

# 创建字典，以data序列的值为字典的键，值初始化为0
c = dict.fromkeys(data, 0)
print c

# 遍历data序列
for x in data:
    c[x] += 1

print c

# 根据键值进行从大到小排序
c_list = sorted(c.items(), key=lambda i:i[1], reverse=True)

# 打印出现次数最多的3个元素
print c_list[:3]

其输出结果如下：

[5, 0, 1, 5, 2, 5, 0, 4, 1, 2, 4, 1, 4, 1, 0, 3, 4, 2, 0, 4]
{0: 0, 1: 0, 2: 0, 3: 0, 4: 0, 5: 0}
{0: 4, 1: 4, 2: 3, 3: 1, 4: 5, 5: 3}
[(4, 5), (0, 4), (1, 4)]

除上述方法外，我们还可以使用collections.Counter对象处理该问题。首先，将序列传入Counter的构造器，得到Counter的对象是元素频度的字典；然后，我们利用Counter.most_common(n)方法得到频度最高的n个元素的列表；最后，我们输出频度最高的3个元素。collections.Counter的相关操作可具体参考Python官方文档，此处的代码具体如下所示：

# -*- coding: utf-8 -*-

from random import randint
from collections import Counter

# 创建随机数序列
data = [randint(0, 5) for _ in xrange(20)]
print data

# 创建字典，以data序列的值为字典的键，值初始化为0
c = dict.fromkeys(data, 0)
print c

# 遍历data序列
for x in data:
    c[x] += 1

print c
# 统计元素的频率
counter = Counter(data)

# 打印出现次数最多的3个元素
print counter.most_common(3)

其输出结果如下：

[5, 0, 1, 5, 2, 5, 0, 4, 1, 2, 4, 1, 4, 1, 0, 3, 4, 2, 0, 4]
{0: 0, 1: 0, 2: 0, 3: 0, 4: 0, 5: 0}
{0: 4, 1: 4, 2: 3, 3: 1, 4: 5, 5: 3}
[(4, 5), (0, 4), (1, 4)]

好了，实际案例中的第一个案例我们已经圆满解决了。现在，让我们看看实际案例中的第二个案例。第二个案例是要求我们对英文单词进行词频统计，这里我们就要采用正则表达式了。我们运用正则表达式把英文单词一个一个地分割出来，然后再使用collections.Counter对象进行词频统计，最后，我们输出出现次数最高的10个单词，其代码如下：

# -*- coding: utf-8 -*-

import re

from collections import Counter

# 读入test.txt文件
text = open("test.txt").read()

# 运用正则表达式做切割
word_list = re.split("\W+", text)

# 统计英文单词的词频
counter = Counter(word_list)

# 打印出现次数最多的10个元素
print counter.most_common(10)

其中，输出结果如下：

[('in', 12), ('the', 11), ('as', 10), ('China', 9), ('by', 7), ('AI', 7), ('guideline', 6), ('and', 6), ('to', 5), ('intelligence', 5)]

代码中，test.txt文件的内容来自扇贝新闻。这样我们也圆满完成实际案例中的第二个案例。