通过Python爬取了B站两千万用户数据!险些出事!最好不要商用
1 前言
前两天闲来无事,花了四五天的时间从B站(bilibili.com)抓取了其 2000万 全部用户。
2 用户情况
B站是一个ACG动漫文化很浓厚的场所,与A站(AcFun)共同撑起了中国动漫的一片天。
所以用户嘛……
不说了,简单看看我随便截的图吧,用户签名字段。
进群:548377875 即可获取数十套PDF以及大量的教学教程!从零基础到项目实战!
2.1 基本情况
总数据数:20119918
抓取用户的顺序为其注册时间顺序:2009-06-24 14:06:54 至 2016-02-18 21:04:52
预估遗漏数据:不超过2%
抓取字段:用户id,昵称,性别,头像,等级,经验值,粉丝数,生日,地址,注册时间,签名,等级与经验值等。
2.2 性别
有效数据:14643019
保密:11621898
男:1674196
女:1346925
这个男女比例是有点出乎个人预料的,接近1:1。其实之前初步抓了2013年暑假之前的数据,男女比例当时还在3:1这样。
可见明确性别的群体还是比较少的,只占了总数据的 15% 左右。
更多的分析日后再做。
2.3 年龄
统计范围:1970-2010(1980年除外)
总数据:3800767
具体数据不放了,简单看一下统计结果吧。
主要用户分布在93-00年的用户(大概16-23周岁),其中97年(19岁)用户占了绝对的主导地位。
事实证明,B站小学生并不多,而是高中生、大学生比较多。
90后用户占主体,但是用户年龄段正在不断后移。毕竟,这是一个年(lao)轻(si)人(ji)的网站。
2.4 地区
分析范围:国内34个省市及地区
有效数据:863541
主要用户分布在:广东、江苏、北京、上海、浙江等地区。都是一些经济很发达的沿海地区。
2.5 注册时间
统计时间:2009-06-24 14:06:54 至 2016-02-18 21:04:52
总数据:20119823
由于16年才过去2个多月,所以少一点,不过可以预见其发展必将远超2015年。自2009年开站以来,每年用户几乎都是以指数级增长。
2.6 活跃度统计
等级范围:0 - 6
总数据:20119918
截止时间:2016-02-18
由于B站有经验等级规则,用户的活跃度可以依据等级判断。
等级为0,就是只注册未登陆过的用户。等级为1或2,为非活跃用户。等级为3以上,就是活跃用户。其中等级为5或6的,为投稿数特别特别多、视频特别火爆的用户,为B站的骨干用户(约5000人)。
关于留存率等数据,日后再统计分析。
2.7 粉丝统计
有效数据:2011918
范围:0 - 988323
截止时间:2016-02-18 21:04:52
额- -,我也是有40个粉丝的人!
以下是B站TOP20用户。很多人都非常的眼熟哈。
3 后记
以上,就是对B站2000万用户的初步统计。日后会有更加深入的分析。