Python入侵西电学生课程表！这就是爬虫的魅力!

2019-04-25 本文已影响2人 14e61d025165

就在上周周三晚上，发生了一件及其不愉快的事：只上了三节的“网络机器人爬虫技术”通识课老师居然让我们下节课交大作业！！！作业内容是：编写一个爬虫。 OMG，这让我这等渣渣如何完成呢？哎，只能现学现写了。

问题来了，爬点什么呢？不如就爬一下我们学校(西安电子科技大学)的课程表吧。

需要的库：Requests BeautifulSoup lxml

如何安装这些库？请自行百度解决，这边强烈推荐使用“Anaconda”，可以非常方便的安装和管理库。

首先我们要有个思路：先用Requests模拟登录西电一站式网上办事大厅，获取网站源码，然后用BeautifulSoup和lxml来解析网站源码得到我们想要的数据。

先来到一站式网上办事大厅登录页面，右击，查看网站源码，找到含有Form的标签

<tt-image data-tteditor-tag="tteditorTag" contenteditable="false" class="syl1556178041439 ql-align-center" data-render-status="finished" data-syl-blot="image" style="box-sizing: border-box; cursor: text; text-align: left; color: rgb(34, 34, 34); font-family: "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "WenQuanYi Micro Hei", "Helvetica Neue", Arial, sans-serif; font-size: 16px; font-style: normal; font-variant-ligatures: normal; font-variant-caps: normal; font-weight: 400; letter-spacing: normal; orphans: 2; text-indent: 0px; text-transform: none; white-space: pre-wrap; widows: 2; word-spacing: 0px; -webkit-text-stroke-width: 0px; background-color: rgb(255, 255, 255); text-decoration-style: initial; text-decoration-color: initial; display: block;">

image

我们要关注一下几个地方：Form标签的action属性，它决定了提交表单的地址；method标签，它决定了提交表单的方式；然后是input标签下的name属性，它决定表单的内容。

如上图所示的源码，它提交的地址就是本页，方式是POST方式，总共要提交6条数据，他们分别是：**username password lt execution _eventId rmShown **

（这边有一种快速知道Form表单内容的方法：F12，具体自己可以百度）

并且通过观察可知，**lt execution _eventId rmShown **这个4个数据的内容在网页中有，并且每一次登录都是变化的，那我们就要先抓取这4个数据，才能完成模拟登录。

分析完之后开始敲代码

可以添加QQ源码群1004391443，有飞机大战、颜值打分器、打砖块小游戏、红包提醒神器、小姐姐表白神器等具体的实训项目，有清晰源码，有相应的文件

首先引入我们需要的库

然后设置变量：登录链接和头信息

然后创建一个session的对象

获取登录页源码

用bs4解析获取到的源码

抓取前面提到的lt execution _eventId rmShown 这4个input标签的值，并且遍历到i字典中

定义用户名和密码的变量

将获取到的数据和我们的用户名，密码合并，并且以post的方式提交到登录页面

此时我们已经成功模拟登录

抓取课程

我们先手动来到显示课程的页面，查看源码

<tt-image data-tteditor-tag="tteditorTag" contenteditable="false" class="syl1556178041452 ql-align-center" data-render-status="finished" data-syl-blot="image" style="box-sizing: border-box; cursor: text; text-align: left; color: rgb(34, 34, 34); font-family: "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "WenQuanYi Micro Hei", "Helvetica Neue", Arial, sans-serif; font-size: 16px; font-style: normal; font-variant-ligatures: normal; font-variant-caps: normal; font-weight: 400; letter-spacing: normal; orphans: 2; text-indent: 0px; text-transform: none; white-space: pre-wrap; widows: 2; word-spacing: 0px; -webkit-text-stroke-width: 0px; background-color: rgb(255, 255, 255); text-decoration-style: initial; text-decoration-color: initial; display: block;">

image

发现这源码和我们平常看见的不一样，全是js

此时我们就应该明白：我们在后台看到的课程表是通过js来实时渲染出来的，此时就要按下F12，进行分析

通过分析可知：课表是浏览器向一个链接提交了年份和周次后，返回的json数据

<tt-image data-tteditor-tag="tteditorTag" contenteditable="false" class="syl1556178041456" data-render-status="finished" data-syl-blot="image" style="box-sizing: border-box; cursor: text; color: rgb(34, 34, 34); font-family: "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "WenQuanYi Micro Hei", "Helvetica Neue", Arial, sans-serif; font-size: 16px; font-style: normal; font-variant-ligatures: normal; font-variant-caps: normal; font-weight: 400; letter-spacing: normal; orphans: 2; text-align: left; text-indent: 0px; text-transform: none; white-space: pre-wrap; widows: 2; word-spacing: 0px; -webkit-text-stroke-width: 0px; background-color: rgb(255, 255, 255); text-decoration-style: initial; text-decoration-color: initial; display: block;">

image <input class="pgc-img-caption-ipt" placeholder="图片描述(最多50字)" value="" style="box-sizing: border-box; outline: 0px; color: rgb(102, 102, 102); position: absolute; left: 187.5px; transform: translateX(-50%); padding: 6px 7px; max-width: 100%; width: 375px; text-align: center; cursor: text; font-size: 12px; line-height: 1.5; background-color: rgb(255, 255, 255); background-image: none; border: 0px solid rgb(217, 217, 217); border-radius: 4px; transition: all 0.2s cubic-bezier(0.645, 0.045, 0.355, 1) 0s;"></tt-image> <tt-image data-tteditor-tag="tteditorTag" contenteditable="false" class="syl1556178041459" data-render-status="finished" data-syl-blot="image" style="box-sizing: border-box; cursor: text; color: rgb(34, 34, 34); font-family: "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "WenQuanYi Micro Hei", "Helvetica Neue", Arial, sans-serif; font-size: 16px; font-style: normal; font-variant-ligatures: normal; font-variant-caps: normal; font-weight: 400; letter-spacing: normal; orphans: 2; text-align: left; text-indent: 0px; text-transform: none; white-space: pre-wrap; widows: 2; word-spacing: 0px; -webkit-text-stroke-width: 0px; background-color: rgb(255, 255, 255); text-decoration-style: initial; text-decoration-color: initial; display: block;">

image

提交的数据分别为XNXQDM，SKZC，对应年份和周次

分析完后，开始写代码

先来到课程表页面

向指定链接提交年份和周次

解析json并且打印出来

最后运行一下，查看结果

<tt-image data-tteditor-tag="tteditorTag" contenteditable="false" class="syl1556178041464 ql-align-center" data-render-status="finished" data-syl-blot="image" style="box-sizing: border-box; cursor: text; text-align: left; color: rgb(34, 34, 34); font-family: "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei", "WenQuanYi Micro Hei", "Helvetica Neue", Arial, sans-serif; font-size: 16px; font-style: normal; font-variant-ligatures: normal; font-variant-caps: normal; font-weight: 400; letter-spacing: normal; orphans: 2; text-indent: 0px; text-transform: none; white-space: pre-wrap; widows: 2; word-spacing: 0px; -webkit-text-stroke-width: 0px; background-color: rgb(255, 255, 255); text-decoration-style: initial; text-decoration-color: initial; display: block;">

image

可以看到，成功的将我们的课表打印了出来。

全部代码：

<pre spellcheck="false" style="box-sizing: border-box; margin: 5px 0px; padding: 5px 10px; border: 0px; font-style: normal; font-variant-ligatures: normal; font-variant-caps: normal; font-variant-numeric: inherit; font-variant-east-asian: inherit; font-weight: 400; font-stretch: inherit; font-size: 16px; line-height: inherit; font-family: inherit; vertical-align: baseline; cursor: text; counter-reset: list-1 0 list-2 0 list-3 0 list-4 0 list-5 0 list-6 0 list-7 0 list-8 0 list-9 0; background-color: rgb(240, 240, 240); border-radius: 3px; white-space: pre-wrap; color: rgb(34, 34, 34); letter-spacing: normal; orphans: 2; text-align: left; text-indent: 0px; text-transform: none; widows: 2; word-spacing: 0px; -webkit-text-stroke-width: 0px; text-decoration-style: initial; text-decoration-color: initial;">import requestsfrom bs4 import BeautifulSoupimport lxml
loginurl="http://ids.xidian.edu.cn/authserver/login?"head={ "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64; rv:56.0) Gecko/20100101 Firefox/56.0", "Accept": "text/html,application/xhtml+xml,application/xml,application/json;q=0.9,/;q=0.8", "Accept-Language": "zh-CN,zh;q=0.8,en-US;q=0.5,en;q=0.3", "Accept-Encoding": "gzip, deflate"}re=requests.session()page = re.get('http://ids.xidian.edu.cn/authserver/login',params={'service': 'http://ehall.xidian.edu.cn:80//appShow'},headers=head).textsoup=BeautifulSoup(page,'lxml')data={i['name']:i['value'] for i in soup.find_all('input',{'type':'hidden'})} uesr={ "username":"用户名", "password":"密码" }re.post('http://ids.xidian.edu.cn/authserver/login',params={'service': 'http://ehall.xidian.edu.cn:80//appShow'},data=dict(data,uesr))re.get('http://ehall.xidian.edu.cn//appShow?appId=4768574631264620', headers={"Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,/;q=0.8",})#print(source.text)
data_json=re.post( 'http://ehall.xidian.edu.cn/jwapp/sys/wdkb/modules/xskcb/xskcb.do', headers={ 'Content-Type': 'application/x-www-form-urlencoded; charset=UTF-8', 'Accept': 'application/json, text/javascript, /; q=0.01' }, data={ 'XNXQDM': '2018-2019-2', 'SKZC':'周次' } ).json()for i in data_json['datas']['xskcb']['rows']: if i['JASDM']!=None : print(i['KCM']+i['JASDM'])
</pre>

好了，本次教程到这里就结束了，如果您有什么不懂，欢迎私信留言

Python入侵西电学生课程表！这就是爬虫的魅力!

猜你喜欢

热点阅读

Python入侵西电学生课程表 ！这就是爬虫的魅力!

猜你喜欢

热点阅读

Python入侵西电学生课程表！这就是爬虫的魅力!