selenuim和phantonJs处理网页动态加载数据的爬取
一.图片懒加载
什么是图片懒加载？
图片懒加载是一种网页优化技术。图片作为一种网络资源，在被请求时也与普通静态资源一样，将占用网络资源，而一次性将整个页面的所有图片加载完，将大大增加页面的首屏加载时间。为了解决这种问题，通过前后端配合，使图片仅在浏览器当前视窗内出现时才加载该图片，达到减少首屏图片请求数的技术就被称为“图片懒加载”
网站一般如何实现图片懒加载技术呢？
在网页源码中，在img标签中首先会使用一个“伪属性”（通常使用src2，original......）去存放真正的图片链接而并非是直接存放在src属性中。当图片出现到页面的可视化区域中，会动态将伪属性替换成src属性，完成图片的加载。
import requests
from lxml import etree
if __name__ == "__main__":
url = 'http://sc.chinaz.com/tupian/gudianmeinvtupian.html'
headers = {
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
}
#获取页面文本数据
response = requests.get(url=url,headers=headers)
response.encoding = 'utf-8'
page_text = response.text
#解析页面数据（获取页面中的图片链接）
#创建etree对象
tree = etree.HTML(page_text)
div_list = tree.xpath('//div[@id="container"]/div')
#解析获取图片地址和图片的名称
for div in div_list:
image_url = div.xpath('.//img/@src'2) #src2伪属性
image_name = div.xpath('.//img/@alt')
print(image_url) #打印图片链接
print(image_name)#打印图片名称
二.selenium
什么是selenium？
是Python的一个第三方库，对外提供的接口可以操作浏览器，然后让浏览器完成自动化的操作。
环境搭建
安装selenum：pip install selenium
获取某一款浏览器的驱动程序（以谷歌浏览器为例）
谷歌浏览器驱动下载地址：http://chromedriver.storage.googleapis.com/index.html
下载的驱动程序必须和浏览器的版本统一，大家可以根据http://blog.csdn.net/huilan_same/article/details/51896672中提供的版本映射表进行对应
使用方法：
导包
-- from selenium import webdriver
创建浏览器对象，通过该对象可以操作浏览器
-- browser = webdriver.Chrome('驱动路径')
使用浏览器发起指定请求
-- browser.get(url)
使用下面的方法，查找指定的元素进行操作即可
find_element_by_id 根据id找节点
find_elements_by_name 根据name找
find_elements_by_xpath 根据xpath查找
find_elements_by_tag_name 根据标签名找
find_elements_by_class_name 根据class名字查找
from selenium import webdriver
from time import sleep
driver = webdriver.Chrome(
executable_path=r"C:\Users\Mr.Wang\Downloads\爬虫\chorme\chromedriver") # 加载驱动
driver.get("http://www.baidu.com") # 访问网址
driver.find_element_by_id("kw").send_keys("金庸") # 获取元素
sleep(2)
driver.find_element_by_id("su").click() # 点击事件
sleep(2)
driver.save_screenshot("1.png") # 截屏保存
driver.quit() # 关闭浏览器
三.phantomJs
PhantomJS是一款无界面的浏览器，其自动化操作流程和上述操作谷歌浏览器是一致的。由于是无界面的，为了能够展示自动化操作流程，PhantomJS为用户提供了一个截屏的功能，使用save_screenshot函数实现。
from selenium import webdriver
from time import sleep
driver = webdriver.PhantomJS(
executable_path=r"C:\Users\Mr.Wang\Downloads\爬虫\phantonjs\phantomjs-2.1.1-
windows\bin\phantomjs") # 加载驱动
driver.get("http://www.baidu.com") # 访问网址
driver.find_element_by_id("kw").send_keys("金庸") # 获取元素
sleep(2)
driver.find_element_by_id("su").click() # 点击事件
sleep(2)
driver.save_screenshot("1.png") # 截屏保存
driver.quit() # 关闭浏览器
重点：selenium+phantomjs 就是爬虫终极解决方案:有些网站上的内容信息是通过动态加载js形成的，所以使用普通爬虫程序无法回去动态加载的js内容。例如豆瓣电影中的电影信息是通过下拉操作动态加载更多的电影信息。
综合操作：需求是尽可能多的爬取豆瓣网中的电影信息
from selenium import webdriver
from time import sleep
import time
if __name__ == '__main__':
url = 'https://movie.douban.com/typerank?type_name=%E6%81%90%E6%80%96&type=20&interval_id=100:90&action='
# 发起请求前，可以让url表示的页面动态加载出更多的数据
path = r'C:\Users\Administrator\Desktop\爬虫授课\day05\ziliao\phantomjs-2.1.1-windows\bin\phantomjs.exe'
# 创建无界面的浏览器对象
bro = webdriver.PhantomJS(path)
# 发起url请求
bro.get(url)
time.sleep(3)
# 截图
bro.save_screenshot('1.png')
# 执行js代码（让滚动条向下偏移n个像素（作用：动态加载了更多的电影信息））
js = 'window.scrollTo(0,document.body.scrollHeight)'
bro.execute_script(js) # 该函数可以执行一组字符串形式的js代码
time.sleep(2)
bro.execute_script(js) # 该函数可以执行一组字符串形式的js代码
time.sleep(2)
bro.save_screenshot('2.png')
time.sleep(2)
# 使用爬虫程序爬去当前url中的内容
html_source = bro.page_source # 该属性可以获取当前浏览器的当前页的源码（html）
with open('./source.html', 'w', encoding='utf-8') as fp:
fp.write(html_source)
bro.quit()
