Python爬虫数据抓取思路
2018-06-02 本文已影响19人
sexy_cyber
一：确定需求，比如需要哪些字段：
二：寻找能提供全部需求的数据源
1.如果能找到：
1.1分析数据加载的方式（动态or静态）
1,2根据数据加载方式，分析是否有反扒，还有反扒的强度（抓包和进行request）
1.3确定反扒强度：
1.3.1 if ok：
1.3.1.1确定数据类型数据格式，制定数据抽取规则，
1.3.1.2入库，successfully;
1.3.2 else:
回到二
2.如果找不到：
2.1.寻找数据源，多个数据源进行拼凑
2.2在各个数据源下执行 二.1
