Python爬虫（4）- Regular Expression正

2017-06-26 本文已影响125人 James_Qiu

什么是正则表达式？

Python爬虫在获得网页的content之后，要通过一系列解析和查找去提取你想要的信息，这个时候正则表达式就起到了很大的作用。

正则表达式是对字符串操作的一种逻辑公式，就是事先定义好的一些特定字符、及这些特定字符的组合，组成个“规则字符”，这个“规则字符” 来表达对字符的种过滤逻辑。

正则并不是python独有的，其他语言也都有正则。python中的正则，封装在了re模块。

常用的匹配模式

\w 匹配字母数字及下划线
\W 匹配f非字母数字下划线
\s 匹配任意空白字符，等价于[\t\n\r\f]
\S 匹配任意非空字符
\d 匹配任意数字
\D 匹配任意非数字
\A 匹配字符串开始
\Z 匹配字符串结束，如果存在换行，只匹配换行前的结束字符串
\z 匹配字符串结束
\G 匹配最后匹配完成的位置
\n 匹配一个换行符
\t 匹配一个制表符
^  匹配字符串的开头
\$ 匹配字符串的末尾
.  匹配任意字符，除了换行符，re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符
[....]  用来表示一组字符，单独列出：[amk]匹配a,m或k
[^...] 代表不在[]中的字符，[^abc]匹配除了a,b,c之外的字符
*匹配0个或多个的表达式
+匹配1个或者多个的表达式
?匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式
{n}     精确匹配n前面的表示
{m,m}   匹配n到m次由前面的正则表达式定义片段，贪婪模式
a|b     匹配a或者b
()      匹配括号内的表达式，也表示一个组

re.match()

尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，match（）就会返回None。语法格式：re.match(pattern,string,flags=0)

import re

content= "hello 123 4567 World_This is a regex Demo"
result = re.match('^hello\s\d\d\d\s\d{4}\s\w{10}.*Demo\$',content)
print(result)
print(result.group())
print(result.span())

result.group()获取匹配的结果
result.span()获去匹配字符串的长度范围

泛匹配

其实相对来说上面的方式并不是非常方便，其实可以将上述的正则规则进行更改：

import re

content= "hello 123 4567 World_This is a regex Demo"
result = re.match("^hello.*Demo$",content)
print(result)
print(result.group())
print(result.span())

这段代码的结果和上面常规匹配的结果是一样的，但是写起来会方便很多。

匹配目标

如果为了匹配字符串中具体的目标，则需要通过（）括起来，通过re.group()获得结果后，如果正则表达式中有括号，则re.group(1)获取的就是第一个括号中匹配的结果。例子如下：

import re
content= "hello 1234567 World_This is a regex Demo"
result = re.match('^hello\s(\d+)\sWorld.*Demo$',content)
print(result)
print(result.group())
print(result.group(1))
print(result.span())

贪婪匹配

import re

content= "hello 1234567 World_This is a regex Demo"
result= re.match('^hello.*(\d+).*Demo',content)
print(result)
print(result.group(1))

result.group(1)会返回7而不是1234567，这是因为默认是贪婪匹配，前面的.*会尽可能多的匹配字符。如果想得到1234567，则需要改为result= re.match('^he.*?(\d+).*Demo',content)，这样结果就可以匹配到1234567。

匹配模式

很多时候匹配的内容是存在换行的问题的，这个时候的就需要用到匹配模式re.S来匹配换行的内容。

import re

content = """hello 123456 world_this
my name is jamesqiu
"""
result =re.match('^he.*?(\d+).*?jamesqiu$',content,re.S)
print(result)
print(result.group())
print(result.group(1))

转义

当我们要匹配的内容中存在特殊字符的时候，就需要用到转移符号,例子如下：

import re

content= "price is $5.00"
result = re.match('price is \$5\.00',content)
print(result)
print(result.group())

小结

尽量使用泛匹配，使用括号得到匹配目标，尽量使用非贪婪模式，有换行符就用re.S
强调re.match是从字符串的起始位置匹配一个模式

re.search

re.search扫描整个字符串返回第一个成功匹配的结果：

import re

content = "extra things hello 123455 world_this is a Re Extra things"
result = re.search("hello.*?(\d+).*?Re",content)
print(result)
print(result.group())
print(result.group(1))

其实这个时候我们就不需要在写^以及$，因为search是扫描整个字符串。注意：所以为了匹配方便，我们会更多的用search，不用match，match必须匹配头部，所以很多时候不是特别方便。

re.findall()

搜索字符串，以列表的形式返回全部能匹配的子串。

re.sub()

re.sub(正则表达式，替换成的字符串，原字符串)

import re

content = "Extra things hello 123455 World_this is a regex Demo extra things"
content = re.sub('\d+','',content)
print(content)

结果会将数字替换为为空。

re.compile()

将正则表达式编译成正则表达式对象，方便复用该正则表达式。

import re
content= """hello 12345 world_this
fan
"""
pattern =re.compile("hello.*fan",re.S)
result = re.match(pattern,content)
print(result)
print(result.group())