技术类文章收集大杂烩我在爬虫小分队的见闻正则

一名优秀的程序员如何通过正则表达式来提升自己的工作能力,从而加薪

2017-07-20  本文已影响1791人  想象美

在博客上看到一篇正则表达式的,感觉对于刚接触python的小伙伴挺有收益的,但是请喷子绕道。不是每篇文章都能获得大家的赞同赞赏。你要看我很欢迎,不看我也不奢求,所以请各位喷子绕道,谢谢,相当于喷子我更喜欢伸手党。好了bb了这么多。在分享之前,我给大家推荐我的一个java高级开发群:283904828 群里有资料免费领群,也有大牛热心解答。也经常提供一些比较好的文章,给大家找好方向,欢迎初学者和进阶者还有大牛者进群,加入这个大家庭!

好了,接下来就是给大家分享了,

实际上爬虫一共就四个主要步骤:

1.明确目标:需清楚目标网站

2.爬:将所有的目标网站的内容全部爬下来

3.取:在爬下来的网站内容中去掉对我们没有用处的数据,只留取我们需要的数据

4.处理数据:按照我们想要的方式存储和使用留取的数据

我们在前面的案例里实际上都省略了第3步,也就是“取”的步骤。因为我们down下了的数据是全部的网页,这些数据很庞大并且很混乱,其中大部分的东西是我们不关心的,因此我们需要将之按我们的需要过滤和匹配出来。那么对于文本的过滤和者规则的匹配,最强大的就是正则表达式了。那么什么是正则表达式:



.  正则表达式,又称规则表达式,通常被用来检索、替换那些符合某个规则的文本。

.  正则表达式是对字符串操作的一种逻辑公式,就是用事先定义好的一些特定字符及这些特定字符的组合,组成一个“规则字符串”,这个“规则字符串”用来表达对字符串的一种过滤逻辑。

给定一个正则表达式和另一个字符串,我们可以达到如下的目的:

给定的字符串是否符合正则表达式的过滤逻辑(“匹配”)

通过正则表达式,从文本字符串中获取我们想要的特定部分(“过滤”)

正则表达式规则

Python的re模块

在Python中,我们可以使用内置的re模块来使用正则表达式。

有一点需要特别注意的是,正则表达式使用对特殊字符进行黑底,所以如果我们要使用原始字符串,只需要加一个r前缀:r'i love\t\.\tpython'

re模块的一般使用步骤如下:

     1.使用compile()函数将正则表达式的字符串形式编译为一个Pattern对象

     2.通过Pattern对象提供的一系列方法对文本进行匹配查找,获得匹配结果,一个Match对象。

     3.最后使用Match对象提供的属性和方法获得信息,根据需要进行其他操作。

compile函数

compile函数用于编译正则表达式,生成一个Pattern对象,它的一般使用形式如下:

在上面,我们已将一个正则表达式编译成Pattern对象,接下来,我们就可以利用pattern的一系列方法对文本匹配查找了。

Pattern对象的一些常用方法主要有:

match()方法:从起始位置开始查找,一次匹配

search()方法:从任何位置开始查找,一次匹配

findall()方法:全部匹配,返回列表

finditer()方法:全部匹配,返回迭代器

split()方法:分割字符串,返回列表

sub()方法:替换

match()方法

match()方法用于查找字符串的头部(也可以指定起始位置),它是一次匹配,只要找到了一个匹配的结果就返回,而不是查找所有匹配的结果。它的一般使用形式如下:

match(string[, pos[, endpos]])

其中,string是待匹配的字符串,pos和endpos是可选参数,指定字符串的起始和终点位置,默认值分别是0和len(string)。因此,当你不指定pos和endpos时,match()方法默认匹配字符串的头部。

当匹配成功时,返回一个Match对象,如果没有匹配上,则返回None。

在上面,当匹配成功时返回一个Match对象,其中:

group([group1,...])方法用于获得一个或多个分组匹配的字符串,当要获得整个匹配的子串时,可直接使用group()或group(0)

start([group])方法用于获取分组匹配的子串在整个字符串中的起始位置(子串第一个字符的索引),参数默认值为0

end([group])方法用于获取分组匹配的子串在整个字符串中的结束位置(子串最后一个字符的索引 + 1),参数默认值为0

span([group])方法返回(start(group), end(group))

再看一个例子:

search()方法

search()方法用于查找字符串的任何位置,它也是一次匹配,只要找到了一个匹配的结果就返回,而不是查找所有匹配的结果,它的一般使用形式如下:

search(string[, pos[, endpos]])

其中,string是待匹配的字符串,pos和endpos是可选参数,指定字符串的起始和终点位置,默认值分别是0和len(string)。

当匹配成功时,返回一个Match对象,如果没有匹配上,则返回None。

如下例子:

再看一个例子:

执行结果:

findall()方法

上面的match()和search()方法都是一次匹配,只要找到了一个匹配的结果就返回。然而,在大多数时候,我们需要搜索整个字符串,获得所有匹配的结果。

findall()方法的使用形式如下:

findall(string[, pos[, endpos]])

其中,string是待匹配的字符串,pos和endpos是可选参数,指定字符串的起始和终点位置,默认值分别是0和len(string)。

findall()以列表形式返回全部能匹配的子串,如果没有匹配成功,则返回一个空列表。

如下:

再看一个例子:

finditer()方法

finditer()方法的行为跟findall()的行为类似,也是搜索整个字符串,获得所有匹配的结果。但它返回一个顺序访问每一个匹配结果(Match对象)的迭代器。

如下:

执行结果:

split()方法

spilt()方法按照能够匹配的子串将字符串分割后返回列表,它的使用形式如下:

split(string[, maxsplit])

其中,maxsplit用于指定最大分割次数,不指定将全部分割。

如下:

sub()方法

sub()方法用于替换。它的使用形式如下:

sub(repl, string[, count])

其中,repl可以是字符串也可以是一个函数:

如果repl是字符串,则会使用repl去替换字符串每一个匹配的子串,并返回替换后的字符串,另外,repl还可以使用id的形式来引用分组,但不能使用编号0

如果repl是函数,这个方法应当只接受一个参数(Match对象),并返回一个字符串用于替换(返回的字符串中不能再引用分组)

count用于指定最多替换次数,默认全部替换

如下:

执行结果:

匹配中文

在某些情况下,我们想匹配文本中的汉字,中文的unicode编码范围主要在[u4e00-u9fa5],这里说主要是因为这个范围并不完整,比如没有包括全角(中文)标点,不过,在大部分情况下,应该是够用的。

例如:要想把字符串s = "您好,世界。hello world!"中的中文提取出来,可以这么做

输出结果

1. 世界你好

一件平凡的事,当你做了一万遍,就会变得伟大!!!

上一篇下一篇

猜你喜欢

热点阅读