Py学习  »  Python

盘一盘 Python 系列特别篇 - 正则表达式

王的机器 • 4 年前 • 335 次点击  




本文含 10026 27 图表截屏
建议阅读 42 分钟

在公众号对话框回复 RE 
获取完整 Jupyter Notebook



0
引言


本文是 Python 系列的特别篇的第八篇



正则表达式(Regular Expression, RE)就是一组定义某种搜索模式(pattern)的字符。


最简单的 RE 例子如下。

'steven'

很明显,这样一个 RE 只能搜索出含 steven 的字符串。


你可以用 Python 代码来验证,但现在假设我们还不会写,我们可以去 https://regex101.com/ 来验证。如下图右上角所示,匹配成功。



这样来搜索未免太傻了,有没有稍微智能一点的方法。再看下面的 RE。

^s....n$


上面的 RE 定义的模式如下:任何 6 个字符的单词,以 s 开头 (^s 的效果),以 n 收尾 (n$ 的效果)。之所以是 6 个字符,是因为有 4 个点 (.) 加上 s 和 n 字符。用上面那个网站做验证,这个 RE ^s....n$ 的若干匹配结果如下:


  • seven:不匹配(五个字母)

  • strong man:不匹配(十个字母加空格)

  • soften:匹配

  • steven:匹配

  • Steven:不匹配


看最后两个 steven 和 Steven,区别是第一个字母的大小写,如果我想匹配两者怎么办呢?用下面的 RE

^[s|S]....n$


中括号 [] 表示一个集合,而 | 分隔集合里面的元素,在本例是 s 和 S。意思就是匹配开头的 s 或 S,结尾是 n 的 6 字符的单词。 



这样每次固定单词长度也不太智能吧(比如长度为 n 就需要手动输入 n 个点 .),开头 s 结尾 n 的单词好多呢,我如果都想搜索出来该怎么办呢?看下面的 RE

^s[a-z]+n$


现在 sun 和 strengthen 都可以匹配出来了。起作用的是 [a-z]+,[a-z] 表示小写的字母 a 到 z 的集合,而 + 代表大于一次,联合在一起的意思就是该单词“以 s 开头,以 n 结尾,中间有大于一个的任何小写字母”。



但上述模式对单词 self-restrain 不起作用,因为有个短连接线(hyphen)。



没关系,我们把 - 加入字母集合里,写成 [a-z-]+,注意第一个 - 表示从 a 到 z,第二个 - 表示短连接线。现在可以匹配 self-restrain 了。




目前对 RE 有点感觉了吧,即便不会确切的表示也没关系,因为这就是本帖要介绍的。还是那句话,兴趣最重要,有兴趣才能有效的往下看。


本帖结构如下:


  1. 原始字符串

  2. 五类元字符

  3. 七个函数

  4. 三个实例


注:本帖里的 RE 可视化可参考链接 https://www.debuggex.com/





1
原始字符串


原始字符串(raw string)是所有的字符串都是直接按照字面的意思来使用,没有转义特殊或不能打印的字符,通常简称为 r-string。


如果没有转义字符,原始字符串和普通字符串是一样的,比如

print('hello')print(r'hello')
hello
hello


如果有转义字符(用反斜线 \),原始字符串和普通字符串是不一样的,比如

print('\blake')print(r'\blake')
lake
\blake


因此,不管什么时候用原始字符串准没错。





2
元字符


元字符(meta character)就是一种自带特殊含义的字符,也叫特殊字符。比如 [] * + ? {} | () . ^ $ \,原字符按用途可分五类:


  • 表示集合:[]

  • 表示次数:* + ? {}

  • 表示并列:|

  • 用于提取:()

  • 用于转义:. ^ $ \


首先定义一个函数,当在句子(是个字符串 str)没有发现模式 pat 时,返回“没有找到”,反之打印出所有符合模式的子字符串。

import re
def look_for(pat, str): return '没有找到' if re.search(pat, str) is None else re.findall(pat, str)


上面代码中的 re 是 Python 中正则表达式的库,而 searchfindall 是包里的两个函数,顾名思义它们做的就是搜索找出全部的意思,第三节会详解讲。



2.1

集合字符



中括号(square bracket)- []

中括号表示一个字符集,即创建的模式匹配中括号里指定字符集中的任意一个字符,字符集有三种方式来表现:


  • 明确字符[abc] 会匹配字符 a,b 或者 c

  • 范围字符[a-z] 会匹配字符 a 到 z

  • 补集字符[^6] 会匹配除了 6 以外的字符


下面我们来一一细看。



明确字符


匹配中括号里面的任意一个字符。

pat = r'[abc]'
print( look_for(pat, 'a') )print( look_for(pat, 'ac') )print( look_for(pat, 'cba') )print( look_for(pat, 'steven') )
['a']
['a', 'c']
['c', 'b', 'a']
没有找到


分析如下:


该模式只匹配字符 a,b 或者 c,因此前三个例子的字符串里都有相应字符匹配,而最后例子里的 steven 不包含 a, b 或 c。


模式 [abc]  的可视图如下,注意 “One of” 是说集合里面的字符是“或”的关系。






范围字符


[ ] 中加入 - 即可设定范围,比如


  • [a-e] = [abcde]

  • [1-4] = [1234]

  • [a-ep] = [abcdep]

  • [0-38] = [01238]


看两个例子。

print( look_for(r'[a-ep]', 'person') )print( look_for(r'[0-38]', '666') )
['p', 'e']
没有找到


分析如下:


  • 例一的模式等价于 [abcdep],匹配单词 person 里面的 p 和 e 字符。

  • 例二的模式等价于 [01238],不匹配单词 666 里面的任何字符。


模式 [a-ep] 和 [0-38] 的可视图如下。





补集字符


在 [ ] 中加入 ^ 即可除去后面的字符集,比如


  • [^abc] 就是非 a, b, c 的字符

  • [^123] 就是非 1, 2, 3 的字符


看四个例子。

print( look_for(r'[^abc]', 'baba') )print( look_for(r'[^abc]', 'steven') )print( look_for(r'[^123]', '456') )print( look_for(r'[^123]', '1+2=3') )
没有找到
['s', 't', 'e' , 'v', 'e', 'n']
['4', '5', '6']
['+', '=']


分析如下:


  • 例一 baba 里面所有字母不是 a 就是 b,因此没有匹配

  • 例二 steven 所有字母都不是 a, b 和 c,因此全部匹配

  • 例三 456 所有字母不是 1,2 和 3,因此全部匹配

  • 例四 1+2=3 有 +号=号不是 1, 2 和 3,因此它俩匹配


模式 [^abc] 和 [^123] 的可视图如下。注意 “None of” 是说集合里面的字符是的补集。




2.2

次数字符



上面的模式有个致命短板,就是只能匹配一个字符!这在实际应用几乎没用,因此我们需要某些带有“次数功能”的元字符,如下:


  • 贪婪模式:


    • * 表示后面可跟 0 个或多个字符

    • + 表示后面可跟 1 个或多个字符

    • ? 表示后面可跟 0 个或 1 个字符


  • 非贪婪模式:


    • *? 表示后面可跟 0 个或多个字符,但只取第一个

    • +? 表示后面可跟 1 个或多个字符,但只取第一个

    • ?? 表示后面可跟 0 个或 1 个字符,但只取第一个


贪婪模式和非贪婪模式的区别在下面讲 ? 的时候会介绍。


星号(asterisk)- *

首先定义“字符 u 可以出现 0 次或多次”的模式,结果不需要解释。

pat = r'colou*r'
print( look_for(pat, 'color') )print( look_for(pat, 'colour') )print( look_for(pat, 'colouuuuuur') )
['color']
['colour']
['colouuuuuur']


模式 colou*r 的可视图如下。


注意 u 附近有三条通路


  1. 上路跳过 u,代表零个 u

  2. 中路穿越 u,代表一个 u

  3. 下路循环 u,代表多个 u


加号(plus sign)- +

首先定义“字符 u 可以出现 1 次或多次”的模式,结果不需要解释。

pat = r'colou+r'
print( look_for(pat, 'color') )print( look_for(pat, 'colour') )print( look_for(pat, 'colouuuuuur') )
没有找到
['colour']
['colouuuuuur']


模式 colou+r 的可视图如下。



注意 u 附近有两条通路


  1. 中路穿越 u,代表一个 u

  2. 下路循环 u,代表多个 u


问号(question mark)- ?

首先定义“字符 u 可以出现 0 次或 1 次”的模式,结果不需要解释。

pat = r'colou?r'
print( look_for(pat, 'color') )print( look_for(pat, 'colour') )print( look_for(pat, 'colouuuuuur') )
['color']
['colour']
没有找到


模式 colou+r 的可视图如下。



注意 u 附近有两条通路


  1. 上路跳过 u,代表零个 u

  2. 中路 穿越 u,代表一个 u




有的时候一个句子里会有重复的字符,假如是 > 字符,如果我们要匹配这个>,到底在哪一个 > 就停止了呢?


这个就是贪心(greedy)模式和非贪心(non-greedy)模式的区别,让我们来看个例子。

heading  = r'

TITLE

'


如果模式是 <.>,那么我们要获取的就是以 < 开头,以 > 结尾,中间有 1 个或多个字符的字符串。这里我们先提前介绍 . 字符,它是一个通配符,可以代表任何除新行 (\n) 的字符。

pat = r'<.>'print( look_for(pat, heading) )
['<h1>TITLEh1>']


结果如上,获取的字符串确实以 < 开头,以 > 结尾,但是仔细看下,其实在  heading[3] 出也是 >,为什么没有匹配到它而是匹配到最后一个 > 呢?


原因就是上面用了贪婪模式,即在整个表达式匹配成功的前提下,尽可能多的匹配。那么其对立的非贪婪模式,就是在整个表达式匹配成功的前提下,尽可能少的匹配。


实现非贪婪模式只需在最后加一个 ? 字符,代码如下:

pat =  r'<.>'print( look_for(pat, heading) )
['

', '

']


结果无需解释。


有意思的是,模式 <.+> 和 <.+?> 的可视化图长得一样,如下。这样我们就无法从图上分辨是否使用贪婪或非贪婪的模式了,只能从代码中识别了。



大括号(curly bracket)- {}

有的时候我们非常明确要匹配的字符出现几次,比如


  • 中国的手机号位数是 13 位,n = 13

  • 密码需要 8 位以上,n ≥ 8

  • 公众号文章标题长度不能超过 64,n ≤ 64

  • 用户名需要在 8 到 16 位之间,8 ≤ n ≤ 16


这时我们可以设定具体的上界或(和)下界,使得代码更加有效也更好读懂,规则如下:


  • {n} 左边的字符串是否出现 n 次

  • {n, } 左边的字符串是否出现大于等于 n 次

  • {, n} 左边的字符串是否出现小于等于 n 次

  • {n, m} 左边的字符串是否出现在 n 次和 m 次之间


用规则来看例子,很容易看懂。

s = 'a11bbb2222ccccc'
print( look_for(r'[a-z]{1}', s) )print( look_for(r'[0-9]{2,}', s) )print( look_for(r'[a-z]{,5}', s) )print( look_for(r'[0-9]{2,4}', s) )
['a', 'b', 'b', 'b', 'c', 'c', 'c', 'c', 'c']
['11', '2222']
['a', '', '', 'bbb', '', '', '', '', 'ccccc', '']
['11', '2222']


需要解释的是例三,匹配五个以下的 a 到 z 小写字母,当然也包括零个,因此结果包含那些空字符。


模式 {n}, { ,n}, {n, }{n, m} 的可视图如下:



上面都是贪婪模式,当然也有其对应的非贪婪模式,但只有 {n, m}? 有意义,原因自己想。上面的模式对于前一个字符重复 m 到 n 次,并且取尽可能少的情况。比如在字符串'sssss'中,s{2,4} 会匹配 4 个 s,但 s{2,4}? 只匹配 2 个 s。



2.3

并列字符



字符集合问题解决了,字符次数问题解决了,如果现在面临的问题着是匹配 A 或 B 其中一个呢?用垂线 | 字符,A|B,如果 A 匹配了,则不再查找 B,反之亦然。


垂线(vertical line)- |

首先定义“句子出现 like 或 love 一词”的模式。

pat = r'like|love'
print( look_for(pat, 'like you') )print( look_for(pat, 'love you') )
['like']
['love']


模式 like|love 的可视图如下,其并列模式体现在黑点到白点的并行通路上。




2.4

提取字符



如果你想把匹配的内容提取出来,用小括号,而在小括号里面你可以设计任意正则表达式。


小括号(square bracket)- ()

首先定义“beat 的第三人称,过去式,过去分词和现在进行式”的模式,为了获取 beat 加正确后缀的所有单词。

pat = r'beat(s|ed|en|ing)'
print( look_for(pat, 'beats') )print( look_for(pat, 'beated') )print( look_for(pat, 'beaten') )print( look_for(pat, 'beating') )
['s']
['ed']
['en']
['ing']


我们将出现在 () 里面的后缀都获取出来了,其可视图如下,我们发现“Group 1”代表 () 起的作用。 



但其实这不是我们想要的,我们想把带着后缀的 beat 给获取出来。那么只有在最外面再加一层 (),模式如下。

pat = r'(beat(s|ed|en|ing))'
print( look_for(pat, 'beats') )print( look_for(pat, 'beated') )print( look_for(pat, 'beaten') )print( look_for(pat, 'beating') )
[('beats', 's')]
[('beated', 'ed')]
[('beaten', 'en')]
[('beating', 'ing')]


其可视图如下,我们发现 Group 2 嵌套在 Group 1 里面。



现在带着后缀的 beat 已经获取出来了,上面列表中每个元组的第一个元素,但完美主义者不想要后缀(即元组的第二个元素),可以用下面的骚模式。


在 () 中最前面加入 ?:(?:) 代表只匹配不获取(non-capturing),结果看上去非常自然。

pat = r'(beat(?:s|ed|en|ing))'
print( look_for(pat, 'beats') )print( look_for(pat, 'beated') )print( look_for(pat, 'beaten') )print( look_for(pat, 'beating') )
['beats']
['beated']
['beaten']
['beating']



其可视图如下,我们发现只有一个 Group 1,那个内括号,代表不被获取的内容,没有体现在下图中。




2.5

转义字符



字符集合问题解决了,字符次数问题解决了,字符并列问题解决了,字符获取 问题解决了,看上去我们能做很多事了。别急,RE 给你最后一击,转义字符,让模式更加强大。


转义字符,顾名思义,就是能转换自身含义的字符。


点 . 不再是点,美元 $ 不再是美元,等等等等。。。


点(dot)- .

. 表示除新行(newline)的任意字符,它是个通配符。用它最无脑简便,但是代码也最难读懂,效率也最低下。


定义“含有 1 个或多个非新行字符”的模式。

pat = r'.+'
print( look_for(pat, 'a') )print( look_for(pat, 'b1') )print( look_for(pat, 'C@9') )print( look_for(pat, '$ 9_fZ') )print( look_for(pat, '9z_\t\r\n') )
['a']
['b1']
['C@9']
['$ 9_fZ']
['9z_\t\r']


除了最后例子中的 \n 没有匹配到,其他的字符全部匹配出来。


托字符(carat)- ^

托字符 ^ 表示字符串开头。


定义“以 s 开头字符串”的模式。

pat = r'^s[\w]*'
print( look_for(pat, 'son') )print( look_for(pat, 'shot') )print( look_for(pat, 'come') )
['son']
['shot']
没有找到


结果太明显,不解释。


美元符(dollar sign)- $

美元符 $ 表示字符串结尾。


定义“以 s 结尾字符串”的模式。

pat = r'[\w]*s$'
print( look_for(pat, 'yes') )print( look_for(pat, 'mess') )print( look_for(pat, 'come') )
['yes']
['mess']
没有找到


结果太明显,不解释。


反斜杠(backslash)- \

更厉害的是,反斜杠 \ 可对特殊字符进行转义,也可对普通字符转义。


  • 将特殊字符转成自身含义:用 \ 作用在 ^ . \ 等身上,代表乘方 \^、小数点 \. 和除号 \\

  • 将自身字符转成特殊含义:用 \ 作用在 w d n 等身上,代表字母 \w、数字 \d 和新行 \n



特殊 --> 自身


在反斜杠的限制下,$ 终于代表美元了!

pat = r'\$[0-9.]+'
print( look_for(pat, 'it costs $99.99') )
['$99.99']



在反斜杠的限制下, ^ . \  终于代表乘方、小数点和除号了!

pat = r'(\\|\/|\^|\.)'
print( look_for(pat, '(5/2)^2=6.25') )
['/', '^', '.']


没有了反斜杠的限制,一切乱了套,点 . 就是通配符,可以匹配字符串里所有字符。

pat = r'(\|/|^|.)'
print( look_for(pat, '(5/2)^2=6.25') )
['', '(', '5', '/', '2', ')', '^', '2', '=', '6


    
', '.', '2', '5']


但如果在中括号 [] 集合里,每个字符就是它本身的意义,点就是点,而不是通配符。

pat = r'[/^\.]'
print( look_for(pat, '(5/2)^2=6.25') )
['/', '^', '.']




自身 --> 特殊


规则总结如下(大写和小写互补,两者加一起是全集):


  • \b:匹配空字符串,但仅适用于单词的“首尾”

  • \B:匹配空字符串,但仅适用于单词的“非首尾”

  • \d:匹配任何“数字”字符,等价于 [0-9]

  • \D:匹配任何“非数字”字符,等价于 [^0-9]

  • \s:匹配任何“空白”字符,等价于 [\t\n\r]

  • \S:匹配任何“非空白”字符,等价于 [^\t\n\r]

  • \w:匹配任何“字母数字下划线”字符,等价于 [a-zA-Z0-9_]

  • \W:匹配任何“非字母数字下划线”字符,等价于 [^a-zA-Z0-9_]

  • \A:匹配句子的“开头”字符,等价于 ^

  • \Z:匹配句子的“结尾”字符,等价于 $

  • \t:匹配句子的“制表键 (tab)”字符

  • \r:匹配句子的“回车键 (return)”字符

  • \n:匹配句子的“换行键 (newline)”字符


\b \B

pat = r'\blearn\b'


    

print( look_for(pat, 'learn Python') )print( look_for(pat, 'relearn Python') )print( look_for(pat, 'learning Python') )print( look_for(pat, 'relearning Python') )
['learn']
没有找到
没有找到
没有找到


\b 只能抓住 learn 前后的首尾空字符,那么只能匹配不带前缀和后缀的 learn,  即 learn 本身。



pat = r'\Blearn\B'
print( look_for(pat, 'learn Python') )print( look_for(pat, 'relearn Python') )print( look_for(pat, 'learning Python') )print( look_for(pat, 'relearning Python') )
没有找到
没有找到
没有找到
['learn']


\B 只能抓住 learn 前后的非首尾空字符,那么只能匹配带前缀和后缀的 learn,即 relearning。



pat = r'\blearn\B'
print( look_for(pat, 'learn Python') )print( look_for(pat, 'relearn Python') )print( look_for(pat, 'learning Python') )print( look_for(pat, 'relearning Python') )
没有找到
没有找到
['learn']
没有找到


learn 前 \b\B,只能匹配带后缀的 learn,即 learning。


pat = r'\Blearn\b'
print( look_for(pat, 'learn Python') )print( look_for(pat, 'relearn Python') )print( look_for(pat, 'learning Python') )print( look_for(pat, 'relearning Python') )
没有找到
['learn']
没有找到
没有找到


learn 前 \B 后 \b,只能匹配带前缀的 learn,即 relearn。



\d \D

pat = r'\d+'
print( look_for(pat, '12+ab34-cd56*ef78/gh90%ij') )
['12', '34', '56', '78', '90']

匹配数字,不解释。


pat = r'\D+'
print( look_for(pat, '12+ab34-cd56*ef78/gh90%ij') )
['+ab', '-cd', '*ef', '/gh', '%ij']


    

匹配非数字,不解释。



\s \S

pat = r'\s+'s = '''please  don'tleave  me    alone'''print( look_for(pat, s) )
[' ', '\n', ' ', '\n ']

匹配各种空格比如制表、回车或新行,不解释。


pat = r'\S+'print( look_for(pat, s) )
['please', "don't", 'leave', 'me', 'alone']

匹配各种非空格,不解释。



\w \W

pat = r'\w+'
print( look_for(pat, '12+ab_34-cd56_ef78') )
['12', 'ab_34', 'cd56_ef78']

匹配字母数字下划线,不解释。


pat = r'\W+'
print( look_for(pat, '12+ab_34-cd56_ef78') )
['+', '-']

匹配非字母数字下划线,不解释。



\A \Z

pat1 = r'^y[\w]*'pat2 = r'\Ay[\w]*'str1 = 'you rock'str2 = 'rock you'
print( look_for(pat1, str1) )print( look_for(pat2, str1) )
print( look_for(pat1, str2) )print( look_for(pat2, str2) )
['you']
['you']
没有找到
没有找到

匹配开头字符,\A^ 等价,不解释。



pat1 = r'[\w]*k$'pat2 = r'[\w]*k\Z'str1 = 'you rock'str2 = 'rock you'
print( look_for(pat1, str1) )print( look_for(pat2, str1) )
print( look_for(pat1, str2) )print( look_for(pat2, str2) )
['rock']
['rock']
没有找到
没有找到

匹配结尾字符,\Z 和 $ 等价,不解释。





2
常用函数


了解完上节介绍的元字符的基本知识,本节的函数运用就很简单了。RE 包里常见的函数总结如下:


  • match(pat, str):检查字符串的开头是否符合某个模式

  • search(pat, str):检查字符串中是否符合某个模式

  • findall(pat, str):返回所有符合某个模式的字符串,以列表形式输出

  • finditer(pat, str):返回所有符合某个模式的字符串,以迭代器形式输出

  • split(pat, str):以某个模式为分割点,拆分整个句子为一系列字符串,以列表形式输出

  • sub(pat, repl, str):句子 str 中找到匹配正则表达式模式的所有子字符串,用另一个字符串 repl 进行替换

  • compile(pat):将某个模式编译成对象,供之后使用




match(pat, str)


判断模式是否在字符串开头位置匹配。如果匹配,返回对象,如果不匹配,返回 None。

s = 'Kobe Bryant'
print( re.match(r'Kobe', s) )print( re.match(r'Kobe', s).group() )print( re.match(r'Bryant', s) )
<re.Match object; span=(0, 4), match='Kobe'>
Kobe
None


该函数返回的是个对象(包括匹配的子字符串和在句中的位置索引),如果只需要子字符串,需要用 group() 函数。


由于值匹配句头,那么句中的 Bryant 无法被匹配到。



search(pat, str)


字符串中查找匹配正则表达式模式的位置。如果匹配,返回对象,如果不匹配,返回 None。

s = 'Kobe Bryant'
print( re.search(r'Kobe', s) )print( re.search(r'Kobe', s).group() )print( re.search(r'Bryant', s) )print( re.search(r'Bryant', s).group() )
<re.Match object; span=(0, 4), match='Kobe'>
Kobe
<re.Match object ; span=(5, 11), match='Bryant'>
Bryant


该函数返回的是个对象(包括匹配的子字符串和在句中的位置索引),如果只需要子字符串,需要用 group() 函数。


如果句子出现两个 Bryant 呢?

s = 'Kobe Bryant loves Gianna Bryant'
print( re.search(r'Bryant', s) )print( re.search(r'Bryant', s).group() )print( re.search(r'Bryant', s) )
<re.Match object; span=(5, 11), match='Bryant'>
Bryant
<re.Match object; span=(5, 11), match='Bryant'>


根据结果只匹配出第一个,我们需要下面的函数来匹配全部。



findall(pat, str)


在字符串中找到正则表达式所匹配的所有子串,并组成一个列表返回。

s = 'Kobe Bryant loves Gianna Bryant'
print( re.findall(r'Kobe', s) )print( re.findall(r'Bryant', s) )print( re.findall(r'Gigi', s) )
['Kobe']
['Bryant', 'Bryant']
[]


结果不解释。



finditer(pat, str)


和 findall 类似,在字符串中找到正则表达式所匹配的所有子串,并组成一个迭代器返回。

s = 'Kobe Bryant loves Gianna Bryant'
print( [i for i in re.finditer(r'Kobe', s)] )print( [i for i in re.finditer(r'Bryant', s)] )print( [i for i in re.finditer(r'Gigi', s)] )
[0, 4), match='Kobe'>]
[5, 11), match='Bryant'>,
 25, 31), match='Bryant'>]
[]


如果需要匹配子串在原句中的位置索引,用 finditer,此外用 findall



split(pat, str)


将字符串匹配正则表达式的部拆分开并返回一个列表。

s = 'Kobe Bryant loves Gianna Bryant'print( re.split(r'\s', s) )
['Kobe', 'Bryant', 'loves', 'Gianna', 'Bryant']


按空格拆分,不解释。



sub(pat, repl, str)


句子 str 中找到匹配正则表达式模式的所有子字符串,用另一个字符串 repl 进行替换。如果没有找到匹配模式的串,则返回未被修改的句子 str,其中 repl 既可以是字符串也可以是一个函数。


s = 'Kobe Bryant loves Gianna Bryant'print( re.sub(r'\s', '-', s) )
Kobe-Bryant-loves-Gianna-Bryant

用 - 代替空格。


print( re.sub(r'Gianna', 'Gigi', s) )
Kobe Bryant loves Gigi Bryant

用 Gigi 代替 Gianna。


print( re.sub(r'\d+', '_', s) )
Kobe Bryant loves Gianna Bryant

用 _ 代替数字(一个或多个),但句中没有数字,因此没用替代动作。


print( re.sub(r'\d*', '_', s)
_K_o_b_e_ _B_r_y_a_n_t_ _l_o_v_e_s_ _G_i_a_n_n_a_ _B_r_y_a_n_t_

用 _ 代替数字(个或多个),虽然句中没有数字,但是零个数字就是空字符,因此 _ 替代所有空字符。好玩吧 :)



compile(pat)


把正则表达式的模式转化成正则表达式对象,供其他函数如match search 使用。对象创建出来可以循环使用,如果某种模式要重复使用话,用“先 compile 再 findall”的方式更加高效。


用处理电邮地址来举例。

email = '''Shengyuan Personal: quantsteven@gmail.comShengyuan Work: shengyuan@octagon-advisors.com


    
Shengyuan School: g0700508@nus.edu.sgObama: barack.obama@whitehouse.gov'''print(email)
Shengyuan Personal: quantsteven@gmail.com
Shengyuan Work: shengyuan@octagon-advisors.com
Shengyuan School: g0700508@nus.edu.sg
Obama: barack.obama@whitehouse.gov



创建电邮的模式 r'[\w.-]+@[\w.-]+',用 compile 先创建 RE 对象,供之后使用。

pat = r'[\w.-]+@[\w.-]+'obj = re.compile(pat)obj
re.compile(r'[\w.-]+@[\w.-]+', re.UNICODE)



在对象 obj 上分别使用 match, search, findall, findieter 等方法,结果如下:

print( obj.match(email), '\n')print( obj.search(email), '\n' )print( obj.findall(email), '\n' )print( [i for i in obj.finditer(email)])
None

<re.Match object; span=(20, 41), match='quantsteven@gmail.com'> 

['quantsteven@gmail.com',
 'shengyuan@octagon-advisors.com',
 'g0700508@nus.edu.sg',
 'barack.obama@whitehouse.gov']

[<re.Match object; span=(20, 41), match='quantsteven@gmail.com'>,
<re.Match object; span=(58, 88), match= 'shengyuan@octagon-advisors.com'>,
<re.Match object; span=(107, 126), match='g0700508@nus.edu.sg'>,
<re.Match object; span=(134, 161), match='barack.obama@whitehouse.gov'>]


在对象 obj 上还可使用 sub 方法,结果如下:

print( obj.sub('---@---.---', email), '\n' )
Shengyuan Personal: ---@---.---
Shengyuan Work: ---@---.---
Shengyuan School: ---@---.---
Obama: ---@---.---


在对象 obj 上还可使用 split 方法,即把 @ 前后的子串拆分出来,结果如下:

for addr in obj.findall(email):    print( re.split(r'@', addr))
['quantsteven', 'gmail.com']
['shengyuan', 'octagon-advisors.com']
['g0700508', 'nus.edu.sg']
['barack.obama', 'whitehouse.gov']


我们还可以再创建个 RE 对象 obj1,专门用来做拆分。

obj1 = re.compile(r'@')for addr in obj.findall(email):    print( obj1.split(addr))
['quantsteven', 'gmail.com']
['shengyuan', 'octagon-advisors.com']
['g0700508', 'nus.edu.sg']
['barack.obama', 'whitehouse.gov']





3
示例展示


3.1

密码例子



密码通常有如下要求。


  • 最少 8 个最多 16 个字符.

  • 至少含有一个大写字母,一个小写字母,一个数字

  • 至少含有一个特殊字符 @ $ ! % * ? & _,但不包括空格


根据上面要求创建模式,相信都可以读懂了吧。

pat = r'^[0-9a-zA-Z@!$#%_-]{8,16}$'
print( look_for(pat, 'stevenwang') )print( look_for(pat, '19831031') )print( look_for(pat, 'steven1031') )print( look_for(pat, 'steven@1031') )print( look_for(pat, 'Steven@1031') )print( look_for(pat, 's1031') )print( look_for(pat, 's@1031') )print( look_for(pat, 'stevenwang19831031') )print( look_for(pat, 'stevenwang@19831031') )
['stevenwang']
['19831031']
['steven1031']
['steven@1031']
['Steven@1031']
没有找到
没有找到
没有找到
没有找到


结果好像不太对,因为密码必须要含有数字,大小写和特殊字符。


这时候需要用 (?=...) 这个骚操作,意思就是匹配 ’…’ 之前的字符串。在本例中 '...' 包括小写 [a-z],大写 [A-Z],数字 \d,特殊字符 [@$!%*?&_],言下之义就是上面这些必须包含中密码中。

pat = r'^(?=.*[a-z])         (?=.*[A-Z])         (?=.*\d)         (?=.*[$@$!%*?&_])         [A-Za-z\d$@$!%*?&_]{8,16}$'
print( look_for(pat, 'stevenwang') )print( look_for(pat, '19831031') )print( look_for(pat, 'steven1031') )print( look_for(pat, 'steven@1031') )print( look_for(pat, 'Steven@1031') )print( look_for(pat, 's1031') )print( look_for(pat, 's@1031') )print( look_for(pat, 'stevenwang19831031') )print( look_for(pat, 'stevenwang@19831031') )
没有找到
没有找到
没有找到
没有找到
['Steven@1031']
没有找到
没有找到
没有找到
没有找到

结果完全正确。


上面模式的可视图如下:




3.2

邮箱例子



首先定义邮箱地址的模式 '\S+@\S+',还记得 \S 是非空格字符,基本代表了所需的字符要求。我们想从从 email.txt 文本中筛选出所有邮箱信息。

pat = r'\S+@\S+'obj = re.compile(pat)email_list = []


    
hand = open('email.txt')for line in hand:    line = line.rstrip()    email_addr = obj.findall(line)    if len(email_addr) > 0:        email_list.append(email_addr[0])
list(set(email_list))


咋一看结果是对的,但细看(高亮处)有些邮箱地址包含了 <> 的符号,或者根本不是正常的邮箱地址,比如 apache@localhost。


这时候我们需要在模式中添加更多规则,如下。


  • '[a-zA-Z\d]\S+ 代表第一字符要是数字或字母

  • \w+\.[a-z]{2,3} 代表 A.B 这样的结构,其中 A 由若干字母数字下划线组成,而 B 由 2 或 3 个小写字母组成(因为通常邮箱最后就是 com, net, gov, edu 等等)。


pat = r'[a-zA-Z\d]\S+@\w+\.[a-z]{2,3}'


结果正常。



3.3

摘要例子



在下面摘要中获取人物、买卖动作、股票数量、股票代号、日期和股价这些关键信息。

news = \"""Jack Black sold 15,000 shares in AMZN on 2019-03-06 at a price of $1044.00.David V.Love bought 811 shares in TLSA on 2020-01-19 at a price of $868.75.Steven exercised 262 shares in AAPL on 2020-02-04 at a price of $301.00."""


给大家留个任务,读懂下面代码,看懂了本帖知识就掌握了。我相信能看到这里的都可以看懂。

pat = r'([a-zA-Z. ]*)' \        '\s(sold|bought|exercised)' \        '\s*([\d,]+)' \        '.*in\s([A-Z]{,5})' \        '.*(\d{4}-\d{2}-\d{2})' \        '.*price of\s(\$\d*.\d*)'
re.findall( pat, news )
[('Jack Black', 'sold', '15,000', 'AMZN', '2019-03-06', '$1044.00'),
 ('David V.Love', 'bought', '811', 'TLSA', '2020-01-19', '$868.75'),
 ('Steven', 'exercised', '262', 'AAPL', '2020-02-04', '$301.00')]


上面模式的可视图如下:






4
总结


累死了,这次真不想总结了。


记住元字符的用处:集合、次数、并列、获取和转义。


记住函数的用法:先 compile 成 RE 对象,在 findall 或 finditer,由你想查看的信息完整度决定。


下帖我会来个关于 RE 的实际案例分析,并记录我在操作时遇到的问题和解决方案。


Stay Tuned!


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/55988
 
335 次点击