首页 > 其他 > 详细

爬虫之正则

时间:2019-04-04 22:08:08      阅读:100      评论:0      收藏:0      [点我收藏+]

一、常见匹配模式

\W        # 匹配字母数字及下划线
\W        # 匹配非字母数字下划线
\s        # 匹配任意空白字符,等价于[\t\n\r\f]
\S        # 匹配任意非空字符
\d        # 匹配任意数字,等价于[0-9]
\D        # 匹配任意非数字
\z        # 匹配字符串结束
\Z        # 匹配字符串结束,如果是存在换行,只匹配到换行前的结束字符串
\A        # 匹配字符串开始
\G        # 匹配最后匹配完成的位置
\n        # 匹配一个换行符
\t        # 匹配一个制表符
^         # 匹配字符串的开头
$         # 匹配字符串的末尾。
a|b       # 匹配a或b
.         # 匹配任意字符(除了换行符),当re.DOTALL标记被指定时,则可以匹配包括换行符的任意字符
()        # 匹配括号内的表达式,也表示一个组
[...]     # 用来表示一组字符,单独列出:[abc] 匹配 a、b或c
[^...]    # 不在[]中的字符:[^abc] 匹配除了a、b、c之外的字符

?         # 匹配 0个 或 一个 由前面的正则表达式定义的片段,非贪婪方式
*         # 匹配 0个 或 多个
+         # 匹配 1个 或 多个
{n}       # 精确匹配n个前面表达式
{n, m}    # 匹配 n 到 m 次由前面的正则表达式定义的片段,贪婪方式

二、re.match

re.match(pattern, string, flags=0)

re.match 尝试从字符串的起始位置匹配一个模式,如果不是起始位置匹配成功的话,match()就返回none

最常规的匹配

技术分享图片
import re

content = "Hello 123 4567 World_This is a Regex Demo"
print(len(content))
result = re.match("^Hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$", content)
print(result)
print(result.group()) # 匹配结果
print(result.span())  # 输出匹配结果范围
# 41
# <_sre.SRE_Match object; span=(0, 41), match=‘Hello 123 4567 World_This is a Regex Demo‘>
# Hello 123 4567 World_This is a Regex Demo
# (0, 41)
View Code

泛匹配

像上面写的正则表达式,写的太多,非常繁琐,通用性不强。一个非常好的解决方法是:使用 .* 匹配所有的字符串。

result = re.match("^Hello.*Demo$", content)

获取匹配目标

import re

content = "Hello 1234567 World_This is a Regex Demo"
result = re.match("^Hello\s(\d+)\s.*Demo$", content)
print(result.group(1))  # 1234567

贪婪匹配

import re

content = "Hello 1234567 World_This is a Regex Demo"
result = re.match("^He.*(\d+).*Demo$", content)
print(result.group(1))  # 7

可以看到 \d+ 只匹配到7,前面的123456被 .* 匹配掉了,也就是 .* 会尽可能匹配更多的字符,但是后面有 \d+,所以这个只能匹配到7。

非贪婪模式

在 .* 后面加个?即可变成非贪婪匹配。

import re

content = "Hello 1234567 World_This is a Regex Demo"
result = re.match("^He.*?(\d+).*Demo$", content)
print(result.group(1))  # 1234567

几个常用的非贪婪匹配:

??    # 匹配 0次 或 1次,但尽可能少重复
*?    # 匹配 任意次,但尽可能少重复
+?    # 匹配 1次 或 更多次,但尽可能少重复

.*? 的用法:取尽量少的任意字符;但一般不会这么单独写,它大多用法为.*?x表示取前面任意长度的字符,直到一个x出现。

匹配模式

import re

content = """Hello 1234567 World_This 
is a Regex Demo"""
result = re.match("^He.*?(\d+).*?Demo$", content)
print(result)  # None

可以看到没有匹配到内容,这是因为 . 不能匹配到换行符,这时就需要指定匹配模式,使用re.S,代表 . 能匹配换行符了。

result = re.match("^He.*?(\d+).*?Demo$", content, re.S)

转义

import re

content = "price is $5.00"
result = re.match("price is $5.00", content)
print(result)  # None

使用 \ 转义字符。

import re

content = "price is $5.00"
result = re.match("price is \$5\.00", content)
print(result.group())  # price is $5.00

总结:尽量使用泛匹配、使用括号得到匹配目标、尽量使用非贪婪模式、有换行符就用re.S

三、re.search

使用re.match有不太方便的,因为它会从字符串开头开始匹配,如果没匹配到,就返回None了;而 re.search 会扫描整个字符串并返回第一个成功的匹配。

import re

content = "Extra stings Hello 1234567 World_This is a Regex Demo Extra stings"
result1 = re.match("Hello.*?(\d+).*?Demo", content)
print(result1)  # None

result2 = re.search("Hello.*?(\d+).*?Demo", content)
print(result2)  # <_sre.SRE_Match object; span=(13, 53), match=‘Hello 1234567 World_This is a Regex Demo‘>
print(result2.group(1))  # 1234567

总结:为匹配方便,能用search就不用match

匹配练习

测试字符串:

html = ‘‘‘<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a>
        </li>
    </ul>
</div>‘‘‘
# 匹配带有active类的li标签
result = re.search(<li.*?active.*?singer="(.*?)">(.*?)</a>, html, re.S)
if result:
    print(result.group(1), result.group(2))  # 齐秦 往事随风
# 匹配li标签(只要匹配成功就返回)
result = re.search(<li.*?singer="(.*?)">(.*?)</a>, html, re.S)
if result:
    print(result.group(1), result.group(2))  # 任贤齐 沧海一声笑
# 匹配li标签(将re.S去掉)
result = re.search(<li.*?singer="(.*?)">(.*?)</a>, html)
if result:
    print(result.group(1), result.group(2))  # beyond 光辉岁月

四、re.findall

返回所有满足匹配条件的结果,放在列表里。

技术分享图片
import re

html = ‘‘‘<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>‘‘‘

result = re.findall(<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>, html, re.S)
for item in result:
    print(item)

"""
(‘/2.mp3‘, ‘任贤齐‘, ‘沧海一声笑‘)
(‘/3.mp3‘, ‘齐秦‘, ‘往事随风‘)
(‘/4.mp3‘, ‘beyond‘, ‘光辉岁月‘)
(‘/5.mp3‘, ‘陈慧琳‘, ‘记事本‘)
(‘/6.mp3‘, ‘邓丽君‘, ‘但愿人长久‘)
"""
View Code

上面的例子可以看到并没有匹配到第一个li,这是因为li标签并没有包含a标签,不符合匹配规则。如果我们也想把这个内容也获取到,怎么做呢?

技术分享图片
import re

html = ‘‘‘<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>‘‘‘

result = re.findall(<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>, html)
for item in result:
    print(item)
    # print(item[1])
"""
(‘‘, ‘一路上有你‘, ‘‘)
(‘<a href="/2.mp3" singer="任贤齐">‘, ‘沧海一声笑‘, ‘</a>‘)
(‘<a href="/3.mp3" singer="齐秦">‘, ‘往事随风‘, ‘</a>‘)
(‘<a href="/4.mp3" singer="beyond">‘, ‘光辉岁月‘, ‘</a>‘)
(‘<a href="/5.mp3" singer="陈慧琳">‘, ‘记事本‘, ‘</a>‘)
(‘<a href="/6.mp3" singer="邓丽君">‘, ‘但愿人长久‘, ‘</a>‘)
"""
View Code

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

爬虫之正则

原文:https://www.cnblogs.com/believepd/p/10656980.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!