hive之正则函数研究学习regex/regex_replace/regex_extract
首先学习这个之前要先知道一些正则的基本知识。
随便百度一下正则表达式 – 元字符 | 菜鸟教程
字符 | 描述 |
---|---|
\ |
将下一个字符标记为一个特殊字符、或一个原义字符、或一个 向后引用、或一个八进制转义符。例如,'n' 匹配字符 "n"。'\n' 匹配一个换行符。序列 '\\' 匹配 "\" 而 "\(" 则匹配 "("。 |
^ |
匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性,^ 也匹配 '\n' 或 '\r' 之后的位置。 |
$ |
匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性,$ 也匹配 '\n' 或 '\r' 之前的位置。 |
* |
匹配前面的子表达式零次或多次。例如,zo* 能匹配 "z" 以及 "zoo"。* 等价于{0,}。 |
+ |
匹配前面的子表达式一次或多次。例如,'zo+' 能匹配 "zo" 以及 "zoo",但不能匹配 "z"。+ 等价于 {1,}。 |
? |
匹配前面的子表达式零次或一次。例如,"do(es)?" 可以匹配 "do" 或 "does" 。? 等价于 {0,1}。 |
{n} |
n 是一个非负整数。匹配确定的 n 次。例如,'o{2}' 不能匹配 "Bob" 中的 'o',但是能匹配 "food" 中的两个 o。 |
{n,} |
n 是一个非负整数。至少匹配n 次。例如,'o{2,}' 不能匹配 "Bob" 中的 'o',但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。 |
{n,m} |
m 和 n 均为非负整数,其中n <= m。最少匹配 n 次且最多匹配 m 次。例如,"o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。 |
? |
当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串 "oooo",'o+?' 将匹配单个 "o",而 'o+' 将匹配所有 'o'。 |
. |
匹配除换行符(\n、\r)之外的任何单个字符。要匹配包括 '\n' 在内的任何字符,请使用像"(.|\n)"的模式。 |
(pattern) |
匹配 pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到,在VBScript 中使用 SubMatches 集合,在JScript 中则使用 $0…$9 属性。要匹配圆括号字符,请使用 '\(' 或 '\)'。 |
(?:pattern) |
匹配 pattern 但不获取匹配结果,也就是说这是一个非获取匹配,不进行存储供以后使用。这在使用 "或" 字符 (|) 来组合一个模式的各个部分是很有用。例如, 'industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。 |
(?=pattern) |
正向肯定预查(look ahead positive assert),在任何匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如,"Windows(?=95|98|NT|2000)"能匹配"Windows2000"中的"Windows",但不能匹配"Windows3.1"中的"Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。 |
(?!pattern) |
正向否定预查(negative assert),在任何不匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如"Windows(?!95|98|NT|2000)"能匹配"Windows3.1"中的"Windows",但不能匹配"Windows2000"中的"Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。 |
(?<=pattern) |
反向(look behind)肯定预查,与正向肯定预查类似,只是方向相反。例如,"(?<=95|98|NT|2000)Windows "能匹配"2000Windows "中的"Windows ",但不能匹配"3.1Windows "中的"Windows "。
|
(?<!pattern) |
反向否定预查,与正向否定预查类似,只是方向相反。例如"(?<!95|98|NT|2000)Windows "能匹配"3.1Windows "中的"Windows ",但不能匹配"2000Windows "中的"Windows "。
|
x|y |
匹配 x 或 y。例如,'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。 |
[xyz] |
字符集合。匹配所包含的任意一个字符。例如, '[abc]' 可以匹配 "plain" 中的 'a'。 |
[^xyz] |
负值字符集合。匹配未包含的任意字符。例如, '[^abc]' 可以匹配 "plain" 中的'p'、'l'、'i'、'n'。 |
[a-z] |
字符范围。匹配指定范围内的任意字符。例如,'[a-z]' 可以匹配 'a' 到 'z' 范围内的任意小写字母字符。 |
[^a-z] |
负值字符范围。匹配任何不在指定范围内的任意字符。例如,'[^a-z]' 可以匹配任何不在 'a' 到 'z' 范围内的任意字符。 |
\b |
匹配一个单词边界,也就是指单词和空格间的位置。例如, 'er\b' 可以匹配"never" 中的 'er',但不能匹配 "verb" 中的 'er'。 |
\B |
匹配非单词边界。'er\B' 能匹配 "verb" 中的 'er',但不能匹配 "never" 中的 'er'。 |
\cx |
匹配由 x 指明的控制字符。例如, \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符。 |
\d |
匹配一个数字字符。等价于 [0-9]。 |
\D |
匹配一个非数字字符。等价于 [^0-9]。 |
\f |
匹配一个换页符。等价于 \x0c 和 \cL。 |
\n |
匹配一个换行符。等价于 \x0a 和 \cJ。 |
\r |
匹配一个回车符。等价于 \x0d 和 \cM。 |
\s |
匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。 |
\S |
匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。 |
\t |
匹配一个制表符。等价于 \x09 和 \cI。 |
\v |
匹配一个垂直制表符。等价于 \x0b 和 \cK。 |
\w |
匹配字母、数字、下划线。等价于'[A-Za-z0-9_]'。 |
\W |
匹配非字母、数字、下划线。等价于 '[^A-Za-z0-9_]'。 |
\xn |
匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如,'\x41' 匹配 "A"。'\x041' 则等价于 '\x04' & "1"。正则表达式中可以使用 ASCII 编码。 |
\num |
匹配 num,其中 num 是一个正整数。对所获取的匹配的引用。例如,'(.)\1' 匹配两个连续的相同字符。 |
\n |
标识一个八进制转义值或一个向后引用。如果 \n 之前至少 n 个获取的子表达式,则 n 为向后引用。否则,如果 n 为八进制数字 (0-7),则 n 为一个八进制转义值。 |
\nm |
标识一个八进制转义值或一个向后引用。如果 \nm 之前至少有 nm 个获得子表达式,则 nm 为向后引用。如果 \nm 之前至少有 n 个获取,则 n 为一个后跟文字 m 的向后引用。如果前面的条件都不满足,若 n 和 m 均为八进制数字 (0-7),则 \nm 将匹配八进制转义值 nm。 |
\nml |
如果 n 为八进制数字 (0-3),且 m 和 l 均为八进制数字 (0-7),则匹配八进制转义值 nml。 |
\un |
匹配 n,其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如, \u00A9 匹配版权符号 (?)。 |
乍一看很多,很复杂。最开始就先看标红的
然后看起始^和结束符$ ,在看看贪婪和非贪婪 ,group,再看看转义。好了你已经学会基本知识了。直接来实战。
regex函数
这个函数主要是来用于判断 字符串是否符合正则规则的,返回值是boolean。
select 'abcdfeef' regexp('[1-9]') --false --看字符串里又没有1-9的数字
select 'abcdefg' regexp('[a-z]') --true -- 看字符串里又没有a-z的数字
select 'aabbccdd' regexp('(aa|11|)') --true-- 看字符串里又没有 aa 或则11
select 'abcdefg' regexp '^a', --true是否以a开头'abcdefg' regexp 'g$', --true是否以g结尾'abcdefg' regexp '(aa|bb)', --false是否含有aa或者bb 'abcdefg' regexp '(ab|bb)', --true 是否含有ab或者bb'abcdefg' regexp '(^a|bb)' --true 是否以a开头或者含有bb
比如我之前有个sql是看一个公司名是否含有“银行、保险有限、保险股份、证券有限、证券股份、信托、基金管理、期货”等字样
难道我一个个like '%银行%' or like'%保险%' ?
下面这么写不是更优雅么。
select * from table
where name regexp '(银行|保险有限|保险股份|证券有限|证券股份|信托|基金管理|期货)
实战。
有个准入表中字段为准入人 数据如下 要求个人审批不动,其余都改为系统准入
chenchi(陈池)
zbf(朱某某)
zbf2(朱某2)
zbf10000(朱某10000)
SGYX_SYFC_D1E605 --注意这个b玩意可能是哪个系统的准入
TBSHZ_QDFC_7A28F0 --注意这个b玩意可能是哪个系统的准入
......... 一大堆都是这种系统自动的准入。
你说怎么搞? 有小伙伴肯定就说了 你看又没有( ) like下。这个多lowb 而且开发环境和生产不一样,万一生产有个系统准入叫做 XXXX_AAAA_(废弃)你怎么办
所以我们总结规律 (字符) 字符。
那么得出正则规律为 '\\S+[\\((].*[\\))]'
解析 :\\代表转义。
\\S+ 代表的是多个字符也就是拼音 可能会有下划线空格例如 michael Jordan。
[] 代表 的是一个集合
\\( 代表的是 本来\(就代表括号 但是\需要转义下
( 这个是中文括号 不需要转义
[\\((] 这个就代表 要么是中文括号 要么是英文括号开始
.* 代表多个字符
[\\))] 这个代表反括号结尾 可以最后$ 以示严谨
select "chenchi(陈池)" regexp('\\S+[\\((].*[\\))]'), --true"love_zbf(朱某某100)" regexp('\\S+[\\((].*[\\))]') --true
好了, 至此你已经是一个入门正则选手了。
regex_extract
这个主要用于从一串字符串里提取自己想要的文字。
hive 函数说明。你去看oracle mysql 或者其他都行。
hive> desc function extended regexp_extract;
"regexp_extract(str, regexp[, idx]) - extracts a group that matches regexp"
Example:
" > SELECT regexp_extract('100-200', '(\d+)-(\d+)', 1) FROM src LIMIT 1;"
'100'
Function class:org.apache.hadoop.hive.ql.udf.UDFRegExpExtract
Function type:BUILTIN
extracts a group that matches regexp 主要就是这句话。提取一个group,上面说到了group。
Java 正则表达式 | 菜鸟教程
本想让大家自行学习,想想有的小伙伴可能不懂。就贴出一张图自行领略
从中英文中提取数字 select regexp_extract('abcdefg1234hik', '(\\d)',1), --1 \\d代表的是一个数字regexp_extract('abcdefg1234hik', '(\\d+)',1), --1234 \\这里因为+代表的1或多次如果匹配到了那么就是尽可能的多这就是贪婪模式regexp_extract('abcdefg1234hik', '(\\d+?)',1) --1 \\这里+还是上面的意思?就代表了0-1次非贪婪模式 此时有小伙伴就会问了 我为啥还要+呢?直接来个 regexp_extract('abcdefg1234hik', '(\\d?)',1) --可惜结果是 '' 空因为匹配到了0次。
又有小伙伴要问了,我第一行不也是匹配到了 1 和贪婪非贪婪没关系不也ok么?我只能说小虎版你太年轻了。千奇百怪的需求多的一批。
实战
有个工商信息表涉及的金额如下
124.84万元 ,10万元,突然来了个 20万美元 。这个时候我就怀疑可能有欧元港币,英镑。
那么我怎么去找到到底有多少货币呢?
看看大家又没有思路。几十、上百万的数据你怎么去看?问业务 业务自己都不清楚。
思路:
1.既然我看有多少货币 那么就是看单位了? 万元 ,万美元这种。
2.我把前面的数字去掉不就好了?distinct translate(registcapi,'.0123456789','')
但是总感觉不太好,因为后面的需求是把外币转化为人民币。translate有点满足不了需求,这时候有小伙伴会说我可以!!
select registcapi,
translate(registcapi,'万元美欧港瑞士法郎',''),
translate(registcapi,'.0123456789','')
from odsiadata.ia_fdw_ic_enterprise_information
但是过了几天 这个列多了一个货币 津巴布韦币,是不是又要改sql了呢?所以还是用正则吧
select registcapi,
regexp_extract(registcapi,'(\\d+(\.\\d+)?)(.*)',1) ,--整数+小数
regexp_extract(registcapi,'(\\d+(\.\\d+)?)(.*)',2) ,-- .小数
regexp_extract(registcapi,'(\\d+(\.\\d+)?)(.*)',3) -- 单位
from odsiadata.ia_fdw_ic_enterprise_information
这个就不分析了。累了。
来个小案例
select a ,
regexp_extract(a,'.*?\\..*?\\.(.*?)\\.+',1), --非贪婪模式
regexp_extract(a,'.*\\..*\\.(.*)\\.+',1) -- 贪婪模式 一直不对
from (
select '缺省.银行存款-人民币-活期存款.China Merchants Bank Hong Kong Branch527118RMB.缺省1.缺省2.缺省3.缺省4.缺省5' as a
)t这是在oracle遇到的一个大概就是以 . 分隔 取第三个吧
regex_replace
这个就是正则替换,主要是用于替换 其实和上面的regex_extract比较像
一个是提取正则表达式,一个是把正则表达式替换为其他内容。
hive 官方文档
desc function extended regexp_replace
"regexp_replace(str, regexp, rep) - replace all substrings of str that match regexp with rep"
Example:
" > SELECT regexp_replace('100-200', '(\d+)', 'num') FROM src LIMIT 1;" --注意这里要转义
'num-num'
Function class:org.apache.hadoop.hive.ql.udf.UDFRegExpReplace
Function type:BUILTIN
因为我平常没有遇到过这样的需求 所以直接百度参考文章。
参考文章 正则表达式regexp_replace的使用方法_正则表达式_脚本之家
regexp_replace(source, pattern, replace_string, occurrence)
● source: string类型,要替换的原始字符串。
● pattern: string类型常量,要匹配的正则模式,pattern为空串时抛异常。
● replace_string:string,将匹配的pattern替换成的字符串。
● occurrence: bigint类型常量,必须大于等于0,
大于0:表示将第几次匹配替换成replace_string,
等于0:表示替换掉所有的匹配子串。
其它类型或小于0抛异常
注意!hive 的这个函数和oracle不一样,oracle有第 4个参数
1、用’#‘替换字符串中的所有数字
SELECT regexp_replace('01234abcde56789','[0-9]','#') AS new_str ; -- ###########
用’#‘替换字符串中的数字0、9
SELECT regexp_replace(‘01234abcde56789','[09]','#') AS new_str ;
2、遇到非小写字母或者数字跳过,从匹配到的第4个值开始替换,替换为''
oracle
SELECT regexp_replace('abcdefg123456ABC','[a-z0-9]','',4) --abcABC
hive 写上面报错 不能有第四个参数
SELECT regexp_replace('abcdefg123456ABC','[a-z0-9]','') --ABC
3 注意每个地方对转义的要求不一样。
oracle 是不需要转义\d
SELECT regexp_replace('13811112222','\d+','a') FROM dual
hive 需要转义\\d
SELECT regexp_replace('13811112222','\\d+','a')
3、格式化手机号,将+86 13811112222转换为(+86) 138-1111-2222
’+‘在正则表达式中有定义,需要转义。\\1表示引用的第一个组
这个就是最有用的一个了!!!! 分段替换。
oracle
SELECT regexp_replace('+86 13811112222','(\+[0-9]{2})( )([0-9]{3})([0-9]{4})([0-9]{4})','(\1)\3-\4-\5') FROM dual ;
上面文章里的都是双\\转义 但又是from dual....这不是oracle的语法么?
至于hive 好像没有\1\2\3 这个用法。。。日了狗。
不想搞了
hive之正则函数研究学习regex/regex_replace/regex_extract相关推荐
- 利用Mono.Cecil动态修改程序集来破解商业组件(仅用于研究学习)
原文:利用Mono.Cecil动态修改程序集来破解商业组件(仅用于研究学习) Mono.Cecil是一个强大的MSIL的注入工具,利用它可以实现动态创建程序集,也可以实现拦截器横向切入动态方法,甚至还 ...
- python django flask介绍_django和flask哪个值得研究学习
对于初学者来说,找到一个好的框架来学习或者项目开发都是非常有必要的,而当你有一定开发经验后,你应该选择适合当前业务需要的框架.我这里并不想探讨哪个框架好哪个不好,这个永恒的话题就跟探讨"世界 ...
- Unity3D中引用Spine2D动画研究学习(一)
Unity3D中引用Spine2D动画研究学习(一) Spine2D是一款针对游戏制作2D骨骼动画的编工具,与传统的帧动画相比,有以下特点: 由于本人是Unity程序员,关注点在于如何在Unity工具 ...
- SGX技术的分析与研究 学习笔记
SGX技术的分析与研究 学习笔记 SGX技术的分析与研究 学习笔记 1 SGX架构概述 2 SGX关键技术 2.1 Enclave安全容器 2.2 Enclave保护机制 2.2.1 内存访问语义 2 ...
- 【UE4】WaterLine交互水工程的研究学习(小船制作)
前言 第一次写博客分享! 自己有一直在做各种记录,但总是所有东西都记在日记上,既不方便自己回顾学习,也没有发挥记录的分享价值. 不希望自己记录的东西成为自己都不愿意翻阅的厕纸,于是催促着自己把记录 ...
- 基于迁移学习的旋转机械故障诊断方法研究学习笔记
基于迁移学习的旋转机械故障诊断方法研究学习笔记 现在大一点的神经网络模型也要求数据量的足够大,但是对于小样本的数据,有一些神经网络模型也能够处理的很好 2. 这是现在神经网络也要求的数据最好能够独立同 ...
- python 按需加载_基于python的opcode优化和模块按需加载机制研究(学习与个人思路)(原创)...
基于python的opcode优化和模块按需加载机制研究(学习与思考) 姓名:XXX 学校信息:XXX 主用编程语言:python3.5 文档转换为PDF有些图片无法完全显示,请移步我的博客查看 完成 ...
- 托软件,本软件仅供研究学习代码交流
[软件仅供休闲娱乐,请勿用于商业及非法用途,本软件仅供研究学习代码交流,发现一款很不错的托自动上下分软件,支持所有的功能等多项功能,实在是居家旅行必备神器] 本Markdown编辑器使用StackEd ...
- 【前沿】MIT搞了个进取型机器人!能研究学习对象操纵的基础
来源:中国机器人网 前言:MIT的研究让数据有了机器人的方向 麻省理工学院的研究人员已经汇编了一个数据集,该数据集捕获了物理上推动数百个不同对象的机器人系统的详细行为.研究人员可以使用数据集(同类中 ...
最新文章
- 2020-09-25C++学习笔记引用2:二级指针形参与指针形参的使用方法和区别重难点,主看综合代码(1、指针形参2、引用形参3、二级指针形参4、指针引用形参)
- SAP PM 初级系列17 - 维修工单相关的Task List
- Boost.Function 库示例
- php反序列化绕过,【技术分享】PHP反序列化漏洞
- linux下mysql的数据库简单备份脚本
- 收获,不止SQL优化——抓住SQL的本质--第十章
- 基于JAVA+SpringMVC+Mybatis+MYSQL的汽车维修管理平台
- c#app.config配置文件使用
- python调用matlab函数_python调用matlab的m自定义函数方法
- adobe creative cloud的开机自启如何阻止
- redis集群原理及三种模式解析
- js 封装原生XMLHttpRequest
- 英读廊——一个人的旅行:原汁原味希腊克里特游记
- 37. Hard Disk Drives
- 【ant】Apache ant 开发
- 同花顺_代码解析_技术指标_P、Q
- 无监督学习——K均值聚类的Python实现
- H.264视频监控项目
- 连续信号与离散信号---采样定理
- 中文SEO相关工具大全
热门文章
- MySQL数据库-DQL(单表查询)
- Windows脚本之拷贝文件---简化工作
- PDF在转Excel免费的!在线工具!轻松搞定
- 一级计算机考试规则,计算机一级考试考场规则及考生注意事项
- leaflet加载腾讯地图 (路网、影像、地形) 示例教程034
- 工具模版 | 如何制定产品路线图?
- 推荐一款 颜值爆表的主题终端 (windows )
- 不要把别人当傻子,其实只是不想说(你们的阅读量和评论是我最大的动力)
- 石家庄中考计算机试题及答案,2015年石家庄中考信息技术考试全部试题.doc
- 多层户型WIFI全覆盖手记 - 腾达MW3 调研安装手记