草庐IT

menta-regex

全部标签

regex - Hive 表列只接受键盘字符、数字并忽略控制和 ascii 字符

hive中是否有任何正则表达式或翻译或任何其他表达式只考虑键盘字符而忽略Hive表中的控制字符和ascii字符?示例:regexp_replace(option_type,'[^a-zA-Z0-9]+','')在上面的表达式中,只考虑字符和数字,但任何键盘特殊字符数据,如%、&、*、.、?、..可用,然后我得到的输出为空白。上校:bhuvi?你在哪里?结果:bhuvi你在哪里但我想输出为bhuvi?你在哪里?如果有特殊的键盘字符就这样出现后它会按原样显示,任何控制或ascii字符出现时它都会忽略。 最佳答案 您应该考虑到各种键盘布局

regex - 表格中的 HIVE 正则表达式记录定界符空值

请找到我的表格描述、Serde和日志格式。createtabletemp.rawserversidedata(ipvarchar(65000),dtvarchar(65000),apinamevarchar(65000),appnamevarchar(65000),contentidvarchar(65000),eidvarchar(65000),versionvarchar(65000),uidvarchar(65000),modelvarchar(65000))ROWFORMATSERDE'org.apache.hadoop.hive.serde2.RegexSerDe'WITHS

regex - 将正则表达式应用于解释器 Flume 配置中 "|"分隔字符串中的第二个单词

我的要求是对来自kafka的数据应用正则表达式。数据如下:abc|def|mnq|xyzabc1|def1|mnq1|xyz1abc2|def2|mnq2|xyz2我想使用水槽解释器对第一个字符串中的第二个单词应用正则表达式,即(def)。正则表达式可以过滤单词和小数。有人可以帮忙吗。 最佳答案 以下python代码匹配所有行中的所有第二个单词:importre#used||toaddmultilinescombineintoonestringparent="""abc|def|mnq|xyz||abc1|def1|mnq1|xyz

hadoop - PIG-Hadoop - 在 PIG 中有一种方法可以使用 Regex 进行内部连接

我有2个文件(消息、key)。我想从“消息”中提取所有包含“键”中的单词的行。messages=LOAD'my-messages.txt'as(message:chararray);keys=LOAD'keys.txt'as(key:chararray);现在我知道我可以在消息和键之间进行内部连接,但这在以下情况下不起作用:message="hithere"key="hi"我正在考虑使用UDF来绕过它:DEFINEcontainsKeymy.udf.Matches("path/keys.txt");matches=FILTERmessagesBYcontainsKey(messages

regex - Pig - 移除换行、回车和制表符

我试图从Pig的列中删除字符:\n、\t和\r,但我得到了错误的输出。这是我正在做的:qr_1=LOAD'hdfs://localhost:9000/sample.csv'USINGPigStorage(',')as(Id:int,PostTypeId:int,AcceptedAnswerId:int,ParentId:int,CreationDate:chararray,DeletionDate:chararray,Score:int,ViewCount:int,Body:chararray,OwnerUserId:int,OwnerDisplayName:chararray,Las

regex - Hive 正则表达式序列化

我需要从平面文件中读取数据。它包含许多行,但想要从看起来像这样的行中提取数据:REVISION1230364918Anarchism2005-12-06T17:44:47ZRJII141644我只想要这一行的第2、3和5个条目并将它们放入Hive表中;我已发出此命令但出现错误createexternaltabletestTable(tagstring,astring,rstring)rowformatSERDE'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'WITHSERDEPROPERTIES("input.regex"="REVI

regex - 在 Spark RDD 中使用正则表达式从字符串中提取时间戳

我有一个像这样的日志:[Pipeline]timestamps[Pipeline]{[Pipeline]echo20:33:050[Pipeline]echo我试图只在此处提取时间信息(20:33:05)。我已尝试执行以下操作:vallines=sc.textFile("/logs/log7.txt")valindividualLines=lines.flatMap(_.split("\n"))//Splittingfilecontentintoindividuallinesvaldates=individualLines.filter(value=>value.startsWith(

regex - 提取文件名到第一个破折号

我们在一个目录中保存了数千个文件。那里的常见模式是日期。例如:foo-2013-09-01.gzbar-2013-09-01.gzfu-2013-09-02.gzba-2013-09-02.gzcat-2013-09-01.gzdog-2013-09-02.gzdog-2013-09-03.gz然后我们如何才能在第一个破折号之前获得唯一文件名列表?例如foobarfubacatdog我们不关心路径名,只关心第一部分(如果您能以type-date.filext格式看到它)。我们打算在for循环中使用最终结果,这将为每个类型创建一个子目录,其中包含按日期排列的所有其他文件。

hadoop - Nutch 2.0 和 Hadoop。如何防止缓存 conf/regex-urlfilter.txt

我在一台机器上安装了nutch2.x和hadoop1.2.1。我配置seed.txt、conf/regex-urlfilter.txt并运行命令crawlurls/seed.txtTestCrawlhttp://localhost:8088/solr/2然后我想更改conf/regex-urlfilter.txt中的规则我在2个文件中更改了它:~$find.-name'regex-urlfilter.txt'./webcrawer/apache-nutch-2.2.1/conf/regex-urlfilter.txt./webcrawer/apache-nutch-2.2.1/runt

regex - hive 正则表达式不工作

我正在尝试使用org.apache.hadoop.hive.serde2.RegexSerDe创建一个配置单元外部表来分析一些Log4J日志。然而,即使在http://www.regexr.com/中测试正常时,我的regex也无法正常工作。.我的问题是当我有多行日志时,例如,一个异常日志及其对应的StackTrace。这是一个例子:@@@@2015-09-29T11:20:45,549INFOMYHOSTNAMEmy-apporg.hibernate.jpa.internal.util.LogHelperHHH000204:ProcessingPersistenceUnitInfo[