我是 Hive 的新手;所以,我不确定公司如何使用 Hive。让我给您一个场景,看看我对 Hive 的使用在概念上是否正确。
假设我的公司想要保留一些网络服务器日志文件,并且能够始终搜索和分析日志。因此,我创建了一个表列,其中的列对应于日志文件中的列。然后我将日志文件加载到表中。现在,我可以开始查询数据了。因此,随着数据在未来的日期到来,我只是不断地将数据添加到这个表中,因此我总是将我的日志文件作为 Hive 中的一个表,我可以通过它进行搜索和分析。
这种情况是否属于常见用途?如果是,那么我如何继续向表中添加新的日志文件?我是否必须每天手动将它们添加到表中?
最佳答案
您可以使用 Hive 对静态数据集进行分析,但如果您有流式日志,我真的不建议为此使用 Hive。它不是搜索引擎,只需几分钟即可找到您正在寻找的任何合理数据。
如果您必须留在 Hadoop 生态系统中,HBase 可能是更好的选择。 (Hive可以查询Hbase)
如果您需要合理的日志分析工具,请使用 Splunk 或 Solr/Elasticsearch/Graylog 的开源替代品。
但要回答你的问题
how do I keep adding new log files to the table? Do I have to keep adding them to the table manually each day?
在 HDFS 位置上为您的日志使用 EXTERNAL Hive 表。使用 Flume 将日志数据发送到该路径(或将您的日志发送到 Kafka,然后从 Kafka 发送到 HDFS,以及搜索/分析系统)
只有在添加日期分区时才需要更新表(您应该这样做,因为这样可以加快 Hive 查询速度)。您将使用 MSCK REPAIR TABLE 来检测 HDFS 上丢失的分区。或者按计划自己运行 ALTER TABLE ADD PARTITION。注意:Confluent 的 HDFS Kafka Connect 会自动为你创建 Hive 表分区
如果必须使用Hive,将数据转换成ORC或Parquet格式可以更好地提高查询
关于hadoop - 什么是 Hive 常见用例?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46757710/
类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc
我有一个模型:classItem项目有一个属性“商店”基于存储的值,我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式?如果方法中没有大的if-else语句,这是如何干净利落地完成的? 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co
我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%
我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i
为什么4.1%2返回0.0999999999999996?但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返
它不等于主线程的binding,这个toplevel作用域是什么?此作用域与主线程中的binding有何不同?>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是,TOPLEVEL_BINDING始终引用Binding的预定义全局实例,而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层,它们都包含相同的绑定(bind),但它们不是同一个对象,您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput
我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN?它们是对象、关键字还是其他东西? 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串
如果您尝试在Ruby中的nil对象上调用方法,则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而,有一个tryRails中的方法,如果它被发送到一个nil对象,它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常? 最佳答案 像Ruby中的所有其他对象
关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion为什么SecureRandom.uuid创建一个唯一的字符串?SecureRandom.uuid#=>"35cb4e30-54e1-49f9-b5ce-4134799eb2c0"SecureRandom.uuid方法创建的字符串从不重复?
我刚刚被困在这个问题上一段时间了。以这个基地为例:moduleTopclassTestendmoduleFooendend稍后,我可以通过这样做在Foo中定义扩展Test的类:moduleTopmoduleFooclassSomeTest但是,如果我尝试通过使用::指定模块来最小化缩进:moduleTop::FooclassFailure这失败了:NameError:uninitializedconstantTop::Foo::Test这是一个错误,还是仅仅是Ruby解析变量名的方式的逻辑结果? 最佳答案 Isthisabug,or