草庐IT

Application-Name

全部标签

shell - 如何在HBase shell中使用describe 'table_name'创建表。

我必须在不同的集群中创建一个表,我只有hbase表的描述很方便。我如何在不同的集群中创建新的hbase表? 最佳答案 输入Hbaseshell进入hbaseshell在你的新集群的终端,然后给出命令create‘’,’’给你表名和列族名,你已经从describe'tablename'来自之前的集群。更多信息:https://www.tutorialspoint.com/hbase/hbase_create_table.htmhttps://www.tutorialspoint.com/hbase/hbase_describe_and

hadoop - 当我点击 jps 命令时,namenode datanode 和 sec name node 没有启动

我在Ubuntu中以伪分布式模式使用Hadoop1.2.1,一切正常。但后来我不得不重新启动我的系统。现在,当我在给出start-all.sh后点击jps命令时,我只能看到tasktracker和jobtracker正在运行。谁能告诉我这个问题的可能原因?并指导我解决这个问题?************************************************************/2017-03-1318:41:16,733INFOorg.apache.hadoop.hdfs.server.datanode.DataNode:STARTUP_MSG:/*********

hadoop - Hadoop 2.7在windows 7 64位启动时 : Name or service not knownstname localhost

我正在使用Cygwin在Windows764位上安装Hadoop。成功格式化Hadoop后,我想使用以下命令启动它:启动-dfs.sh。但它报告为:$sbin/start-dfs.sh17/03/2617:35:27WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform...usingbuiltin-javaclasseswhereapplicable]tartingnamenodeson[localhost:Nameorservicenotknownstnamelocalhostalwang@

Hadoop hive : Generate Table Name and Attribute Name using Bash script

在我们的环境中,我们无法访问Hive元存储来直接查询。我需要为一组表动态生成表名、列名对。我试图通过对所有表的文件运行“describeextended$tablename”并从文件中选取表名和列名对来实现这一点。除了这种方式,还有其他更简单的方法吗?想要的输出是这样的table1|col1table1|col2table1|col3table2|col1table2|col2table3|col1 最佳答案 此脚本将为单个表以所需格式打印列。AWK从describe命令解析字符串,只接受column_name,用“|”连接和tab

apache - "The machine with the name ' c6401 ' was not found configured for this Vagrant environment."错误

我计划使用ApacheAmbari。首先,我根据https://cwiki.apache.org/confluence/display/AMBARI/Quick+Start+Guide完成了所有操作.但是每当我尝试启动vms时,我都会收到以下错误:Themachinewiththename'c6401'wasnotfoundconfiguredforthisVagrantenvironment. 最佳答案 今天在mac上遇到这个错误,我决定用适合我的解决方案更新这篇文章。步骤删除所有多余的机器文件夹./.vagrant/machin

hadoop - default.fs.name 和 hive.metastore.warehouse.dir 不冲突

嗨,当我尝试运行以下命令时LoaddataInpath'/data'intoTableTablename;在hiveshell中抛出以下错误Movefrom:hdfs://hadoopcluster/datato:file:/user/hive/warehouse/Tablenameisnotvalid.Pleasecheckthatvaluesforparams"default.fs.name"and"hive.metastore.warehouse.dir"donotconflict.我的default.fs.name属性在哪里fs.defaultFShdfs://hadoopcl

hadoop - HDFS 联邦 : Submission of Map Reduce jobs among multiple Name nodes

根据HdfsFederation上的Apache文档,系统可通过多个名称节点的联合进行隔离扩展。多个名称节点/namespace为了横向扩展名称服务,联邦使用多个独立的名称节点/namespace。名称节点是联合的;Namenodes是独立的,不需要相互协调。Datanodes被所有Namenodes用作block的公共(public)存储。我唯一的疑问:我没有看到名称节点之间有任何中央协调器,因为所有节点都在运行隔离。对如何提交和处理作业感到困惑。1)如果我提交一个map-reduce作业,哪个名称节点将处理它?或者2)客户端是否应该知道必须为其提交作业的名称节点?如果客户端不知道哪

mysql - 插入导致异常 ParseException 行 1 :12 missing TABLE at 'table_name' near '<EOF>' 的 Select 命令

我刚接触hadoop和hive2天。所以,我的理解是非常基础的。我有一个可能很愚蠢的问题。问题:我有一个配置单元外部表ABC,并创建了一个类似于ABC_TEST表的示例测试表。我的目标是根据select子句将ABC的某些内容复制到ABC_TEST。所以我使用以下命令创建了ABC_TEST:CREATETABLEABC_TESTLIKEABC;问题是:1)此ABC_TEST不是外部表。2)使用Desc命令,ABC_TEST的LOCATION内容类似于hdfs://somepath/somdbname.db/ABC_TEST-->Oncommand"hadoopfs-lshdfs://so

hadoop - Yarn Application master 和容器分配

在YARN中,应用程序主机向资源管理器请求资源,以便可以启动该应用程序的容器。applicationmaster是在启动第一个容器之前等待所有资源分配完毕,还是请求每个容器,当它获得容器的资源时,它开始启动特定的容器?即只有部分资源可用时的情况呢?它是否等待资源被释放?还是根据可用资源继续?MR应用程序主机如何决定MR作业的资源需求?是YARNMR客户端确定这个并将它发送给AM还是AM找到它?如果是这样,这是基于什么?我相信这是可配置的,但我可能在谈论未提供内存和CPU时的默认情况。 最佳答案 不,AM不会等待所有资源分配完毕。相反

hadoop - 我可以强制 YARN 使用 Application Master 容器的主节点吗?

在我的Hadoop/Spark运行期间,我的大主节点硬件几乎什么都不做,因为YARN在每个任务上为其AM使用随机从节点。我更喜欢旧的Hadoop1;当出现问题时,通过这种方式可以避免大量的日志追踪和ssh痛苦。这可能吗? 最佳答案 Spark和YARN节点标签是可能的。标记你的节点使用spark.yarn.am.nodeLabelExpression属性好读:https://developer.ibm.com/hadoop/2017/03/10/yarn-node-labels/ 关于h