草庐IT

ROS_MASTER_URI

全部标签

hadoop - 找不到带有 key dfs.encryption.key.provider.uri 的 uri 以在 CDH 5.4 的 HDFS 加密中创建 key 提供程序

CDH版本:CDH5.4.5问题:当使用HadoopCDH5.4中可用的KMS启用HDFS加密时,将文件放入加密区域时出错。步骤:Hadoop的加密步骤如下:创建key[成功][tester@master~]$hadoopkeycreate'TDEHDP'-providerkms://https@10.1.118.1/key_generator/kms-size128tdegrouphasbeensuccessfullycreatedwithoptionsOptions{cipher='AES/CTR/NoPadding',bitLength=128,description='null

scala - Spark 驱动程序被 master 解除关联并删除

我有一个由两个奴隶和一个主人组成的集群,我设置了一个jar(scala)给spark主人(192.168.1.64):spark-submit--masterspark://spark-master:7077--classtests.elementstarget/scala-2.10/zzz-project_2.10-1.0.jar运行一段时间后它突然停止,终端上的最后几行是...15/08/1917:45:24INFOscheduler.TaskSchedulerImpl:Addingtaskset411292.0with6tasks15/08/1917:45:24WARNsched

hadoop - 使用 hdfs ://URI 时的 NameNode HA

使用HDFS或HFTPURI方案(例如hdfs://namenode/path/to/file)我可以访问HDFS集群而不需要它们的XML配置文件。这在运行shell命令如hdfsdfs-get、hadoopdistcp或从Spark读取文件如sc.hadoopFile()时非常方便,因为我不必将所有相关HDFS集群的xml文件复制和管理到这些代码可能运行的所有节点。这种方法的一个缺点是我必须使用事件NameNode的主机名,否则Hadoop会抛出异常,提示NN处于备用状态。通常的解决方法是尝试一个然后在捕获到任何异常时尝试另一个,或者直接连接到ZooKeeper并使用protobuf

hadoop - Hbase:如何为 Hbase master 指定主机名

我正在努力设置一个具有2个节点的Hbase分布式集群,一个是我的机器,一个是VM,使用VirtualBox中的“host-only”适配器。我的问题是区域服务器(来自VM机器)无法连接到主机上运行的Hbasemaster。尽管在Hbaseshell中我可以在VM机器('slave')上的区域服务器中列出,创建表,......,日志总是显示org.apache.hadoop.hbase.regionserver.HRegionServer:Unabletoconnecttomaster.Retrying.Errorwas:java.net.ConnectException:Connect

hadoop - 使用 --master yarn-cluster : issue with spark-assembly 运行 spark-submit

我在基于Kerberos的集群上运行Spark1.1.0、HDP2.1。我可以使用--masteryarn-client成功运行spark-submit,并且结果已正确写入HDFS,但是,该作业没有显示在HadoopAllApplications页面上。我想使用--masteryarn-cluster运行spark-submit但我仍然收到此错误:appDiagnostics:Applicationapplication_1417686359838_0012failed2timesduetoAMContainerforappattempt_1417686359838_0012_0000

hadoop - 异常 : java. Spark 中的 lang.Exception : When running with master 'yarn' either HADOOP_CONF_DIR or YARN_CONF_DIR must be set in the environment.

我是新的apache-spark。我已经在spark独立模式下测试了一些应用程序。但我想运行应用程序yarn模式。我在windows中运行apache-spark2.1.0。这是我的代码c:\spark>spark-submit2--masteryarn--deploy-modeclient--executor-cores4--jarsC:\DependencyJars\spark-streaming-eventhubs_2.11-2.0.3.jar,C:\DependencyJars\scalaj-http_2.11-2.3.0.jar,C:\DependencyJars\confi

apache-spark - Spark Driver 内存和 Application Master 内存

我是否正确理解了客户端模式的文档?客户端模式与驱动程序在应用程序主机中运行的集群模式相反?在客户端模式下,driver和applicationmaster是独立的进程,因此spark.driver.memory+spark.yarn.am.memory必须小于机器的内存?在客户端模式下,驱动程序内存是否未包含在应用程序主内存设置中? 最佳答案 clientmodeisopposedtoclustermodewherethedriverrunswithintheapplicationmaster?是,当Spark应用程序部署在YARN

php - Laravel 5.2 在同一页面上更新 Eloquent Master Detail

这是我在Laravel5.2中实现主从页面的两个模型,Blade页面和Controller。我想知道如何将详细信息部分更新回数据库。1)主模型namespaceApp;useIlluminate\Database\Eloquent\Model;classOrderextendsModel{protected$fillable=['id','name','created_at','updated_at'];publicfunctiondetail(){return$this->hasMany('App\OrderDetail','fid','id');}publicfunctionget

php - 用 Nginx 和 PHP 重写 fastcgi 仍然发送旧的 request_uri 到后端(php 和 symfony)

我正在尝试通过fastcgi将运行symfony框架的php网站迁移到nginx和php。使用http://wiki.nginx.org/中的Symfonyhowto一切正常但我遇到了自定义重写规则的问题。我的目标是将形式为/aaaa的url重写为/view/shorthand/aaaa。然后请求应该由php和symfony处理。旧的apache重写规则:RewriteRule^([0-9a-f]+)$index.php/view/shorthand/$1[L]我试过的Nginx规则:rewrite^/([0-9a-f]+)$/view/shorthand/$1break;rewrit

php - $_SERVER ['REQUEST_URI' ] 也带有#hash?

如果我请求site/page.php#hash$_SERVER['REQUEST_URI']只是/page.php。有没有办法在php中(没有后来的ajax)知道用户使用#hash请求了页面?谢谢 最佳答案 简短回答:否。哈希不会传递给服务器,它只存在于客户端。这是设计使然。如果您的问题的解决方案涉及需要知道哈希服务器端,那么您选择了错误的方法。 关于php-$_SERVER['REQUEST_URI']也带有#hash?,我们在StackOverflow上找到一个类似的问题: