草庐IT

ec2-user

全部标签

Hadoop hive : How to allow regular user continuously write data and create tables in warehouse directory?

我在单个节点上运行Hadoop2.2.0.2.0.6.0-101。我正在尝试运行JavaMRD程序,该程序在普通用户下从Eclipse将数据写入现有的Hive表。我得到异常:org.apache.hadoop.security.AccessControlException:Permissiondenied:user=dev,access=WRITE,inode="/apps/hive/warehouse/testids":hdfs:hdfs:drwxr-xr-x发生这种情况是因为普通用户对仓库目录没有写权限,只有hdfs用户有:drwxr-xr-x-hdfshdfs02014-03-0

java - HADOOP HTTPFS : giving error "User: ubuntu is not allowed to impersonate ubuntu" while accessing the application through Http

我在我的集​​群上安装了hadoop1.0.4,有1个主机和3个从机,现在我正在安装HTTPFS(hadoop-hdfs-httpfs-0.20.2-cdh3u5-SNAPSHOT)以使用http协议(protocol)访问HDFS内容,我可以通过它访问正常的页面curl-i"http://myhost:14000"它工作正常:)但是如果我尝试访问HDFS然后它给我错误(ubantu是我的用户):(curl-i"http://myhost:14000/webhdfs/v1?user.name=ubantu&op=OPEN"错误:{"RemoteException":{"message"

hadoop - Hadoop EC2 安装的 Spark 脚本 : IPC client connection refused

我试图在EC2的spark脚本设置的EC2集群上使用distcp在Hadoop和AmazonS3之间复制[root]#bin/hadoopdistcps3n://bucket/f1hdfs:///user/root/我得到的错误是INFOipc.Client:Retryingconnecttoserver:..Alreadytriedntime(s).Copyfailed:java.net.ConnectException:Callto..my_serverfailedonconnectionexcep\tion:java.net.ConnectException:Connection

hadoop - HDFS_NAMENODE_USER、HDFS_DATANODE_USER 和 HDFS_SECONDARYNAMENODE_USER 未定义

我是hadoop新手。我正在尝试以伪分布式模式在我的笔记本电脑中安装hadoop。我使用root用户运行它,但出现以下错误。root@debdutta-Lenovo-G50-80:~#$HADOOP_PREFIX/sbin/start-dfs.shWARNING:HADOOP_PREFIXhasbeenreplacedbyHADOOP_HOME.UsingvalueofHADOOP_PREFIX.Startingnamenodeson[localhost]ERROR:AttemptingtooperateonhdfsnamenodeasrootERROR:butthereisnoHDF

amazon-ec2 - 在 EC2 集群上安装 Hbase/Hadoop

我知道我可以分拆出一个安装了Hadoop的EC2集群(除非我错了)。Hbase怎么样?我可以预先准备好Hadoop和Hbase吗?或者我需要弄脏我的手吗?如果它不是一个选项,什么是最好的选择?Cloudera显然有一个包含两者的软件包。这是要走的路吗?感谢您的帮助。 最佳答案 hbase有一组ec2脚本,可以让您快速设置并准备好运行。它允许您配置zk服务器和从节点的数量,但我不确定它们在哪些版本中可用。我正在使用0.20.6。设置一些S3/EC2信息后,您可以执行以下操作:/usr/local/hbase-0.20.6/contri

hadoop - 复制自本地 : `/user/hduser/gutenberg' : No such file or directory

到目前为止,我一直遵循michael-noll的指导,但卡在了这里。hduser@ubuntu:/usr/local/hadoop$bin/hadoopdfs-copyFromLocal/tmp/gutenberg/user/hduser/gutenbergDEPRECATED:Useofthisscripttoexecutehdfscommandisdeprecated.Insteadusethehdfscommandforit.13/11/1123:24:13WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryfory

EC2 上的 Hadoop 与 Elastic Map Reduce

我正在尝试评估这两个选项之间的差异。以下是我能想到的一些优缺点:ElasticMapReduce=>来自Amazon的更好支持,无需管理集群,更昂贵(?)EC2+Hadoop=>更多地控制您的hadoop配置,更便宜(?)我想知道是否有人针对EMR对EC2+Hadoop的性能进行了基准测试?大型集群部署的成本是否有显着差异?还有哪些区别? 最佳答案 我们在工作中使用这两种方法(EMR和EC2)。Amar提到的EMR的优势或多或少是正确的:因此,如果您想要简单,它可能是可行的方法。但是还有其他的考虑:EMR的版本远远落后于apache

php - 德鲁巴 7 : Get user information on account creation

我正在尝试创建一个模块,用户可以在其中创建他的帐户并在提交时获取他的信息并将它们也插入第二个数据库中。我的意思是他将存在于两个数据库和Drupals用户表以及其他数据库的用户表中。我如何获取他的信息并将它们插入自定义数据库?我对Drupal开发完全陌生。提前感谢您的任何帮助或建议。 最佳答案 您将需要实现hook_form_alter()并使用以下代码:function[YOUR_MODULE]_form_alter(&$form,&$form_state,$form_id){if($form_id=="user_register_

php - 无法在 Amazon EC2 上设置 cron-job

我有一个AmazonEC2实例(Ubuntu服务器13.04-64位[ami-bf1d8a8f])运行我的网站。我需要设置一个CronJob来每天收到电子邮件提醒。有没有人有任何建议或可能的解决方案?感谢您的宝贵时间。 最佳答案 这与通过命令行在任何其他服务器上设置cron作业一样。通过SSH连接导航到/etc/cron.daily制作一个运行/调用PHP脚本以发送电子邮件/其他任务的新脚本确保其可执行您可以使用诸如wget-q-Otemp.txthttp://www.site.com/cron.php之类的命令来调用PHP脚本,或

php - 无法将 Laravel 应用程序部署到 EC2

我的Laravel项目都在我的本地主机上运行。我将它部署到EC2,但没有任何反应。我在开发控制台中看到的只是内部错误(500)。我错过了什么?在部署到AWS之前我需要更改什么?这是网址:http://ec2-52-88-99-75.us-west-2.compute.amazonaws.com这是httpd.conf文件:http://collabedit.com/sdcxm 最佳答案 AfterinstallingLaravel,youmayneedtoconfiguresomepermissions.Directorieswit