草庐IT

computed_val

全部标签

java - Google Compute Engine 上 Hadoop 中的标准输出

我正在尝试调试在GoogleComputeEngine上的Hadoop上运行的程序作为.jar文件。我尝试在reducer代码中同时使用System.out.println()和context.write()进行调试输出,但无法在任何地方找到它们的输出。我能找到的唯一日志是我的Google存储桶gs:/my_bucket/yarn-logs/my_name/logs/application_#####中的日志和存储在$hadoop_install_dir$中的本地日志/logs/但它们都没有我正在寻找的输出。在以前的日志中,我可以看到我的log4j没有正确初始化,但我不确定这是否是问题

hadoop - Google Compute 引擎中的职位跟踪 URL 不起作用

我正在使用GoogleComputeEngine在Hadoop上运行Mapreduce作业(几乎所有默认配置)。在运行作业时,我得到一个形式为http://PROJECT_NAME:8088/proxy/application_X_Y/的跟踪URL但它无法打开。我是不是忘记配置什么了? 最佳答案 要详细说明在使用GoogleComputeEngineVM的“外部IP地址”的其他答案中提到的选项Amal,您可以通过运行gcloudcomputeinstancesdescribe--zone来获取外部IP地址。并寻找natIP.要打开端

hadoop - 无法在 Google Compute Engine 中安装 Hadoop

当我尝试从谷歌计算引擎“部署ApacheHadoop”时,我收到一条消息“部署将超过us-central1的CPU配额。限制:8。减少使用,选择另一个区域中的区域,或者请求增加配额。”我尝试了所有区域。它仍然无法正常工作。 最佳答案 如果您使用的是GCE免费试用版,则限制为8个并发CPU内核。这对所有地区和地区都是如此,因此尝试在不同的地区并不能解决这个问题。要运行更大的部署,您需要升级到付费帐户。或者,您可以使用GoogleCloudDataproc或bdutil至deployaHadoopcluster并选择一些较小的实例类型,

scala - SparkPi 程序在 Yarn/Spark/Google Compute Engine 下保持运行

在GoogleComputeEngine上部署了一个Hadoop(Yarn+Spark)集群,其中有一个主节点和两个从节点。当我运行以下shell脚本时:spark-submit--classorg.apache.spark.examples.SparkPi--masteryarn-cluster--num-executors1--driver-memory1g--executor-memory1g--executor-cores1/home/hadoop/spark-install/lib/spark-examples-1.1.0-hadoop2.4.0.jar10作业一直在运行,每

java - 在 Google Compute Engine 上成功安装 Oryx?

我正在尝试在GoogleComputeEngine上启动并运行Oryx。我创建了一个新实例并通过以下方式安装了Oryx:gitclonehttps://github.com/cloudera/oryx.gitcdoryxmvn-DskipTestsinstall并将此安装保存为GoogleComputeEngine上的图像(“oryx-image”)。查找Oryx和Google文件系统的问题(Hadoop2.4.1andGoogleCloudStorageconnectorforHadoop)我一直在使用hdfs://作为默认文件系统。发现在GoogleComputeEngine上启动

hadoop - hadoop 集群上的 gcloud compute 权限不足

我在开发控制台上使用点击部署机制安装了hadoop集群。我对自定义设置做了一些修改,例如机器种类,机器数量。集群已部署。但是现在当我登录到master并运行以下命令时sudogcloudcompute防火墙规则列表我收到错误:权限不足我检查了主节点的权限,我看到了这个:权限用户信息-禁用,计算障碍存储满任务队列-禁用BigQuery-禁用CloudSQL-已禁用云数据存储-禁用云平台-禁用当我启动一个单独的虚拟机时,我可以为这些方面启用它的权限,但是当我启动一个集群时,我不能。这是我在hadoopmaster上看到权限错误的原因吗?如何修复?更多背景:我需要启用防火墙端口,以便我可以使

php - 包含两个问号分隔符 '?' 的 php 查询字符串是否有问题? (file.php?parm1=val1&parm2=val2?parm3=val3&...)

所以这里有一些关于这个问题的更多细节......我有两个来自两个不同供应商的系统,都是专有的。我们将它们称为系统A和系统B。这两个系统都作为独立的实体运行,但系统B提供了系统A所缺少的一些额外的和非常具体的功能。系统B背后的供应商在相当基础的层面上与系统A集成(系统B与同一市场中类似于系统A的其他供应商系统集成)。系统B是一个php驱动的应用程序,而系统A不是。集成方法是这样的:系统B导出包含各种参数/值对的结构化控制文件(也称为文本文件)。系统A旨在将控制文件导入系统A。系统A获取控制文件中的数据,将其与自己的一些数据结合起来,并构造一个URI。此URL在系统A内的相应页面上显示为用

php - exec - PHP return_val 为 126

我正在尝试在PHP脚本中执行shell命令,但exec返回126代码,这意味着“调用的命令无法执行”(权限问题或命令不是可执行文件)。但最有趣的是,如果我在cli下运行相同的php脚本,它运行良好。有什么问题吗?可能环境有问题?因为当我在Apache下运行它时,如果我不使用可执行文件的绝对路径,它会返回127代码(在cli下它运行良好并返回0,即使我只使用文件名)。文件存储在/usr/local/bin文件夹。更新:正如评论中所问,我展示了我的代码示例,但没有什么特别之处。这部分在cli下工作正常,但在apache下不起作用($retval将等于127):$output=array()

php - 为 php `str_len ` 获得与 jQuery `.val().length()` 相同的结果

我使用jQuery即时计算文本区域的值:functioncount_chars(){count_chars=$('#text_textarea').val().length;}...然后在提交时序列化表单,通过ajax将textarea的文本发送到php文件,然后在服务器端验证文本。但是,我遇到了换行符和空格的问题。当然,如果我只是从文本区域“按原样”获取文本,php会将每个新行计为两个或4个字符(\n,...)。所以我尝试用这样的东西替换它们:strlen(str_replace(array("\r","\n"),'',$text)))或者这个:strlen(preg_replace

PHP 数组排序使用内部 val

Array([1]=>Array([id]=>1[sort]=>1)[3]=>Array([id]=>3[sort]=>3)[2]=>Array([id]=>2[sort]=>2))我如何对其进行排序以便使用内部“排序”键重新排序?即上面看起来像这样:Array([1]=>Array([id]=>1[sort]=>1)[2]=>Array([id]=>2[sort]=>2)[3]=>Array([id]=>3[sort]=>3)) 最佳答案 您可以使用usort使用此比较功能:functioncmpBySort($a,$b){ret